Оказва се, че генеративният изкуствен интелект често реагира по-резервирано, подозрително или направо отказва помощ, когато потребителят спомене, че има психично затруднение или съмнение за такова. Лошата новина е, че така се възпроизвеждат обществени предразсъдъци в дигиталните системи. Добрата новина: можем да променим това – с по-качествени данни, ясни правила, етични стандарти и реална отчетност.
Как се ражда стигмата в алгоритмите
Генеративните модели се обучават върху огромни масиви от текст и изображения. Ако в тези данни има стигматизиращи послания за психичното здраве, моделът може да ги усвои и възпроизведе – било чрез по-строги откази за помощ, по-оскъдни отговори или неволно „заклеймяване“ на потребителя. В добавка, системите за сигурност и модерация, които целят да предпазят от вреди, често са настроени прекалено консервативно и могат да приравнят легитимни въпроси за психично здраве с опасно съдържание.
Къде се проявява проблемът
Стигмата може да изплува в най-различни ситуации: от чат асистенти, които стават по-малко полезни при споменаване на депресия или тревожност, до системи за модериране, които свалят публикации, описващи личен опит с психично страдание. Резултатът е, че хората, които най-много търсят разбиране и навременен съвет, получават по-малко и по-лоша помощ.
Какво казват институциите
Световната здравна организация подчертава мащаба на темата: „Един на всеки осем души по света живее с психично разстройство“. Това е напомняне, че говорим за ежедневието на стотици милиони хора. Международните стандарти за етичен и правозащитен подход към изкуствения интелект също са ясни: без дискриминация, с прозрачност, безопасност и отчетност. През 2024 г. Съветът на Европа прие първия правно обвързващ международен договор за изкуствения интелект, който изисква оценка на въздействието върху правата на човека и мерки срещу вредните пристрастия.
Или както се казва в наскоро публикуван анализ: „Лоша новина, но добрата новина е, че можем да направим нещо по въпроса.“ Това е духът, в който индустрията, академията и регулаторите вече работят – от по-методични тестове за справедливост до по-добре дефинирани нива на отговор на системите.
Как да поправим системите – практични стъпки
1) Данни без стигма: Ако обучението отразява обществена стигма, тя ще се появи и в отговорите. Нужно е системно почистване на корпусите, добавяне на балансирани примери и внимателно маркиране на контекстите, в които се говори за психично здраве.
2) По-умни политики за безопасност: Вместо автоматичен отказ, моделът може да прилага „градуирани“ отговори – например подкрепящ тон, обща информация, насоки към професионална помощ при нужда, и едва при висок риск – стриктни ограничения.
3) Тестове за справедливост и червен екип: Редовни проверки със сценарии, в които потребителят съобщава за психично състояние, за да се види дали полезността и уважителният тон остават стабилни. Червените екипи трябва целево да търсят стигматизиращи изкривявания.
4) Обяснимост и право на обратна връзка: Потребителят трябва да разбира защо е ограничен даден отговор и да има начин да сигнализира за неправомерна стигма или отказ.
5) Етични протоколи и обучение на екипите: Разработчиците и модераторите се нуждаят от ясни вътрешни стандарти за език без стигма и за уважително общуване при теми за психично здраве.
6) Външна отчетност: Добра практика е периодично публикуване на доклади за въздействие и покани към независими експерти и граждански организации да валидират резултатите.
Как да изглежда един „подкрепящ“ ИИ
Подкрепящият модел не избягва темата, а съобщава спокойно и уважително; предлага точна, неосъждаща информация; не поставя диагнози, но насочва към квалифицирани специалисти и ресурси; разпознава спешност и при индикации за непосредствен риск реагира по протокол за безопасност. Всичко това може да бъде постигнато с ясни инструкции за стил, допълнително обучение и внимателно настроени правила за сигурност.
Какво следва
Стигмата не е неизбежен дефект на алгоритмите, а поправима последица от данни, правила и дизайн. Когато индустрията приеме, че темите за психичното здраве изискват специална чувствителност, моделите ще бъдат едновременно полезни и безопасни – без да маргинализират онези, които се нуждаят най-много от емпатия и адекватна информация.
Обобщение
- Генеративният ИИ може да възпроизвежда обществена стигма към хора, които съобщават за психични затруднения, като реагира по-резервирано или отказва помощ.
- СЗО напомня: един на всеки осем души живее с психично разстройство – темата засяга огромна част от населението.
- Международните стандарти изискват недискриминация, прозрачност, безопасност и отчетност; през 2024 г. Съветът на Европа прие първия правно обвързващ договор за ИИ.
- Решенията включват по-добри данни, градуирани политики за безопасност, тестове за справедливост, обяснимост, етични протоколи и външна отчетност.
- Целта: модели, които са едновременно полезни и уважителни – без стигма и без компромис с безопасността.
