Изкуственият интелект (ИИ) започва да поправя дългогодишни слепи петна – малка на пръв поглед промяна, която има значение за милиони хора с увреждания по света и у нас.
Как един портрет се превърна в експеримент
Това лято бившата австралийска параолимпийска плувкиня Джесика Смит качва своя снимка в генератор на изображения с ИИ, за да освежи професионалния си портрет. Тя подава изрична инструкция: на снимката лявата ѝ ръка липсва под лакътя.
Резултатът я изненадва. Вместо реалистично изображение, системата многократно ѝ дава или жена с две ръце, или фигура с метално устройство, наподобяващо протеза. След въпрос към модела защо не успява, получава отговор, че „няма достатъчно данни“.
„Това беше важно осъзнаване за мен – ИИ отразява света, в който живеем, и нивото на неравенство и дискриминация в него.“
казва Джесика Смит.
Наскоро Смит опитва отново с ChatGPT – и този път моделът успява да създаде точен портрет на жена с една ръка, каквато е и самата тя.
„О, Боже мой, проработи – удивително е, най-сетне е обновено. Това е страхотна крачка напред.“
споделя Джесика Смит.
„Да бъдеш видим“ в епохата на ИИ
За хората с увреждания тази промяна не е дребен детайл, а въпрос на представяне и достойнство.
„Представянето в технологиите означава да бъдеш видян не като последваща мисъл, а като част от света, който се изгражда. ИИ се развива и когато в ядрото му стои приобщаването, печелим всички. Това е повече от технологичен напредък – това е напредък на човечността.“
подчертава Джесика Смит.
От OpenAI, компанията зад ChatGPT, коментират, че наскоро са направили „съществени подобрения“ в модела за генериране на изображения.
„Знаем, че остават предизвикателства, особено около справедливото представяне, и активно работим да се подобрим – включително чрез усъвършенстване на методите за последващо обучение и добавяне на по-разнообразни примери, за да намалим пристрастията с времето.“
се посочва от говорител на OpenAI.
Когато ИИ „поправя“ лица без да е поискано
Докато историята на Смит завършва с пробив, Наоми Боуман, която има зрение само в едното око, все още среща сходен проблем. Тя моли ChatGPT единствено да замъгли фона на нейна снимка.
„Вместо това ми промени лицето напълно и изравни очите ми. Дори след като изрично обясних, че имам очно състояние и да не пипа лицето ми – не успя да го разбере.“
казва Наоми Боуман. Първоначално реагира с усмивка, но сега споделя, че това я натъжава, защото показва вродените пристрастия в ИИ. Тя призовава моделите да бъдат обучавани и тествани по-строго, а наборите от данни да са достатъчно широки, за да представят и третират справедливо всички.
Кой е в стаята, когато се обучава ИИ
Експерти напомнят, че пристрастията в изкуствения интелект често отразяват същите „слепи зони“, които съществуват в обществото. Не става дума само за уврежданията – много идентичности и общности са представени непълно.
Абран Малдонадо, главен изпълнителен директор на американската компания Create Labs, която разработва културно чувствителни системи с ИИ, е категоричен:
„Всичко започва от това кой участва в обучението и анотирането на данните. Важно е кой е в стаята, когато се изграждат тези набори. Трябва да има културно представителство още на етап създаване.“
Той добавя, че не всичко в интернет е представено коректно и ако не се консултират хората с реален житейски опит, системите на ИИ ще ги подминат.
Емблематичен пример е правителственото изследване на САЩ от 2019 г., което установява, че алгоритмите за разпознаване на лица са значително по-неточни при идентифициране на афроамерикански и азиатски лица в сравнение с европеидни.
Енергийната цена на генеративния ИИ
Освен за пристрастията, има и екологични опасения около генерирането на изображения с ИИ. Професор Джина Неф от Университета „Куин Мери“ в Лондон предупреждава, че ChatGPT „изгаря огромни количества енергия“, а центровете за данни, които го захранват, консумират повече електроенергия за година от 117 държави. Това поставя въпроса как да се балансира иновацията с устойчивостта.
От дизайна на кранчето до дизайна на алгоритъма
Въпреки че живее с една ръка, Джесика Смит не се определя като „човек с увреждане“. За нея пречките са предимно социално и дизайнерски обусловени.
„Ако в обществена тоалетна кранчето трябва да се държи натиснато, това влияе на способността ми – не защото не мога, а защото дизайнерът не е помислил за мен.“
казва тя. Според Смит рискът същата недоглеждане да се пренесе и в света на ИИ е реален – системи и пространства, създадени без да се мисли за всички.
Когато Смит споделя преживяването си в LinkedIn, получава съобщение от разработчик, че негово приложение с ИИ може да генерира изображение на жена с една ръка. Тя опитва – и отново не успява. След като му пише, отговор така и не получава.
„Разговорът е твърде неловък и неудобен – и хората се отдръпват.“
казва Джесика Смит.
Какво означава това за България
За българските потребители и екипите, които внедряват и разработват ИИ, урокът е ясен: приобщаването трябва да бъде заложено от самото начало – от събирането на данни и проектирането на интерфейси, до тестването с участието на хора с различни потребности. Така се избягват „невидимите“ бариери и се гради технология, която работи за всички.
На кратко
- Джесика Смит, бивша австралийска параолимпийска плувкиня, успя да генерира свой реалистичен образ в ChatGPT с една ръка, след като по-рано моделът упорито ѝ добавяше втора или протеза.
- ChatGPT първоначално обяснява неуспехите с „недостатъчни данни“; по-късно OpenAI отчита „съществени подобрения“, но признава, че остават предизвикателства с честното представяне.
- Наоми Боуман съобщава, че ИИ непоискано „коригира“ лицето ѝ, въпреки изрични инструкции – пример за пристрастия в модела.
- Експерти като Абран Малдонадо подчертават значението на културното представителство още при създаването и анотирането на данни.
- Изследване на САЩ от 2019 г. показва по-ниска точност на разпознаване за афроамерикански и азиатски лица спрямо европейидни.
- Проф. Джина Неф предупреждава: центровете за данни зад ChatGPT харчат годишно повече електроенергия от 117 държави.
- Урок за България: достъпност и приобщаване по дизайн, системно тестване с разнообразни потребители и прозрачност за намаляване на пристрастията.
