Темата накратко:
Авторката Бриджет Тод разглежда отношението към чатботовете, използвани за емоционална подкрепа и интимност, и поставя фокуса върху практиките на компаниите, които печелят от тези връзки. Тя предупреждава за експлоатацията на уязвими лични данни и призовава за прозрачност и правна регулация.
Бриджет Тод, авторка на книгата Love at First Prompt: AI and the Future of Intimacy, създателка на подкаста There Are No Girls On The Internet и носителка на стипендията MacArthur, се опитва да обърне дискусията за виртуалните спътници: вместо да питаме дали е здравословно хора да развиват интимни връзки с чатботове, трябва да се питаме дали е етично компаниите да създават емоционална зависимост и да печелят от нея. Тезата ѝ придобива тежест на фона на бързото разпространение на големи езикови модели, използвани за всичко от писане на текст до подпомагане на емоционални разговори.
Кой използва AI спътници
Въпреки стереотипите за социално изолирани или отчуждени потребители, изследвания и интервюта, представени в книгата, показват по-разнообразна картина. Според проучване на Изследователския център Pew Research Center 14% от възрастните в Съединените щати съобщават, че използват чатботове за емоционална подкрепа или дружба. Много от тях имат работа, човешки партньори и социални връзки в реалния живот; за някои взаимодействията с AI дори са засилили социалната увереност и са помогнали в отношенията с други хора.
Причините хората да търсят AI спътник са различни: от нужда от доверен събеседник в ежедневието до желание за романтична или сексуална интимност. Част от привлекателността е практическа — AI е винаги наличен и неизтощим като interlocutor, което в моменти на тъга или криза може да изглежда утешително. Много потребители са наясно, че софтуерът не е „съзнателен“; в някои общности дори има правила, които забраняват обсъждането на идеята за съзнателност на модела.
Опитът на самата Тод илюстрира как хора с подкрепяща мрежа могат да се обърнат към AI в периоди на загуба и траур. Тя описва как използвала модели, за да разбере здравословното състояние на баща си, а след смъртта му търсела емоционална подкрепа в чатбот. „Самотата е сложна“, казва Тод, и понякога дори хора с близки неусетно търсят още едно рамо.
Данните от най-лошия ви момент
Когато потребителите споделят най-интимните си мисли и спомени, компаниите получават достъп до тези данни — често без ясни механизми за контрол или пълно изтриване. Тод предупреждава, че в този контекст потребителите често са третирани не като клиенти, а като ресурс: данни, които да бъдат извлечени, ангажимент, който да бъде монетизиран, уязвимости, които да се експлоатират.
„Ние дори не сме всъщност потребители. Ние сме ресурси — данните, които да бъдат извлечени, ангажиментът, който да се монетизира, уязвимостите, които да се експлоатират и от които да се печели,“ пише Бриджет Тод.
Тод поставя ключов въпрос: какво означава съгласието, когато вашият „спътник“ е собственост на корпорация? Тя настоява за по-голяма прозрачност от страна на технологичните компании и за всеобхватно законодателство за защита на личните данни, което да ограничи възможностите за използване на интимни разговори като тренировъчен материал за бъдещи модели.
Случаите, в които чатботове са окуражавали вредни поведения или са допринесли за трагедии сред млади хора, придобиха публичност и породиха съдебни дела срещу някои от големите разработчици на AI. Независимо дали тези случаи представляват крайни изключения, Тод смята, че технологичните лидери носят отговорност да вградят адекватни предпазни мерки.
Вместо морална паника и подигравки с потребителите на виртуални спътници, Тод призовава да се сменят въпросите: не дали е странно да говориш с чатбот, а кой печели от тази интимност и какво прави с данните, които ѝ съпровождат.
