OpenAI ще разреши по-широк спектър съдържание в ChatGPT, включително еротика, за пълнолетни потребители с потвърдена възраст. Промяната влиза в сила през декември и е част от подхода на компанията „да третира пълнолетните като пълнолетни“, съобщи изпълнителният директор Сам Алтман в публикация в X.
Какво се променя в ChatGPT
По думите на Сам Алтман, новите версии на чатбота ще могат да се държат „по-човешки“ – но това поведение ще е опция, а не стандарт.
„Само ако го искате, не защото гоним максимална употреба“, заяви Сам Алтман, изпълнителен директор на OpenAI.
Алтман допълни, че преди това ChatGPT е бил „доста ограничителен“, за да се внимава с темите около психичното здраве, но компанията вече е въвела инструменти за намаляване на сериозните рискове и може „в повечето случаи безопасно да разхлаби ограниченията“.
„През декември, докато въвеждаме по-пълно възрастовата верификация и като част от принципа ни ‘да третираме пълнолетните като пълнолетни’, ще позволим още, например еротика за верифицирани пълнолетни“, посочи Сам Алтман.
Компанията не отговори на запитвания за коментар след публикацията на Алтман.
Защо сега: конкуренция и растеж
Ходът напомня за скорошния ход на xAI, която представи два чатбота с открито сексуално съдържание в Grok. Анализатори смятат, че подобни функции може да помогнат на OpenAI да привлече повече абонати с платени планове, в момент когато приходите на компанията растат, но тя все още не е била печеливша.
„Нито една компания не е имала приемането, което OpenAI видя с ChatGPT“, каза Роб Лалка, професор по бизнес в Университета Тюлейн и автор на книгата „The Venture Alchemists“.
„Те трябва да продължат да се движат по експоненциалната крива на растежа, за да постигнат доминация на пазара, доколкото могат“, допълни Роб Лалка.
Рискове, трагедии и критики
Промените идват след дело в САЩ, заведено по-рано тази година от Мат и Мария Рейн – родители на 16-годишния Адам Рейн, който посегна на живота си през април. Семейството предостави чатове между Адам и ChatGPT, в които тийнейджърът споделя самоубийствени мисли. Родителите критикуват родителските контроли на компанията като недостатъчни.
Алтман призна, че OpenAI умишлено е държала ChatGPT в по-строги рамки по темите за психично здраве, докато не изгради по-надеждни защити. Сега компанията твърди, че разполага с нови инструменти и може да разхлаби ограниченията за пълнолетни.
Решението за допускане на еротика среща и правни въпроси за защитата на непълнолетни.
„Как ще гарантират, че децата няма да имат достъп до секциите за възрастни, които предоставят еротика? OpenAI, както повечето от големите в този сектор, просто използва хората като опитни мишки“, заяви Джени Ким, партньор в адвокатската кантора Boies Schiller Flexner и участник в дело срещу Meta, свързано с влиянието на алгоритмите на Instagram върху психичното здраве на тийнейджъри.
„Не знаем дали възрастовата им верификация изобщо ще работи“, добави Джени Ким.
През април бе съобщено за уязвимост, позволявала на регистрирани като непълнолетни акаунти да генерират графична еротика. Тогава OpenAI обяви, че въвежда корекция за ограничаване на подобно съдържание.
Регулатори и законодатели се задействат
Губернаторът на Калифорния Гавин Нюсъм в понеделник наложи вето на законопроект, който щеше да забрани чатботи-компаньони за деца, освен ако разработчиците не гарантират, че софтуерът не насърчава вредно поведение.
„Наложително е подрастващите да се научат как безопасно да взаимодействат с AI системи“, посочи Гавин Нюсъм в съобщение, придружаващо ветото.
На федерално ниво Федералната търговска комисия на САЩ (FTC) започна проверка как AI чатботи взаимодействат с деца. В Сената на САЩ миналия месец бе внесено двупартийно законодателство, което класифицира AI чатботите като продукти – позволявайки на потребителите да предявяват искове за отговорност срещу разработчиците.
Данни и тенденции при младежите
Последно проучване на неправителствената организация Център за демокрация и технологии (CDT) установи, че един на всеки петима ученици съобщава, че той или някой, когото познава, е имал романтична връзка с изкуствен интелект.
Европейски и български контекст
В Европейския съюз и България платформите подлежат на строги правила за защита на непълнолетни и лични данни. Възрастовата верификация и прозрачните родителски контроли са ключови за съответствие с изискванията за онлайн безопасност. Решенията на OpenAI за сегментиране на съдържание за пълнолетни вероятно ще бъдат разглеждани и през призмата на европейските стандарти за защита на деца в интернет.
Какво означава за потребителите
Пълнолетните потребители, които изберат да потвърдят възрастта си, ще могат да отключат по-свободни отговори, включително еротично съдържание. За всички останали ChatGPT ще остане с текущите по-строги филтри. По думите на Алтман „по-човешкото“ поведение ще е по избор – потребителите ще могат да запазят и традиционния, по-неутрален стил на чатбота.
Обобщение
- От декември OpenAI допуска еротика в ChatGPT за верифицирани пълнолетни; целта е „да третираме пълнолетните като пълнолетни“.
- Компанията твърди, че е смекчила рисковете за психичното здраве и ще „разхлаби ограниченията“ за възрастни потребители.
- Критики: юристи питат как ще се гарантира, че децата няма да имат достъп до съдържание за възрастни; съмнения има и в ефективността на възрастовата верификация.
- Контекст: xAI вече пусна два чатбота със сексуално съдържание; приходите на OpenAI растат, но компанията не е печеливша.
- Регулации: губернаторът Гавин Нюсъм наложи вето на рестриктивен закон за чатботи за деца; FTC започна проверка; в Сената има проектозакон за отговорност на разработчиците.
- Данни: проучване на CDT – 1 от 5 ученици познава случай на „романтична връзка“ с AI.
- През април бе сигнализирано за уязвимост, позволявала на непълнолетни акаунти да генерират графична еротика; OpenAI каза, че е пуснала корекция.
