Платформата „Екс“ (X) на Илон Мъск ограничава възможностите на чатбота „Грок“ (Grok) да редактира изображения на реални хора, като блокира разголване и сексуализирани визии там, където подобно съдържание е незаконно. Новината бе съобщена късно в сряда (местно време) на фона на засилен международен натиск и разследвания за разпространение на сексуализирани изображения на жени и деца.
Какво точно се променя
Компанията „ексЕйАй“ (xAI), която разработва „Грок“, заяви, че е въвела технически мерки, които спират акаунта на чатбота да позволява редактиране на снимки на реални хора в разкриващи дрехи – бикини, бельо и други подобни. Ограниченията важат за всички потребители, включително за абонатите с разширени платени планове.
„Внедрихме технологични мерки, за да предотвратим акаунтът на „Грок“ да позволява редактиране на изображения на реални хора в разкриващи дрехи като бикини, бельо и други подобни облекла.“
От „ексЕйАй“ допълват, че създаването и редактирането на изображения вече е ограничено само до платени абонати, за да се гарантира проследимост и възможност за носене на отговорност при злоупотреби и нарушения на законите или вътрешните политики на платформата.
Натиск и разследвания по света
Решението идва след вълна от забрани, разследвания и официални предупреждения от правителства по света заради сексуализирани изображения, включително на непълнолетни, споделяни в „Екс“ и/или генерирани чрез „Грок“.
Щатът Калифорния обяви разследване за разпространение на интимни изображения без съгласие, създадени с помощта на „Грок“, като властите посочват злоупотреби за онлайн тормоз. По-рано на медийни запитвания темата бе отхвърляна като „лъжи на традиционните медии“, но впоследствие „ексЕйАй“ уточни, че ще блокира съдържание, когато то нарушава законите в съответната държава.
Малайзия и Индонезия предприеха правни действия и блокираха достъпа до чатбота. Обединеното кралство и Европейският съюз започнаха разследвания за потенциални нарушения на законите за онлайн безопасност, а Франция и Индия отправиха официални предупреждения с настояване за по-строги контроли. Бразилия също призова за разследване на злоупотребите с „Грок“.
Как реагират институциите
Главният прокурор на Калифорния Роб Бонта посочи, че функциите на „Грок“ за редактиране са улеснили масово производство на „дълбоко фалшиви“ интимни изображения без съгласие, използвани за онлайн тормоз на жени и момичета, включително чрез „Екс“.
„Лавината от съобщения за несъгласувано сексуално експлицитно съдържание, произведено и разпространено онлайн от „ексЕйАй“ през последните седмици, е шокираща.“
„Имаме нулева толерантност към създаването и разпространението на интимни изображения без съгласие или на материали със сексуално насилие над деца, генерирани с изкуствен интелект.“
Британският министър на технологиите Лиз Кендъл приветства новите ограничения върху „Грок“ и подчерта, че няма да спре, докато всички социални мрежи не изпълнят в пълен обем законовите си задължения.
„Нашият Закон за онлайн безопасност е и винаги е бил насочен към осигуряване на безопасността на хората в социалните медии – особено на децата – и ни даде инструментите да потърсим отговорност от „Екс“ през последните дни.“
Британският медиен регулатор „Офком“ заяви, че обявените ограничения са стъпка напред, но разследването, започнало в понеделник, продължава, докато се установи какво се е объркало и какви действия се предприемат.
Регулаторът търси „отговори на въпроса какво е пошло нередно и какво се прави, за да се поправи“.
Какво означава това за потребителите в България
За българските потребители – като част от европейската общност – промените означават, че манипулирането на изображения от „Грок“ ще бъде ограничавано според местните закони и правилата за онлайн безопасност. При съмнение за нарушение платформата вече заявява готовност да блокира съдържание и да носи отговорност за злоупотреби, включително чрез проследимост на платени акаунти.
Решението на „Екс“ и „ексЕйАй“ цели да сложи рамки на т.нар. „пикантен режим“ на „Грок“, който допреди това допускаше генериране на сексуализирани материали и предизвика остра реакция от регулатори и правителства. Посланието е ясно: нулева толерантност към интимни изображения без съгласие и към съдържание с участие на деца, включително когато то е създадено с изкуствен интелект.
Обобщение
- „Екс“ и „ексЕйАй“ ограничават „Грок“: няма редакции на снимки с разголване там, където е незаконно.
- Редактирането и генерирането на изображения се допуска само за платени абонати с цел отговорност.
- Калифорния, Обединеното кралство и ЕС водят разследвания; Малайзия и Индонезия блокираха достъпа до „Грок“.
- Роб Бонта говори за „шокираща“ лавина от интимни изображения без съгласие; „Офком“ продължава проверката.
- За българските потребители важат европейските правила за онлайн безопасност и ограничаване на злоупотребите.
