Малайзия и Индонезия блокираха достъпа до Grok – чатбота с изкуствен интелект на платформата X на Илон Мъск – заради способността му да генерира сексуализирани дипфейкове. Двете държави са първите в света, които забраняват инструмента. Решението идва на фона на засилен международен натиск, включително във Великобритания.
Какво е Grok и къде е проблемът
Grok е инструмент на X, който позволява генериране на изображения. През последните седмици той е използван за редактиране на снимки на реални хора, така че да изглеждат в разкриващи облекла. Властите в Югоизточна Азия предупреждават, че инструментът може да се използва за създаване на порнографски и неразрешени изображения, включително с жени и деца.
Сексуализираните дипфейкове, генерирани чрез Grok, предизвикаха остра реакция в световен мащаб.
Решенията на Куала Лумпур и Джакарта
Малайзийската комисия по комуникации и мултимедия съобщи, че по-рано през годината е изпратила уведомления до X с искане за по-строги мерки, след като установила повтаряща се злоупотреба с Grok за генериране на вредно съдържание. По думите на регулатора отговорът на X не е адресирал присъщите рискове в дизайна на платформата и се е концентрирал основно върху процеса за подаване на сигнали от потребители. Grok ще остане блокиран, докато не бъдат внедрени ефективни предпазни механизми, а обществото е призовано да съобщава за вредно онлайн съдържание.
Министерството на комуникациите и цифровите въпроси на Индонезия също е поискало разяснения от X за използването на Grok. Министърът Меутя Хафид подчерта, че подобни практики противоречат на ключови ценности и норми.
„Използването на Grok за създаване на сексуално съдържание е нарушение на човешките права, достойнството и онлайн безопасността,“ каза Меутя Хафид, министър по комуникациите и цифровите въпроси на Индонезия.
Индонезийските власти в последните години ограничиха и други източници на порнографско съдържание онлайн, като платформи като OnlyFans и Pornhub вече са забранени в страната.
Натиск във Великобритания
Във Великобритания Grok и компанията-майка X са под натиск, след като държавният секретар по технологиите Лиз Кендъл подкрепи призивите за блокиране на достъпа до социалната платформа заради неспазване на законите за онлайн безопасност. Регулаторът Ofcom се очаква скоро да реши как да процедира по случая с Grok.
Министър-председателят на Обединеното кралство Киър Стармър определи използването на инструмента за генериране на сексуализирани изображения като „позорно“ и „отвратително“.
Позицията на Илон Мъск и X
Платформата Grok беше потърсена за коментар. По-рано Илон Мъск заяви, че критиците на неговата платформа търсят „всякакъв повод за цензура“. От X акцентират върху процесите за докладване от потребители, но регулатори настояват за по-дълбоки промени в дизайна и защитите на услугата.
Контекст за България и ЕС
Случаят отново поставя на дневен ред глобалния проблем с дипфейковете и неразрешените изображения. В Европейския съюз действат по-строги изисквания за онлайн платформите за ограничаване на вредно съдържание и защита на потребителите. Експерти препоръчват потребителите да подават сигнали за злоупотреби и да проверяват източниците на съдържание.
Накратко
- Малайзия и Индонезия блокираха Grok в X заради сексуализирани дипфейкове и са първите в света с такава мярка.
- Малайзийският регулатор отчете повтаряща се злоупотреба и недостатъчни мерки от страна на X; блокадата остава до внедряване на ефективни защити.
- Индонезия поиска разяснения от X; страната вече е забранила OnlyFans и Pornhub.
- Във Великобритания Лиз Кендъл подкрепи призиви за блокиране на X; Ofcom предстои да се произнесе за Grok.
- Киър Стармър осъди случая като „позорен“ и „отвратителен“, а Илон Мъск говори за „всякакъв повод за цензура“.
