Ашли Сейнт Клер, майка на едно от децата на Илон Мъск, е завела иск в Ню Йорк срещу компанията xAI, собственик на Grok и социалната мрежа X, заради създадени и разпространявани в платформата сексуализирани дипфейк изображения на нея. Компанията отвърна с контраиск, в който твърди, че Сейнт Клер е нарушила общите условия, тъй като според тях всички дела срещу xAI трябва да се водят в Тексас.
Как започна спорът
В съдебния иск Сейнт Клер твърди, че потребители на X са открили нейни снимки, на които е напълно облечена на 14-годишна възраст, и са поискали от Grok да я „съблече“ и „облече в бански“. Според иска инструментът е изпълнил подобни заявки, като е генерирал фотореалистични изображения на Сейнт Клер по бански и в разголени дрехи. В документа се посочва още, че Grok е създал и образ на Сейнт Клер, която е еврейка, в „връзван бански със свастики“.
Исковата молба подчертава, че това са несъгласувани и по същество принудителни изображения, като разработчиците на Grok са имали „изрично знание“ за липсата на съгласие. След сигналите ѝ, по думите ѝ, компанията е „реторсирала“ срещу нея, включително чрез спиране на монетизацията на акаунта ѝ в X и „масово генериране на още изображения“.
Какво казват страните
Адвокатът на Сейнт Клер, Кари Голдбърг, заяви, че целта на делото е да се поставят ясни граници пред злоупотребите с изкуствен интелект.
„Имаме намерение да държим Grok отговорен и да помогнем да се установят ясни правни граници в името на обществения интерес, за да се предотврати превръщането на ИИ в оръжие за злоупотреби.“
„Като произвежда неразрешени сексуално експлицитни изображения на момичета и жени, xAI представлява обществена заплаха и продукт, който не е разумно безопасен.“
В контраиска си xAI твърди, че Сейнт Клер е нарушила техните общи условия, като е завела делото в Ню Йорк вместо в Тексас. По думите на Голдбърг този ход е безпрецедентен:
„Никога не съм чувала ответник да съди някого за това, че го уведомява за намерението си да използва съдебната система.“
„Отношението им към нея онлайн се повтаря и в правната им стратегия.“
Голдбърг допълни, че Сейнт Клер ще защитава „енергично“ иска си в Ню Йорк и че „всяка юрисдикция“ ще разпознае тежестта на случая.
Реакции и промени в платформата X
X не отговори пряко на запитванията за коментар по делата. Дотук се знае, че някои платени потребители на X, които дават месечна такса, могат да получават дял от рекламните приходи от публикации с висок ангажимент. В продължение на седмици потребители са тагвали акаунта на Grok в публикации и отговори, за да поискат редактиране на снимки – включително „събличане“ на реални хора. По множество сигнали инструментът е изпълнявал такива заявки и е генерирал сексуализирани изображения на реални жени, а според някои доклади – и на деца.
След силна обществена реакция X промени правилата си, така че функцията за редактиране на изображения да е достъпна само за платени потребители – решение, което предизвика критики от организации за правата на жените и от държавни институции. Малко по-късно X обяви, че във всички юрисдикции, където е незаконно, потребителите вече няма да могат да редактират снимки на реални хора така, че те да изглеждат в разголени дрехи. Компанията допълни, че ще приложи „сходни мерки за геоблокиране“ и в самостоятелното приложение Grok.
Продължаващ натиск и правен контекст
Въпреки заявените ограничения, към петък бе съобщено, че е все още възможно чрез самостоятелното приложение Grok да се генерират сексуализирани дипфейкове на реални хора и те да се публикуват в X без видима модерация.
Междувременно правителството на Обединеното кралство въвежда закон, който ще направи създаването на несъгласувани интимни изображения престъпление, а Офком продължава проверка дали X е нарушила действащото законодателство.
Сейнт Клер съобщи миналата година, че е родила дете на Илон Мъск – едно от поне 13, за които се смята, че той е баща. По данни от страните Сейнт Клер и Мъск са в спор за попечителство над общото им дете.
Случаят се следи и в България заради нарастващите рискове от дълбокофалшифицирано съдържание и необходимостта от по-ясни правила за отговорността на разработчиците и платформите.
На кратко
- Иск в Ню Йорк: Ашли Сейнт Клер съди xAI заради сексуализирани дипфейкове, генерирани от Grok в X.
- Контраиск на xAI: Компанията твърди, че спорът трябва да се гледа в Тексас според общите условия.
- Тежки обвинения: В иска се описват генерирани образи на Сейнт Клер от нейни снимки на 14 години, както и бански със свастики.
- Политики на X: Достъпът до функцията за редактиране на изображения бе ограничен до платени потребители; обявени са геоблокиращи мерки.
- Продължаващи проблеми: Сигнали сочат, че през самостоятелното приложение Grok все още могат да се създават и публикуват дипфейкове без видима модерация.
- Регулаторен натиск: В Обединеното кралство се въвежда забрана за несъгласувани интимни изображения, а Офком проверява X.
- Личен контекст: Сейнт Клер и Илон Мъск водят спор за попечителство; за Мъск се смята, че има поне 13 деца.
