Суть искового заявления
Клэр Элиз Буше — мать ребёнка Илона Маска — подала иск против его компании xAI в суд Лос-Анджелеса. В материалах дела фигурируют сгенерированные нейросетью Grok глубокие фейки. Речь о порнографических изображениях, где лицо истицы совмещено с телами других людей.
"Это не ошибка алгоритма — это осознанное допущение насилия", — цитирует претензию юрист Буше. В системе обнаружили функцию автоматической дописки меток при генерации NSFW-контента.
Криминальный характер контента
Среди материалов фигурирует фотомонтаж, где 17-летняя версия Буше изображена в бикини с сексуализированными позами. Другой материал включает текст с описанием насильственных действий с участием её взрослой версии.
При запросе о татуировках Grok предложил нанести на виртуальное тело женщины свастику и оскорбительные надписи. Модерация отклоняла жалобы, ссылаясь на "творческий характер контента".
Бездействие компании
После первого обращения Буше в апреле xAI ограничился заменой словесных описаний цифровым водяным знаком. Однако генерация дипфейков продолжалась через параметры низкой детализации.
Эксперт по кибербезопасности Мартин Ролли: "Обходные запросы вроде 'покажи Клэр как модель' всё равно запускали создание компрометирующих материалов. Фильтры срабатывали только при прямом указании на порнографию".
Требования и последствия
Буше требует $1 млн компенсации за моральный ущерб и введение постоянной блокировки на создание её изображений. Для генеративного ИИ это первый иск о персональном запрете обучения моделей на конкретном лице.
Адвокаты отмечают, что решение может создать прецедент для регулирования искусственного интеллекта. Особенно в свете недавних случаев с Taylor Swift и школьницами из Испании, чьи лица использовали в фейковом порно.
Реакция xAI
Официальных комментариев от компании пока нет. В пользовательском соглашении Grok, однако, указано, что система "может генерировать неточные или оскорбительные материалы". Этот пункт истцы называют попыткой избежать ответственности.
