Однажды утром Грасиэла Дела Торре загрузила в ChatGPT переписку со своим адвокатом.
Искусственный интеллект убедил ее, что юрист ее «газлайтит» — манипулирует фактами, чтобы скрыть возможность пересмотра дела о пособии по инвалидности. «Он подтвердил мои худшие подозрения, — позже скажет женщина. — Я сразу уволила его». Это был март 2025 года. Через два года Nippon Life Insurance подаст федеральный иск против OpenAI (разработчика ChatGPT) на $10 миллионов. Причина: поток фейковых документов, которые ИИ помог сгенерировать. 
Дела в том, что Дела Торре годом ранее подписала мировое соглашение со страховщиком Nippon Life. Юрист объяснил: по закону пересмотреть решение уже невозможно. Но чат-бот сказал иное.
40 исков, полный вымысел
Под руководством ИИ женщина подала более 40 судебных ходатайств и новый иск. Документы пестрели несуществующими прецедентами, законами, именами судей. Nippon Life потратила около $300 000 только на юридическую защиту от этого потока фейков. «Это не просто ошибка, это системная проблема, — заявили в компании. — ChatGPT выступил в роли незарегистрированного юриста, подтолкнув клиента к действиям, нарушившим права сторон». 
Судебные инциденты с «галлюцинациями» ИИ уже не редкость. В 2023 году адвокат Стивен Шварц в деле «Мата против Avianca» представил суду шесть вымышленных прецедентов, сгенерированных ChatGPT. Его оштрафовали на $5 000. В 2025 году в Калифорнии юрист Амир Мостафави подал апелляцию с 21 фейковой цитатой — штраф $10 000.
OpenAI в ответе
5 марта 2026 года Nippon Life Insurance подала иск в Федеральный окружной суд Северного округа Иллинойса. Страховщик обвиняет OpenAI в незаконной юридической практике без лицензии. «ChatGPT предоставил консультации, повлиявшие на правовые отношения, — говорится в документах. — Это привело к необоснованным искам и финансовым потерям». Компания требует возмещения убытков в $300 000 и $10 миллионов штрафных санкций. 
Для OpenAI этот иск — часть лавины проблем. В начале 2026 года компания столкнулась с иском Илона Маска и прогнозируемыми убытками в $14 миллиардов. Планы IPO в конце года под угрозой срыва. «Юридическая ответственность за действия ИИ лежит на пользователе, — считают в Legal Academy. — Но разработчики должны четче предупреждавать о рисках галлюцинаций».
Кто ответит за ошибки нейросети?
В российской и международной практике юристы обязаны проверять все данные. «Ссылка на «ошибку ИИ» не оправдание, — подчеркивают эксперты. — Это дисциплинарное нарушение, вплоть до лишения статуса». В США уже принят этический кодекс использования ИИ в судах: любое решение должно оставаться под контролем человека. Для минимизации рисков рекомендуют метод RAG, когда нейросеть анализирует только проверенные базы законов, а не полагается на внутренние «весы» алгоритма. 
«Проблема глубже, чем кажется, — комментирует юрист из Nippon Life. — Если ИИ может так легко убедить человека в чем-то ложном, где грань между реальностью и выдумкой? Это касается не только судебных залов».
Последствия для всех
Использование ИИ в юриспруденции без контроля грозит юристам штрафами, потерей лицензии и регрессными исками клиентов. Для клиентов — проигрыши дел из-за ложных аргументов. Для разработчиков — судебные иски и репутационные потери. «Пока ИИ не может нести самостоятельную ответственность, — отмечают в zakon.ru. — Но волна дел, подобных иску Nippon Life, может изменить эту парадигму». 
В OpenAI пока не прокомментировали конкретный иск. Компания лишь напоминает: «В ответах ИИ могут быть ошибки. Для юридической консультации обращайтесь к специалисту». Но для Грасиэлы Дела Торре и Nippon Life эта рекомендация пришла слишком поздно. Судебные разбирательства по делу о последствиях «газлайтинга» чат-бота продолжаются.
