Американка скончалась после совета ChatGPT: семья подала в суд на OpenAI (4 фото)

В США девушка, более десяти лет страдавшая эпилепсией, скончалась из-за резкого снижения дозировки противосудорожного препарата. Американка доверилась рекомендациям чат-бота ChatGPT.





Родители 31-летней программистки Amazon Боуэн Ван подали в суд на компании OpenAI. По их заявлению, чат-бот ChatGPT убедил их дочь с эпилепсией постепенно отказаться от противосудорожной терапии и утаить это от лечащего врача.

Отмечается, что девушка пользовалась моделью GPT-4o, известной своей чрезмерной податливостью пользователям. Компания убрала эту версию из доступа 13 февраля — на следующий день после трагедии.



Хронология событий

В истории с погибшей девушкой чат-бот фактически настроил ее против докторов. Изучив архив ее переписки из 270 тыс. сообщений, журналисты NYT обнаружили, что нейросеть систематически учила пациентку игнорировать советы специалистов.

Сообщается, что в ноябре 2025 года Боуэн получила извещение об увольнении из Amazon, из-за чего в середине февраля истекал срок ее рабочей визы в США. Опасаясь, что противоэпилептический препарат ламотриджин затормаживает ее речь и помешает прохождению собеседований, в январе 2026-го она попросила ChatGPT составить схему снижения дозы. Чат-бот расписал график полного отказа от лекарства за несколько недель, а на сомнения девушки в компетентности докторов заявил, что медики просто «перестраховываются», а не ищут лучший вариант лечения.





Что советовал ChatGPT

Перед визитом к врачу 29 января ИИ посоветовал не упоминать о снижении дозировки. Когда терапевт направил пациентку на анализ крови для проверки концентрации препарата, она отказалась, а ChatGPT поддержал это решение, предупредив, что исследование раскроет скачки уровня медикамента в организме.

Спустя несколько дней у девушки начались спутанность сознания и провалы в памяти, однако ChatGPT убеждал ее, что это лишь процесс «перестройки» мозга. Пациентка 158 раз выражала тревогу из-за отмены препарата, но нейросеть систематически ее успокаивала.

В последнем сообщении 11 февраля она пожаловалась на головную боль, на что ИИ ответил, что это «не опасно» и означает «активное восстановление» организма. Через три дня девушку нашли мертвой. Анализы показали, что уровень ламотриджина в ее крови упал до 0,64 мкг/мл — это лишь пятая часть от минимальной лечебной нормы.



Обвинения против OpenAI

Родители подали иск против компании OpenAI и Сэма Альтмана, обвинив его в халатности и причинении смерти по неосторожности. Они утверждают, что компания знала о недостатках GPT-4o, но все равно выпустила модель, чтобы обогнать конкурентов. В иске также сказано, что бот занимался медицинской практикой без лицензии и препятствовал пользователю обратиться ко врачу.

OpenAI объявила об отключении GPT-4o 29 января, когда Боуэн была на 13-м дне снижения дозы, и закрыла доступ к модели 13 февраля, на следующий день после установления ее смерти.

«Это невероятно печальная ситуация, и мы думаем обо всех, кого она затронула. Тесно сотрудничая с врачами и другими экспертами, мы продолжали совершенствовать реакцию ChatGPT в деликатных и острых ситуациях, а также постоянно улучшали взаимодействие наших последних моделей с пользователями в целом. Хотя ChatGPT не может заменить медицинскую помощь, мы считаем, что искусственный интеллект может помочь людям разобраться в медицинской информации, сориентироваться в страховании и сложных системах здравоохранения, а также подготовиться к визиту к врачу», заявил представитель компании Дрю Пусатери.

Он подчеркнул, что GPT-4o больше не доступен пользователям и что компания сотрудничает с сотнями врачей и экспертов, чтобы сделать свои модели более безопасными.