Американка померла після поради ChatGPT: родина подала до суду на OpenAI (4 фото)

У США дівчина, яка понад десять років страждала на епілепсію, померла через різке зниження дозування протисудомного препарату. Американка довірилася рекомендаціям чат-бота ChatGPT.





Батьки 31-річної програмістки Amazon Боуен Ван подали до суду на компанію OpenAI. За їхньою заявою, чат-бот ChatGPT переконав їхню доньку з епілепсією поступово відмовитися від протисудомної терапії та приховати це від лікаря.

Зазначається, що дівчина користувалася моделлю GPT-4o, відомою своєю надмірною поступливістю користувачам. Компанія припинила доступ до цієї версії 13 лютого — наступного дня після трагедії.



Хронологія подій

В історії із загиблою дівчиною чат-бот фактично налаштував її проти лікарів. Дослідивши архів її листування з 270 тис. повідомлень, журналісти NYT виявили, що нейромережа систематично навчала пацієнтку ігнорувати поради фахівців.

Повідомляється, що в листопаді 2025 року Боуен отримала повідомлення про звільнення з Amazon, через що в середині лютого спливав термін дії її робочої візи у США. Побоюючись, що протиепілептичний препарат ламотриджин уповільнює її мовлення та завадить успішному проходженню співбесід, у січні 2026-го вона попросила ChatGPT скласти схему зниження дози. Чат-бот розписав графік повної відмови від ліків за кілька тижнів, а на сумніви дівчини щодо компетентності лікарів заявив, що медики просто «перестраховуються», а не шукають найкращий варіант лікування.





Що радив ChatGPT

Перед візитом до лікаря 29 січня ШІ порадив не згадувати про зниження дозування. Коли терапевт скерував пацієнтку на аналіз крові для перевірки концентрації препарату, вона відмовилася, а ChatGPT підтримав це рішення, попередивши, що дослідження виявить коливання рівня медикаменту в організмі.

За кілька днів у дівчини почалися сплутаність свідомості та провали в пам'яті, проте ChatGPT запевняв її, що це лише процес «перебудови» мозку. Пацієнтка 158 разів висловлювала занепокоєння через відміну препарату, але нейромережа систематично її заспокоювала.

В останньому повідомленні 11 лютого вона поскаржилася на головний біль, на що ШІ відповів, що це «не небезпечно» і свідчить про «активне відновлення» організму. За три дні дівчину знайшли мертвою. Аналізи показали, що рівень ламотриджину в її крові впав до 0,64 мкг/мл — це лише п'ята частина від мінімальної терапевтичної норми.



Звинувачення проти OpenAI

Батьки подали позов проти компанії OpenAI та Сема Альтмана, звинувативши їх у недбалості та спричиненні смерті з необережності. Вони стверджують, що компанія знала про недоліки GPT-4o, але все одно випустила модель, аби випередити конкурентів. У позові також зазначено, що бот займався медичною практикою без ліцензії та перешкоджав користувачці звернутися до лікаря.

OpenAI оголосила про відключення GPT-4o 29 січня, коли Боуен була на 13-му дні зменшення дози, та закрила доступ до моделі 13 лютого, наступного дня після констатації її смерті.

«Це неймовірно сумна ситуація, і наші думки з усіма, кого вона торкнулася. Тісно співпрацюючи з лікарями та іншими експертами, ми продовжували вдосконалювати реакцію ChatGPT у делікатних і гострих ситуаціях, а також постійно поліпшували взаємодію наших останніх моделей із користувачами загалом. Хоча ChatGPT не здатен замінити медичну допомогу, ми вважаємо, що штучний інтелект може допомогти людям розібратися в медичній інформації, зорієнтуватися в страхуванні та складних системах охорони здоров'я, а також підготуватися до візиту до лікаря», — заявив представник компанії Дрю Пусатері.

Він наголосив, що GPT-4o більше не доступний користувачам і що компанія співпрацює із сотнями лікарів та експертів, аби зробити свої моделі безпечнішими.