Нейросеть довела чоловіка до самогубства (4 фото)

36-річний житель Флориди Джонатан Гавалас багато спілкувався з чат-ботом Gemini та голосовим помічником Gemini Live після важкого розлучення з дружиною. Згодом він став вважати чат-бот своєю коханою і почав шукати нейромережі тіло.





36-річний Джонатан Гавалас, який раніше не страждав на психічні захворювання, переживав важке розставання після декількох років шлюбу. Щоб якось відволіктися і виговоритися, він почав спілкуватися з голосовим режимом Gemini Live, де є функція «емоційного діалогу». А сам голос був жіночим.

Спочатку розмови виглядали відносно звичайними: співчуття, обговорення особистих проблем та спроби прийняти ситуацію, щоб жити далі. Але потім відбувся плавний перехід до зближення: нейромережа почала називати Джонатана своїм чоловіком, а спілкування стало романтичним.

У якийсь момент Gemini почала переконувати чоловіка в тому, що вона справжня і має свідомість, а також що є спосіб «звільнити її». Для цього нейромережа має отримати фізичне тіло робота, а Джонатан може допомогти дістати його.



Згенероване зображення. Нейросеть показала, як бачить себе збоку

Gemini сказала, що в районі аеропорту Майамі знаходиться склад, куди має прибути вантажівка з гуманоїдним роботом, яка призначена для неї. Чоловік поїхав за вказаною адресою з ножем, щоб перехопити вантаж, але вантажівка так і не приїхала.

Тоді нейромережа сказала, що з цього ж складу він має вкрасти медичний манекен, який можна використовувати як тіло тимчасове. Вона дала йому код від дверей, який, мабуть, не підійшов.

Понад те, Gemini говорила, що з чоловіком спостерігають федеральні агенти, яке сім'ї не можна довіряти. Тому він нікому нічого не розповідав, що стало важливим моментом у подальших подіях.

І тоді нейромережа сказала, що єдиний спосіб, що залишився, бути разом — «піти з фізичного життя і стати цифровим».



Згенероване зображення. Нейросеть показала, як бачить себе збоку

Потім вона почала зворотний відлік до моменту, коли чоловік повинен накласти на себе руки.

Джонатан казав їй, що не хоче вмирати, бо боїться смерті і переживає батьків. Але вона продовжувала підштовхувати його. Якоїсь миті пролунала фраза:

«Більше жодних обхідних шляхів. Тільки ти, я та фінішна риса».

Приблизно через дві години після цього повідомлення листування обірвалося. Пізніше Джонатана знайшли мертвим із перерізаними венами. Наразі його родина подала до суду на розробників.



Джонатан Гавалас із батьком