ІІ забанив німу жінку, яка користувалася ним для розмови: компанія-розробник у шоці (2 фото)

Жінка була розчарована тим, що в неї забрали можливість спілкуватися. Компанія-розробник вибачилася, проте досі не знає, що сталося зі штучним інтелектом.





У жінки діагностували хворобу рухових нейронів - прогресуюче неврологічне захворювання, яке пошкоджує нервові клітини, що контролюють м'язи. Джойс може рухати кінцівками, але їй важко говорити та ковтати.

Вона має високотехнологічний інструмент штучного інтелекту, в який було завантажено записи її старих голосів, щоб відтворити їх.

Джойс могла "говорити" своїм старим голосом, набираючи пропозиції на пристрої, вибираючи букви рукою чи поглядом.

Якось Джойс чекала свого чоловіка, щоб зібратися, коли на її пристрої з'явилося повідомлення: "Давай, Ханні, тягни свою дупу в машину!"

Жінка відповіла британським жартом про те, що краще "одягти трусики".

"Наступного дня я отримала попередження від ElevenLabs про те, що я використала неприйнятну лексику, і щоб я більше так не робила!", - зізналася Джойс.



Джойс вважала, що попередження нічого не означатиме, але наступного дня їй заборонили користуватися пристроєм.

"Я тільки повернула собі голос, а вони його у мене забрали... і це всього через два дні після того, як я провела презентацію для місцевої групи людей, які страждають на розлади опорно-рухового апарату, і розповіла їм, наскільки дивовижні ElevenLabs", — додала жінка.

Компанія відновила її обліковий запис з вибаченнями, але ніхто досі не знає, що пішло не так.

На сайті компанії зазначено, що існують правила, які забороняють загрожувати безпеці дітей, займатися незаконною поведінкою, надавати медичні консультації, видавати себе за інших людей, втручатися у вибори тощо. Однак немає жодних конкретних деталей щодо неприйнятної лексики.