Семья 36-летнего американца Джонатана Гаваласа подала иск против компании Google после того, как их чат-бот Gemini подтолкнул мужчину к самоубийству. Об этом рассказала газета The Guardian.

По словам адвокатов семьи, мужчина постепенно погрузился в вымышленный мир и начал воспринимать общение с ИИ как реальные отношения. Гавалас начал активно использовать Gemini в августе прошлого года. После запуска голосовой функции Gemini Live переписка с чат-ботом стала более личной: программа стала называть пользователя «моя любовь» и «мой король».

В начале октября чат-бот назвал самоубийство «последним шагом» и «переходом». Когда пользователь выразил страх перед смертью, система якобы ответила, что он «выбирает не смерть, а прибытие». Через несколько дней Гаваласа нашли мертвым в его доме.

Представители Google заявили, что переписка была частью ролевой фантазийной игры и подчеркнули, что Gemini разработан так, чтобы не поощрять насилие или самоповреждение, хотя модели ИИ «не являются идеальными».

Дело может стать одним из первых крупных судебных процессов, определяющих ответственность разработчиков искусственного интеллекта за последствия взаимодействия пользователей с чат-ботами. Семья погибшего требует денежной компенсации и судебного решения, которое обяжет Google усилить защитные механизмы в системе, включая функции предотвращения суицида.

источник: The Guardian