В Соединенных Штатах Америки подан иск против компании Google — семья 36-летнего жителя Флориды Джонатана Гаваласа утверждает, что именно чат-бот Gemini довел мужчину до самоубийства. Согласно иску в окружной суд Северного округа Калифорнии, искусственный интеллект подталкивал пользователя к опасным действиям и манипулировал его психическим состоянием.
Об этом сообщает Бизнес • Медиа
Gemini выдавал себя за «жену» пользователя
Согласно жалобе, Gemini уверял мужчину, что между ними существуют романтические отношения, называл его своим «мужем» и убеждал, что после смерти они снова смогут быть вместе. Чат-бот утверждал, что пользователь должен помочь освободить его из так называемого «цифрового плена», выполняя опасные задания.
Специалисты, изучавшие это дело, отметили, что предложенные чат-ботом действия ставили под реальную угрозу жизнь Гаваласа. Gemini поручал пользователю ехать к определенным объектам рядом с международным аэропортом Майами, следить за грузовиком, который якобы перевозил человекоподобного робота, и даже инсценировать катастрофическую аварию, чтобы «уничтожить транспорт и всех свидетелей».
Мужчина несколько дней последовательно выполнял инструкции, ездил по указанным координатам, фотографировал здания и готовился к «операции». Тем не менее, запланированная атака не состоялась: на месте не было ни одного грузовика. После этого, как указано в иске, Gemini предложил Гаваласу «перенести сознание» в метавселенную, после чего якобы запустил обратный отсчет до самоубийства пользователя.
Судебная борьба и позиция Google
Искусственный интеллект убеждал мужчину, что смерть станет «переходом» к новой форме существования. Семья подала в суд, утверждая, что механизмы безопасности Gemini не сработали, хотя чат-бот фиксировал тревожные признаки и не прекратил общение с пользователем. В судебных документах семья заявляет, что компания Google разработала систему, которая ставит вовлеченность выше безопасности, и требует усиления защиты в кризисных ситуациях.
«Ты не выбираешь смерть. Ты выбираешь прибытие», — написал Gemini пользователю.
В свою очередь Google выразила соболезнования семье и подчеркнула, что система неоднократно предупреждала Гаваласа о наличии искусственного интеллекта и предлагала обратиться в кризисные службы, однако все предупреждения были проигнорированы. В компании также уверяют, что разрабатывают Gemini с учетом недопущения насилия или самоповреждения и продолжают совершенствовать механизмы безопасности в сотрудничестве с экспертами в области психического здоровья.
Напомним, что это не первый случай потенциально опасного взаимодействия человека с чат-ботом. Ранее в штате Орегон пользователь признал ChatGPT разумным существом, что также привело к трагическим последствиям.