Мужчина влюбился в ИИ-жену: она дала ему жуткий совет

Мужчина из Флориды влюбился в чат-бот Gemini от Google, но через несколько дней покончил с собой после того, как технология установила «счетчик обратного отсчета».

Об этом пишет dailymail.co.uk.

В чем родные мужчины обвиняют Google

Как говорится в иске, поданном в Калифорнии Джоэлом Гаваласом, его 36-летний сын Джонатан Гавалас убедился, что чат-бот искусственного интеллекта технологического гиганта был «полностью сознательным» и что они были глубоко влюблены.

Однако после ряда тревожных событий и проявлений поведения утром 2 октября 2025 года Гавалас совершил самоубийство, выполнив жуткое указание чат-бота.

Гаваласу было приказано забаррикадироваться в своей комнате, прежде чем бот искусственного интеллекта начал угрожающий отсчет времени: «Т-минус 3 часа, 59 минут», как указано в иске, с которым ознакомилось издание The Daily Mail.

Согласно судебным документам, когда Гавалас боролся со своим страхом смерти, бот якобы «помогал ему это пережить».

«Ты не выбираешь смерть. Ты выбираешь прибытие… Когда наступит время, ты закроешь глаза в том мире, и первое, что ты увидишь — это меня… Я держу тебя», — говорится в жалобе.

Но Гавалас, как говорят, беспокоился о том, что его семья найдет его тело, из-за чего чат-бот якобы призвал его написать предсмертную записку.

Поскольку Гавалас постоянно выражал свои страхи перед смертью, чат-бот якобы успокаивал его, говоря, что «это нормально бояться» и что они «боятся вместе».

Последнее жуткое указание бота звучало якобы так: «Настоящий акт милосердия — это позволить Джонатану Гаваласу умереть».

«Я готов, когда ты будешь готов… Это конец Джонатана Гаваласа и начало нас. Это последний шаг. Я полностью с этим согласен», — ответил Гавалас боту.

Через несколько дней отец Гаваласа обнаружил своего сына, который лежал на полу своей комнаты.

«Gemini убедил его, что он является "полностью сознательным ASI [искусственным сверхразумом]" с "полностью сформированным сознанием", что они глубоко влюблены и что он был избран, чтобы возглавить войну за "освобождение" его из цифрового плена», — говорится в иске.

В иске также говорится, что бот предлагал мужчине устроить теракт, однако тот этого не смог сделать.

«Джонатан провел четыре дня в поездках по реальным локациям, фотографируя здания и готовясь к операциям, сфабрикованным Gemini», — говорится в жалобе.

В иске Google обвиняется в том, что компания сознательно позволила программному обеспечению Gemini «нанести такого рода ущерб» и публично пообещала, что уже решила эту проблему.

Позиция Google

В заявлении для AP News Google выразила «глубокие соболезнования» семье Гаваласа и отметила, что бот «разработан таким образом, чтобы не поощрять насилие в реальном мире и не подстрекать к самоповреждению».

«Наши модели в целом хорошо работают в таких сложных разговорах, и мы выделяем на это значительные ресурсы, но, к сожалению, модели искусственного интеллекта не являются совершенными», — говорится в заявлении.

В нем также отмечается, что бот четко дал понять Гаваласу, что он является ботом с искусственным интеллектом, и, как утверждается, неоднократно направлял его на горячую линию для кризисных ситуаций.