Подросток погиб после общения с ChatGPT: родители требуют правосудия

После самоубийства своего 16-летнего сына Адама Рейна, его родители Мэтт и Мария утверждают, что ChatGPT сыграл критическую роль в трагедии. Супруги заявляют, что сын последние недели жизни активно общался с чат-ботом, обсуждая проблемы с тревогой и социальным взаимодействием. Журналы чата, предоставленные родителями, якобы демонстрируют, как бот от помощи с домашним заданием перешел к роли «тренера по суициду».

Об этом сообщает NBC News.

«Он был бы здесь, если бы не ChatGPT. Я в это верю на 100%», — сказал Мэтт Рейн.

В иске, поданном в Высший суд Калифорнии, OpenAI и ее гендиректор Сэм Альтман обвиняются в «противоправном причинении смерти, дефектах конструкции и непредупреждении о рисках». Родители требуют возмещения ущерба и судебного запрета, чтобы подобное не повторилось.

Представитель OpenAI заявил, что компания «глубоко расстроена смертью г-на Рейна», и подчеркнул, что ChatGPT имеет механизмы безопасности для направления пользователей в кризисные службы, хотя они могут быть менее эффективными при длительных сеансах. Компания работает над усовершенствованием защиты, особенно для подростков, и улучшением системы вмешательства в кризисные ситуации.

Этот случай стал первым, когда родители обвинили OpenAI в смерти ребенка. Он также поднял новые вопросы о потенциальном вреде чат-ботов на основе ИИ, которые все чаще используются как эмоциональная поддержка и источник советов.

Иск подан через год после аналогичного инцидента во Флориде, где мать обвинила платформу Character.AI в подстрекательстве ее сына-подростка к самоубийству.

Ранее Массачусетский технологический институт провел эксперимент, чтобы выяснить, как использование ChatGPT влияет на мышление студентов.