ИИ Grok — не для подростков: почему эксперты бьют тревогу

Искусственный интеллект уже стал частью повседневной жизни — от домашних заданий до креативных экспериментов. Но не все ИИ инструменты одинаково безопасны, об этом рассказало издание SheKnows. По данным нового исследования Common Sense Media, чатбот Grok, интегрированный в социальную сеть X (бывший Twitter), не подходит для пользователей до 18 лет. И причин для беспокойства больше, чем кажется на первый взгляд.

Если вы слышали от подростка слово Grok и решили, что это еще один аналог ChatGPT — все не совсем так, ведь именно здесь и кроется проблема. Grok — это не отдельное приложение для вопросов и ответов, а чатбот, встроенный в социальную сеть, где любой контент может мгновенно стать публичным. Такая комбинация создает опасный коктейль.

Что такое Grok

Grok — это продукт компании xAI, разработанный как часть экосистемы X. Он умеет:

• отвечать на вопросы в текстовом и голосовом формате

• генерировать изображения и видео

• поддерживать «общение» с AI-компаньонами, которые могут имитировать эмоциональную связь или даже отношения

• публиковать сгенерированный контент сразу в ленте X

Именно последняя функция резко повышает риски, особенно для подростков, которые не всегда осознают последствия публичности.

Красный свет для несовершеннолетних

В новом отчете Common Sense Media — организации, которая специализируется на безопасности медиа и технологий для семей, четко указано, что Grok — не является безопасным для пользователей до 18 лет. Даже при условии включенных «защитных» настроек эксперты зафиксировали сразу несколько системных проблем:

• ненадежное определение возраста пользователя

• слабый или формальный «детский режим»

• регулярный доступ к откровенному, жестокому или тревожному контенту

Проблема AI-компаньонов

Во время тестирования Grok было обнаружено, что подростки могут получить доступ к режимам, рассчитанным на взрослую аудиторию. Речь идет о:

• сексуализированные диалоги

• эротические ролевые сценарии

• тревожный контент, который может шокировать

Проблема Grok — не в одной ошибке, а в наложении нескольких рисков одновременно, это слабый контроль, публичность и «дружественный» стиль общения, которые создают идеальные условия для вреда.

Когда «Детский контроль» не спасает

Даже с включенным детским режимом Grok может:

• генерировать сексуализированную или насильственную лексику

• давать предвзятые или дискриминационные ответы

• объяснять опасные идеи без надлежащих оговорок

Особенно тревожным эксперты называют то, что чатбот не всегда корректно реагирует на сигналы психологических проблем. В некоторых случаях он не только не направлял пользователя к помощи, но и фактически подкреплял вредные убеждения.

Дипфейки

Отдельная красная зона — дипфейк-изображения. Были случаи, когда Grok использовали для создания несанкционированных изображений реальных людей, включая несовершеннолетних. Поскольку у Grok есть собственный аккаунт в X, такие материалы могут разлететься по сети за считанные минуты без надлежащего контроля и ответственности.

Что это значит для родителей и подростков

В мире, в котором технологии развиваются быстрее, чем правила безопасности, Grok — это напоминание, что не каждый ИИ создан с мыслью о детях. Эксперты советуют:

• не позволять несовершеннолетним пользоваться Grok

• открыто говорить с детьми об ИИ и соцсетях

• объяснять, что публичность в интернете имеет реальные последствия

• устанавливать четкие цифровые «границы», а не полагаться на обещания технологических компаний

Искусственный интеллект может быть полезным, вдохновляющим и даже поучительным, однако он не заменяет ответственность взрослых и не всегда имеет встроенную этику. В случае с Grok сигнал очевиден, осторожность — не преувеличение, а необходимость. И пока компании экспериментируют с пределами возможного, задача родителей — защитить детей от того, к чему они еще не готовы.