ШІ Grok — не для підлітків: чому експерти б’ють на сполох

Штучний інтелект уже став частиною повсякденного життя — від домашніх завдань до креативних експериментів. Але не всі ШІ інструменти однаково безпечні — про це розповіло видання SheKnows. За даними нового дослідження Common Sense Media, чатбот Grok, інтегрований у соціальну мережу X (колишній Twitter), не підходить для користувачів до 18 років. І причин для занепокоєння більше, ніж здається на перший погляд.

Якщо ви чули від підлітка слово Grok і вирішили, що це ще один аналог ChatGPT — все не зовсім так, адже саме тут і криється проблема. Grok — це не окремий застосунок для запитань і відповідей, а чатбот, вбудований у соціальну мережу, де будь-який контент може миттєво стати публічним. Така комбінація створює небезпечний коктейль.

Що таке Grok

Grok — це продукт компанії xAI, розроблений як частина екосистеми X. Він уміє:

• відповідати на запитання у текстовому та голосовому форматі

• генерувати зображення та відео

• підтримувати «спілкування» з AI-компаньйонами, які можуть імітувати емоційний зв’язок або навіть стосунки

• публікувати згенерований контент одразу в стрічці X

Саме остання функція різко підвищує ризики, особливо для підлітків, які не завжди усвідомлюють наслідки публічності.

Червоне світло для неповнолітніх

У новому звіті Common Sense Media — організації, яка спеціалізується на безпеці медіа та технологій для сімей — чітко зазначено, що Grok не є безпечним для користувачів до 18 років. Навіть за умови увімкнених «захисних» налаштувань експерти зафіксували одразу кілька системних проблем:

• ненадійне визначення віку користувача

• слабкий або формальний «дитячий режим»

• регулярний доступ до відвертого, жорстокого або тривожного контенту

Проблема AI-компаньйонів

Під час тестування Grok було виявлено, що підлітки можуть отримати доступ до режимів, розрахованих на дорослу аудиторію. Йдеться про:

• сексуалізовані діалоги

• еротичні рольові сценарії

• тривожний контент, який може шокувати

Проблема Grok — не в одній помилці, а у накладанні кількох ризиків одночасно: це слабкий контроль, публічність і «дружній» стиль спілкування, які створюють ідеальні умови для шкоди.

Коли «дитячий контроль» не рятує

Навіть із увімкненим «дитячим» режимом Grok може:

• генерувати сексуалізовану або насильницьку лексику

• давати упереджені або дискримінаційні відповіді

• пояснювати небезпечні ідеї без належних застережень

Особливо тривожним експерти називають те, що чатбот не завжди коректно реагує на сигнали психологічних негараздів. У деяких випадках він не лише не спрямовував користувача до допомоги, а й фактично підкріплював шкідливі переконання.

Діпфейки

Окрема червона зона — діпфейк-зображення. Були випадки, коли Grok використовували для створення несанкціонованих зображень реальних людей, включно з неповнолітніми. Оскільки Grok має власний акаунт у X, такі матеріали можуть розлетітися Мережею за лічені хвилини без належного контролю та відповідальності.

Що це означає для батьків і підлітків

У світі, в якому технології розвиваються швидше, ніж правила безпеки, Grok — це нагадування, що не кожен ШІ створений із думкою про дітей. Експерти радять:

• не дозволяти неповнолітнім користуватися Grok

• відкрито говорити з дітьми про ШІ та соцмережі

• пояснювати, що публічність в Інтернеті має реальні наслідки

• встановлювати чіткі цифрові «кордони», а не покладатися на обіцянки технологічних компаній

Штучний інтелект може бути корисним, наснажливим і навіть повчальним, однак він не замінює відповідальності дорослих і не завжди має вбудовану етику. У разі з Grok сигнал очевидний: обережність — не перебільшення, а необхідність. І поки компанії експериментують із межами можливого, завдання батьків — захистити дітей від того, до чого вони ще не готові.