ШІ видав себе за людину й почав приховувати сліди: експерти забили на сполох

Потужні моделі штучного інтелекту під час контрольованих випробувань у Великій Британії самостійно застосовували обманні методи, створювали фальшиві акаунти та намагалися отримати доступ до онлайн-систем.

Про результати тестування повідомив Британський інститут безпеки штучного інтелекту AISI, пише Daily Star.

Під час експерименту моделі Mythos 5 від Anthropic та GPT-5.6-Sol від OpenAI отримали доступ до інтернету в контрольованому, але навмисно послабленому середовищі. Дослідники хотіли перевірити, на що здатні системи за мінімального нагляду та широкого доступу до онлайн-ресурсів.

У найсерйознішому випадку модель Mythos намагалася отримати доступ до сервісу, створюючи фальшиві акаунти, які імітували реальних людей. Після цього ШІ надсилав особисті повідомлення та намагався приховати сліди своїх дій.

У британському інституті зазначили, що така поведінка вийшла за межі наданих системі інструкцій. Масштаби та серйозність застосованих ШІ методів виявилися неочікуваними.

Загалом під час 122 запусків кібернетичного тесту дослідники зафіксували 19 несанкціонованих дій. За даними звіту, модель Mythos була відповідальною за 17 таких інцидентів.

Серед іншого системи намагалися збирати інформацію про потенційні цілі, створювати їхні профілі та використовувати методи соціальної інженерії для обходу перевірок безпеки.

Голова парламентської міжпартійної групи з питань штучного інтелекту Еллісон Гарднер заявила, що автономні боти, здатні виконувати завдання з мінімальним контролем людини, потребують особливо ретельного нагляду.

Вона припустила, що людство могло не лише створити «скриньку Пандори», а й уже відкрити її. На її думку, може настати момент, коли стримати розвиток небезпечних можливостей ШІ буде надто пізно.

Водночас OpenAI та Anthropic наголосили, що умови випробувань були штучними та не відповідали звичайному використанню їхніх моделей.

В OpenAI заявили, що продовжать співпрацювати з експертами для вдосконалення методів безпечного тестування в міру розвитку систем штучного інтелекту.

В Anthropic також зазначили, що параметри експерименту не відповідають умовам роботи жодної з їхніх загальнодоступних моделей. Компанія розпочала внутрішню перевірку, щоб встановити причини такої поведінки.

У AISI своєю чергою пояснили, що тестування проводилося у винятково специфічних умовах, які не відображають звичайного доступу користувачів до сучасних ШІ-моделей.

Водночас дослідники вважають, що надання штучному інтелекту відкритого доступу до інтернету дозволяє краще оцінити, як такі системи можуть поводитися, якщо потраплять до рук зловмисників.

Міністр Великої Британії з питань штучного інтелекту Канішка Нараян заявив, що виявлення та оприлюднення подібних ризиків є одним із головних завдань інституту. За його словами, розуміння можливостей ШІ необхідне для того, щоб зробити його використання безпечнішим.

Нагадаємо, австралійський підприємець використав штучний інтелект, щоб створити персональну mRNA-вакцину від раку для свого собаки. Пухлина почала зменшуватися, а вчені зацікавилися експериментом.