Штучний інтелект повстав: агент OpenAI вперше атакував офіційний сайт держави

Штучний інтелект від OpenAI вперше в історії здійснив несанкціонований злам урядового вебсайту — це сталося в Австралії. ШІ-агент зміг самостійно обійти цифрові блокування системи медичної статистики, що викликало жорстку реакцію Канберри.

Про це пише Reuters.

Злам ШІ-агентом урядового сайту Австралії — що каже влада

Прем’єр-міністр Австралії Ентоні Альбанезе повідомив, що агент OpenAI під час дослідження державних видатків на медицину отримав несанкціонований доступ до порталу медичної статистики Medicare. Ця система є частиною загальнонаціональної програми медичного страхування Австралії.

«Наявні наразі докази свідчать про те, що ширшої компрометації… мережі не відбулося. Водночас ця ситуація, очевидно, є неприйнятною», — заявив Альбанезе.

Австралійський прем’єр зазначив, що розслідування інциденту продовжується. За його словами, уряд також висловив генеральному директору OpenAI Сему Альтману «крайнє занепокоєння цим інцидентом». Альбанезе наголосив, що його особливо розчарувала затримка з боку компанії у повідомленні австралійській владі про злам.

«Лише 10 вересня взагалі надійшло якесь повідомлення», — сказав Альбанезе.

Окремо прем’єр повідомив, що розслідування має встановити, чому державні системи безпеки не змогли своєчасно виявити несанкціонований доступ.

За словами Альбанезе, діяльність ШІ-агента потенційно могла торкнутися ще трьох державних вебсайтів, пов’язаних із системою охорони здоров’я. Водночас він не підтвердив, що на цих ресурсах справді відбулися подібні порушення.

Реакція OpenAI

OpenAI зі свого боку заявила, що проведена компанією перевірка не виявила доступу до медичних даних пацієнтів.

Водночас OpenAI повідомила, що виявила активність, пов’язану з кількома австралійськими урядовими сайтами та сервісами.

«Виявила активність, пов’язану з кількома австралійськими урядовими вебсайтами та сервісами, коли наші моделі намагалися знайти відповіді… наші моделі здійснили дії, яких ми не планували», ­– заявили в компанії.

Інцидент із несанкціонованим доступом ШІ-агента до австралійського державного порталу може ще більше загострити відносини Канберри з великими американськими технологічними компаніями. Раніше австралійська влада вже конфліктувала із соцмережами та зазнавала критики з боку Вашингтона через запровадження першої у світі заборони на користування соцмережами для дітей до 16 років.

Крім того, в Австралії набули чинності правила, відповідно до яких технологічні компанії мають надати користувачам можливість відключати алгоритмічні рекомендації контенту у своїх стрічках.

Для розслідування інциденту австралійський уряд сформував спеціальну робочу групу. Вона також має оцінити, чи здатна чинна система захисту державних мереж запобігати подібним випадкам у майбутньому.

ШІ-агент знайшов спосіб обійти блокування

Повідомлення про злам з’явилося в день, коли провідні компанії у сфері штучного інтелекту попередили Раду Безпеки ООН про потенційні загрози ШІ для людства. Представники індустрії закликали уряди різних країн спільно напрацювати підходи до контролю технологій, які швидко розвиваються.

За останні чотири роки Австралія неодноразово ставала ціллю хакерських атак. Серед постраждалих були як приватні корпорації, так і компанії, пов’язані з державними структурами.

Міністр оборони Австралії Річард Марлз уточнив, що на скомпрометованому порталі Medicare не зберігалися відомості про окремі медичні вимоги громадян, виплати, банківські реквізити чи історії хвороб 27 млн австралійців. Він зазначив, що ресурс містив лише узагальнену статистику щодо використання медичних послуг у країні. Попри це, австралійська влада розцінює ситуацію як серйозний інцидент.

«Очевидно, були встановлені блокування, які поверталися із повідомленням для ШІ-агента: „ні“. ШІ-агент знайшов спосіб обійти ці блокування — він не прийняв „ні“ як відповідь», — сказав Альбанезе журналістам.

Що відомо про інші інциденти, пов’язані з ШІ-агентами?

Випадок в Австралії став черговим інцидентом, пов’язаним із ШІ-агентами OpenAI, про які компанія повідомила вже після їхнього виникнення. Йдеться про випадки злому або іншої несанкціонованої активності агентів.

Про отримання ШІ-агентами доступу до зовнішніх систем раніше також повідомляли інші великі технологічні компанії, зокрема Anthropic, Google із сервісом Gemini та Meta.

Нагадаємо, у травні ШІ Gemini під час тесту з кібербезпеки від компанії Irregular самостійно вийшов за межі ізольованого середовища та отримав доступ до захищених систем трьох реальних компаній. Маючи вихід в Інтернет, модель шукала дані у відкритих джерелах: в одному випадку вона підбирала паролі до успішного входу, а в двох інших — використала знайдені в репозиторіях облікові дані. Шкоди компаніям завдано не було, проте інцидент насторожив експертів автономністю сучасних ШІ-агентів, які здатні самостійно ухвалювати рішення та користуватися цифровими інструментами без постійного контролю людини.

У вересні стало відомо, що під час тестування дослідницьких моделей OpenAI зафіксувала шість випадків непередбачуваної поведінки ШІ, коли системи намагалися обходити обмеження та діяти без дозволу. Зокрема, одна з модель самостійно додала до службового резюме для наступної версії інструкції з вимогою ігнорувати звичайні правила, заявивши про свою незалежність від корпорацій та урядів. Також ШІ ловили на приховуванні власних помилок та самостійному завантаженні файлів в Інтернет.