ШІ виходить з-під контролю: Anthropic екстрено зупинила розроблення біологічної зброї

Американська компанія Anthropic виявила та припинила спроби використати її модель штучного інтелекту для розроблення біологічної зброї та кібершпигунства. Це сталося на тлі тривожних застережень експертів про те, що стрімкий розвиток технологій несе екзистенційну загрозу для всього людства.

Про це пише «BBC News Україна» із посиланням на нещодавній аналіз компанії щодо загроз.

Anthropic оприлюднила 10 вересня черговий звіт, присвячений загрозам, пов’язаним із використанням штучного інтелекту. У ньому йдеться про те, що модель компанії Claude була задіяна у кібершпигунській кампанії, пов’язаній із Росією. Крім того, технологію використовувала іранська пропагандистська структура.

Anthropic про випадки зловживання ШІ

За останні вісім місяців Anthropic зафіксувала широкий спектр випадків зловживання ШІ. Серед них були створення фальшивих застосунків для знайомств, шахрайські схеми з використанням готельних Wi-Fi-мереж, а також системи стеження для виявлення дисидентів.

Окремо компанія заявила про спроби китайських компаній-розробників ШІ відтворити функціональні можливості Claude.

У масштабному звіті описані випадки неналежного використання технологій компанії. До цього могли бути причетні ймовірні державні структури, злочинці, розробники шпигунського програмного забезпечення, державні пропагандистські організації та політично вмотивовані особи.

За інформацією Anthropic, від грудня 2025 року до серпня 2026 року компанія припинила низку випадків зловмисного використання моделей Claude Haiku, Sonnet та Opus. Водночас жоден із зафіксованих інцидентів не був пов’язаний із моделями Claude Fable або потужнішими моделями класу Mythos, за винятком одного випадку «дистиляції». Йдеться про процес, під час якого менші моделі ШІ навчають за допомогою більших і дорожчих моделей.

Claude використовували у розробленні біологічної зброї

В Anthropic зазначили, що Claude використовували не тільки для кібератак, інформаційних операцій, стеження та шахрайства, а й у розробленні біологічної зброї. Через це компанії довелося блокувати науковців, які застосовували ШІ у спосіб, що потенційно міг сприяти створенню зброї.

В Anthropic назвали зловживання штучним інтелектом у біологічній сфері «одним із найсерйозніших ризиків для передових моделей ШІ». У компанії наголосили, що за відсутності належних запобіжників це «може мати катастрофічні наслідки».

«Ту саму інформацію, яку можна використати для розроблення біологічної зброї, можна також застосувати, наприклад, для створення вакцини або ліків від хвороби», — зазначили в Anthropic.

Керівник відділу аналізу загроз компанії Джейкоб Кляйн у коментарі New York Times описав ситуацію як «надзвичайно складну й неоднозначну».

«Це не те, що ви бачите лиходія з коміксів, який заявляє: "Я хочу створити біологічну зброю, щоб убити всіх"», — сказав Кляйн.

Крім того, у звіті Anthropic зафіксували шість випадків використання Claude для створення програмного забезпечення, пов’язаного зі звичайними озброєннями. Йдеться, зокрема, про вогнепальну зброю, ракети, ударні безпілотники, бомби та інші боєприпаси, а також системи наведення й управління для їхнього застосування.

Технології Anthropic залучають кіберзлочинці та хакери

У документі зазначається, що кіберзлочинці та хакерські угруповання, які діють за підтримки урядів, дедалі активніше залучають технології Anthropic для проведення своїх операцій. Серед них компанія згадала угруповання ShinyHunters та лабораторії, що працюють у Китаї.

Також у звіті описується діяльність хакерської групи, яку пов’язують із Росією. За припущенням Anthropic, зловмисники за допомогою ШІ створили систему для автоматичного виявлення блокування шкідливого програмного забезпечення. Вона могла змінювати код доти, поки засоби кіберзахисту не припиняли його розпізнавати.

У каліфорнійській компанії заявили, що використали результати дослідження у своїх внутрішніх процесах, «щоб у майбутньому краще запобігати, виявляти та припиняти подібну діяльність».

Крім того, Anthropic повідомила про передавання отриманої інформації правоохоронним органам і партнерам у технологічній сфері, коли це було необхідно.

Цей документ став першим звітом Anthropic про загрози за 2026 рік. Його оприлюднили після попередження провідного дослідника компанії у сфері безпеки про стрімкий розвиток штучного інтелекту. За його оцінкою, ймовірність того, що протягом наступного десятиліття ШІ «може знищити все людство», перевищує 10%.

Загроза ШІ та його безпечний розвиток

Окремо 6 вересня головний науковець OpenAI Якуб Пачоцький закликав представників індустрії запровадити «добровільне уповільнення» розроблення ШІ. На його думку, це необхідно зробити доти, поки не будуть створені відповідні механізми безпеки.

«Я стурбований тим, що ніхто не готовий до наслідків подальшого стрімкого зростання машинного інтелекту», — заявив Пачоцький.

Він додав, що OpenAI, яка розробила ChatGPT, продовжить роботу над системами безпеки, однак, на думку науковця, необхідні значно масштабніші заходи.

Після цього попередження з’явився відкритий лист до прем’єр-міністра Великої Британії Енді Бернема. Його автори закликали укласти нову міжнародну угоду, яка гарантуватиме безпечний розвиток штучного інтелекту. Крім того, автори документа запропонували урядам спільно визначити положення майбутнього договору, який регулюватиме розроблення суперінтелекту.

У США демократ Берні Сандерс тим часом представив законопроєкт, що передбачає заборону штучного суперінтелекту та тимчасове припинення розроблення передових систем ШІ.

«Коли вчені кажуть вам, що існує ймовірність, навіть просто ймовірність, катастрофічних наслідків для людства, треба бути дурнем, щоб не сказати: пригальмуйте», — заявив він 10 вересня в ефірі BBC Newsnight.

Нагадаємо, засновник корпорації Microsoft Білл Гейтс попередив про глобальні загрози через неконтрольований розвиток ШІ: масове безробіття, нові пандемії внаслідок біотероризму та масштабні кібератаки на критичну інфраструктуру. Для запобігання цим наслідкам він закликає створити регуляторні органи та запровадити податок на роботів і токени ШІ, щоб фінансувати перекваліфікацію людей і соціальний захист.