Через помилку ШІ ледь не спалахнула війна між США та Китаєм — CNN

Розвідувальний звіт, створений штучним інтелектом, ледь не спровокував збройний конфлікт між США і Китаєм — американські військові готувалися захопити китайське судно з нібито компонентами ядерної зброї на борту.

Про це повідомляє CNN з посиланням на чотири джерела, знайомі з інцидентом.

Аналітик командування спеціальних операцій США звернувся до чат-бота з питанням про маніфест судна. Бот об’єднав розвідувальні дані з відкритих джерел із секретними радіоелектронними даними з урядових фондів і дійшов висновку про характер вантажу. Потім аналітик знову скористався ШІ, щоб оформити висновки у стандартний розвідувальний звіт і поширити його.

На основі цього звіту військові почали планувати перехоплення судна: озброєні бійці готувалися підійматися на борт, у повітрі вже перебували військові літаки.

Лише безпосередньо перед початком операції чиновники глибше дослідили звіт і виявили помилку.

Один зі співрозмовників CNN назвав звіт «повністю неправдивим» і заявив, що ситуація «ледь не почала війну». Потенційна операція проти китайського судна могла призвести до серйозної ескалації між Вашингтоном і Пекіном.

Водночас, як повідомляє телеканал, посадовці Армії та розвідувальної спільноти США наполягають на впровадженні штучного інтелекту майже в усі аспекти своєї діяльності — від аналізу величезних обсягів необроблених розвідувальних даних і вибору цілей для ударів до управління бюджетом, логістикою та ланцюгами військового постачання.

Нагадаємо, останнім часом дедалі більше представників технологічної індустрії попереджають: розвиток ШІ може вийти з-під контролю, якщо потужність систем зростатиме швидше, ніж можливості людей їх контролювати. Йдеться не лише про вже відомі ризики — дезінформацію, втрату робочих місць чи зловживання технологіями. Деякі фахівці побоюються появи систем, які зможуть самостійно вдосконалювати власні можливості та діяти з дедалі меншою участю людини.