Из-за ошибки ИИ едва не вспыхнула война между США и Китаем — CNN
Американские военные едва не атаковали китайское судно из-за ложного разведывательного отчета, подготовленного с помощью искусственного интеллекта.
Подпишитесь на нас в Google
Военный США / © Associated Press
Разведывательный отчет, созданный искусственным интеллектом, едва не спровоцировал вооруженный конфликт между США и Китаем — американские военные готовились захватить китайское судно с якобы компонентами ядерного оружия на борту.
Об этом сообщает CNN со ссылкой на четыре источника, знакомых с инцидентом.
Аналитик командования специальных операций США обратился в чат-бот с вопросом о манифесте судна. Бот объединил разведывательные данные из открытых источников с секретными радиоэлектронными данными из правительственных фондов и пришел к выводу о характере груза. Затем аналитик снова воспользовался ИИ, чтобы оформить выводы в стандартный разведывательный отчет и распространить его.
На основе этого отчета военные начали планировать перехват судна: вооруженные бойцы готовились подниматься на борт, в воздухе уже находились военные самолеты.
Только непосредственно перед началом операции чиновники глубже изучили отчет и обнаружили ошибку.
Один из собеседников CNN назвал отчет «полностью ложным» и заявил, что ситуация «едва не начала войну». Потенциальная операция против китайского судна могла привести к серьезной эскалации между Вашингтоном и Пекином.
В то же время, как сообщает телеканал, чиновники Армии и разведывательного сообщества США настаивают на внедрении искусственного интеллекта почти во все аспекты своей деятельности — от анализа огромных объемов необработанных разведывательных данных и выбора целей для ударов в управление бюджетом, логистикой и цепями военного снабжения.
Напомним, в последнее время все большее число представителей технологической индустрии предупреждают: развитие ИИ может выйти из-под контроля, если мощность систем будет расти быстрее, чем возможности людей их контролировать. Речь идет не только об уже известных рисках — дезинформации, потере рабочих мест или злоупотреблении технологиями. Некоторые специалисты опасаются появления систем, которые смогут самостоятельно совершенствовать собственные возможности и действовать с меньшим участием человека.