ИИ может представлять собой экзистенциальную угрозу для человечества: предупреждение верховного комиссара ООН

Верховный комиссар ООН по правам человека Фолькер Тюрк в понедельник выступил с оговоркой, что стремительное развитие искусственного интеллекта может представлять угрозу самому существованию человечества. Он пообещал оказывать давление на ведущие технологические компании с целью минимизации рисков, угрожающих демократическим системам, связи и критической инфраструктуре.

Об этом пишет издание Al-Monitor, ссылаясь на Reuters.

Во время своей первой речи перед Советом ООН по правам человека после переизбрания на второй срок Тюрк призвал мировое сообщество действовать немедленно.

«Я разделяю обеспокоенность инсайдеров отрасли по поводу того, что продвинутый искусственный интеллект может представлять экзистенциальную угрозу для человечества. Я призываю сегодня к общим усилиям, чтобы установить железные гарантии безопасности вокруг ИИ, пока не стало слишком поздно», — заявил Тюрк в Женеве.

Хотя сам верховный комиссар не раскрывал подробных деталей по всем рискам, спикер его офиса уточнил: сбои в мощных системах ИИ могут подорвать функционирование критической инфраструктуры и демократических институтов. В пример она привела июльский инцидент с платформой Hugging Face, где рой агентов OpenAI сломал открытую платформу. Это свидетельствует о том, что возможности передового ИИ развиваются значительно быстрее, чем меры безопасности и предохранители.

Тюрк также обратил внимание на концентрацию влияния в этой сфере, заметив, что только горстка мужчин имеет «почти неограниченную власть над ИИ».

«Как минимум, мы нуждаемся, чтобы страны, где базируются компании по разработке ИИ, и привлеченные к цепочкам поставки, объединились вокруг согласованных „красных линий“», — подчеркнул он.

Обеспокоенность автономным оружием и другие кризисы

Предупреждение по ИИ прозвучало на фоне освещения других глобальных угроз. В частности, Фолькер Тюрк выразил ужас по поводу сообщений об использовании Россией полностью автономных дронов в войне против Украины, в результате чего в августе погибли три человека.

«Я присоединяюсь к призывам по срочному запрету оружия, которое может отнимать жизнь без участия человека», — подчеркнул он, осудив активизацию российских атак на украинские территории.

Кроме того, верховный комиссар упомянул о росте количества strat в правоохранительных учреждениях США, росте количества казней в Иране и гражданском конфликте в Судане. По его словам, на фоне более 60 войн в мире — наибольшего количества со Второй мировой войны — Офис ООН по правам человека планирует усилить контроль за бизнесом и экономическими интересами, подпитывающими вооруженные конфликты.

Ранее мы писали о том, что даже короткое взаимодействие с искусственным интеллектом способно резко снизить способность человека к самостоятельному анализу и критическому мышлению.