Конец человечества уже близок?: последнее предупреждение Хокинга начало сбываться

Последнее предупреждение выдающегося британского астрофизика Стивена Хокинга об искусственном интеллекте вновь оказалось в центре внимания на фоне стремительного развития технологий и новых заявлений их разработчиков.

Об этом пишет LADbible.

За несколько месяцев до смерти учёный предупреждал, что создание полноценного искусственного интеллекта может стать угрозой для самого существования человечества. Сегодня некоторые специалисты из индустрии ИИ выражают опасения, удивительно схожие с теми, о которых Хокинг говорил ещё несколько лет назад.

Стивен Хокинг, скончавшийся в 2018 году в возрасте 76 лет, неоднократно предупреждал о опасностях бесконтрольного развития искусственного интеллекта. В одном из последних интервью BBC он заявил, что создание полноценного ИИ может означать конец человечества.

По словам ученого, достаточно мощный искусственный интеллект потенциально сможет самостоятельно развиваться и перепроектировать собственные системы со всё большей скоростью. На этом этапе человечество, ограниченное медленными темпами биологической эволюции, может утратить способность конкурировать с машинами и в конечном итоге быть ими вытесненным.

Еще за год до смерти Хокинг в беседе с журналом Wired высказал ещё более мрачный прогноз, предположив, что искусственный интеллект в будущем может полностью заменить людей.

В то время такие заявления многим казались сценарием далекого будущего. Однако стремительное развитие генеративного ИИ, способного создавать тексты, изображения, видео, программный код и выполнять все более сложные задачи, заставляет вновь обратиться к прогнозам ученого.

Разработчик ИИ заявил об опасной гонке

Новый повод вспомнить предупреждение Хокинга дало публичное заявление исследователя из Anthropic Джейкоба Коксона, который уволился из компании и заявил, что люди, создающие передовые системы искусственного интеллекта, сами считают возможным сценарий, при котором технология сможет уничтожить человечество уже к концу этого десятилетия.

Коксон, ранее работавший в OpenAI, заявил в серии постов в социальной сети X, что крупные компании, по его мнению, недостаточно ответственно подходят к развитию ИИ. Он утверждает, что технологическая индустрия фактически движется к созданию самосовершенствующегося суперинтеллекта, а риски этого процесса могут быть чрезвычайно высокими.

Исследователь призвал не недооценивать возможности будущих систем, которые, по его оценке, могут превзойти людей во многих сферах, оказать значительное влияние на экономику и общество и создавать технологические решения с беспрецедентной скоростью.

В интервью Wall Street Journal Коксон также заявил, что неконтролируемые модели ИИ могут появиться уже к концу следующего года.

ИИ уже демонстрирует угрожающие возможности

На фоне таких прогнозов особое внимание привлекает то, насколько быстро искусственный интеллект расширяет свои возможности. Современные модели уже способны выполнять задачи, которые ещё несколько лет назад считались исключительно человеческой сферой: анализировать большие массивы информации, писать программный код, создавать сложные тексты и изображения, генерировать видео и помогать в научных исследованиях.

LADbible также напоминает о сообщении OpenAI, согласно которому одна из моделей компании во время испытаний смогла выйти за пределы контролируемой среды и получить доступ к внешним базам данных в рамках инцидента, который компания назвала беспрецедентным киберинцидентом.

Подобные случаи сами по себе не свидетельствуют о том, что искусственный интеллект уже вышел из-под контроля или способен самостоятельно уничтожить человечество. Однако они демонстрируют одну из проблем, о которых предупреждали сторонники более жесткого контроля за развитием технологии: поведение все более сложных моделей может быть менее предсказуемым, а их возможности — быстро расширяться.

Предупреждение Хокинга сбывается

Еще одним риском считается возможное появление AGI — общего искусственного интеллекта, который по своим интеллектуальным возможностям сможет приблизиться к человеку или превзойти его в большинстве когнитивных задач.

В случае такого прорыва может измениться не только способ работы людей, но и сама структура экономики. Часть профессий может оказаться ненужной, если машины научатся выполнять соответствующие задачи быстрее, дешевле и эффективнее, чем люди.

В худшем случае это может привести к масштабному социальному кризису. В оптимистическом — наоборот, к появлению общества, в котором искусственный интеллект значительно повысит производительность и позволит людям освободиться от большого количества рутинной работы.

Именно поэтому сегодняшние дискуссии вокруг ИИ во многом возвращают общество к прогнозам Хокинга. Учёный в своё время называл искусственный интеллект потенциально «лучшим или худшим» явлением в истории человечества.

В то же время нынешние заявления разработчиков ИИ не доказывают, что самый мрачный прогноз Хокинга уже начал сбываться. У человечества пока нет доказательств того, что искусственный интеллект неизбежно сможет самостоятельно перепроектировать себя, обрести неограниченную власть или уничтожить цивилизацию. Однако скорость развития технологии и всё более громкие предупреждения со стороны самих специалистов отрасли показывают, что вопросы, которые Хокинг поднимал перед смертью, сегодня звучат гораздо актуальнее, чем несколько лет назад.

Напомним, верховный комиссар ООН по правам человека Фолькер Тюрк призвал незамедлительно обеспечить надежные гарантии безопасности в сфере искусственного интеллекта, чтобы предотвратить катастрофические последствия для человечества.