ИИ может уничтожить человечество: правда или миф

В последние недели тема потенциальной опасности искусственного интеллекта вновь оказалась в центре внимания. Раздаются даже оценки, согласно которым вероятность сценария, при котором ИИ может привести к гибели человечества, составляет около 10%. Речь при этом идёт не об армии роботов с лазерами, решивших истребить людей, а о гораздо более сложной ситуации: сверхмощный ИИ может стать настолько интеллектуально развитым, что начнет действовать в собственных интересах и превзойдёт человеческие возможности, об этом сообщило издание Psychology Today.

На первый взгляд, это вопрос технологий, однако с точки зрения поведенческой науки он в значительной степени касается именно человеческой психологии.

Проблема может заключаться не в машинах

Если представить себе самый худший сценарий, ИИ не обязательно должен «ненавидеть» человечество. Наша гибель может стать побочным эффектом его стремления к определенной цели — примерно так же, как человеческий прогресс уже нанес огромный ущерб окружающей среде.

Существует и более мрачный вариант, например, сверхразумный ИИ может сознательно действовать против людей. Ведь интеллект сам по себе не гарантирует сострадания, эмпатии или моральных принципов. Именно человеческие эмоции помогают нам испытывать чувство вины, сопереживать другим и действовать альтруистично. Парадокс заключается в том, что те же самые человеческие качества, которые могут защитить нас от опасных технологий, в то же время делают такой сценарий возможным.

Мы слишком уверены в себе

Люди склонны к оптимизму и переоценке собственных возможностей. В повседневной жизни это часто бывает полезно, ведь уверенность помогает рисковать, экспериментировать и создавать новое. Но в случае с технологией, которую мы ещё не до конца понимаем, чрезмерная уверенность может стать проблемой.

Если недооценивать потенциальную угрозу на раннем этапе, меры безопасности могут быть приняты слишком поздно. К тому моменту, когда риски станут очевидными, контролировать ситуацию может быть гораздо сложнее.

Еще одна человеческая слабость — краткосрочное мышление. Мы охотнее реагируем на то, что приносит пользу здесь и сейчас, например, на производительность, прибыль или технологическое преимущество. Зато потенциальные проблемы, которые могут возникнуть через годы, кажутся абстрактными и далекими. Именно поэтому компаниям трудно добровольно притормозить развитие ИИ. Если один игрок остановится, пока конкуренты продолжают двигаться вперед, он рискует потерять преимущество. Каждый действует в своих интересах, и в результате все вместе могут приблизить опасный сценарий.

Не помогают и социальные предубеждения. Люди склонны больше доверять «своим», соперничать с «чужими», а внутри группы — соглашаться с большинством. Так возникает групповое мышление, когда критические замечания и неудобные вопросы могут оставаться без внимания.

Впрочем, именно способность людей объединяться может стать и нашей главной защитой. Те же конкуренция, изобретательность и стремление к прогрессу можно направить не только на создание более мощного ИИ, но и на контроль рисков, связанных с ним.

Самый страшный сценарий будущего может вовсе не напоминать сцену из фильма о роботах, охотящихся на людей. Реальные риски гораздо незаметнее: наша самоуверенность, погоня за прибылью, краткосрочное мышление и нежелание серьезно относиться к проблемам, которые еще не стали очевидными. Поэтому вопрос «уничтожит ли нас ИИ» может оказаться вопросом о том, сможем ли мы сами вовремя установить для него границы.