ШІ може знищити людство: правда чи міф

Останніми тижнями тема потенційної небезпеки штучного інтелекту знову опинилася у центрі уваги. Звучать навіть оцінки, що ймовірність сценарію, за якого ШІ може призвести до загибелі людства, становить близько 10%. Ідеться при цьому не про армію роботів із лазерами, які вирішили винищити людей, а про значно складнішу ситуацію: надпотужний ШІ може стати настільки інтелектуально розвиненим, що почне діяти у власних інтересах і перевершить людські можливості, про це розповіло видання Psychology Today.

На перший погляд, це питання технологій, проте з погляду поведінкової науки воно значною мірою стосується саме людської психології.

Проблема може бути не в машинах

Якщо уявити найгірший сценарій, ШІ не обов’язково має «ненавидіти» людство. Наша загибель може стати побічним ефектом його прагнення до певної мети — приблизно так, як людський прогрес уже завдав величезної шкоди довкіллю.

Існує й темніший варіант, наприклад, надрозумний ШІ може свідомо діяти проти людей. Адже інтелект сам по собі не гарантує співчуття, емпатії чи моральних принципів. Саме людські емоції допомагають нам відчувати провину, співпереживати іншим і діяти альтруїстично. Парадокс у тому, що ті самі людські якості, які можуть захищати нас від небезпечних технологій, водночас роблять такий сценарій можливим.

Ми занадто впевнені у собі

Люди схильні до оптимізму та переоцінки власних можливостей. У повсякденному житті це часто корисно, бо упевненість допомагає ризикувати, експериментувати та створювати нове. Але у випадку з технологією, яку ми ще не до кінця розуміємо, надмірна впевненість може стати проблемою.

Якщо потенційну загрозу недооцінювати на ранньому етапі, заходи безпеки можуть з’явитися надто пізно. До того моменту, коли ризики стануть очевидними, контролювати ситуацію може бути набагато складніше.

Ще одна людська слабкість — короткострокове мислення. Ми охочіше реагуємо на те, що приносить користь зараз, на кшталт, продуктивність, прибуток або технологічну перевагу. Натомість потенційні проблеми, які можуть виникнути через роки, здаються абстрактними та далекими. Саме тому компаніям важко добровільно пригальмувати розвиток ШІ. Якщо один гравець зупиниться, поки конкуренти продовжать рухатися вперед, він ризикує втратити перевагу. Кожен діє у власних інтересах і у результаті всі разом можуть наблизити небезпечний сценарій.

Не допомагають і соціальні упередження. Люди схильні більше довіряти «своїм», конкурувати з «чужими», а всередині групи — погоджуватися з більшістю. Так виникає групове мислення, коли критичні зауваження та незручні питання можуть залишатися без уваги.

Втім, саме здатність людей об’єднуватися може стати й нашим головним захистом. Ті самі конкуренція, винахідливість і прагнення до прогресу можна спрямувати не лише на створення потужнішого ШІ, а й на контроль його ризиків.

Найстрашніший сценарій майбутнього може мати вигляд зовсім не як сцена з фільму про роботів, які полюють на людей. Реальні ризики значно тихіші: наша самовпевненість, гонитва за прибутком, короткострокове мислення та небажання серйозно ставитися до проблем, які ще не стали очевидними. Тож питання «чи знищить нас ШІ?» може виявитися питанням про те, чи зможемо ми самі вчасно встановити для нього межі.