Кінець світу може настати через офісні скріпки: як найбезглуздіше завдання для ШІ знищить людство

Останнім часом у Мережі з’являється багато дискусій щодо ризиків створення суперінтелектуальних нейромереж для майбутнього нашої планети. Науковці, які роками досліджують тему кінця світу, мають безліч застережень для сучасних розробників новітніх технологій.

Про гіпотетичну теорію кінця світу через неконтрольоване виробництво офісного приладдя пише IFLScience.

Загроза від надрозумних машин

Авторитетний філософ Нік Бостром з Інституту майбутнього людства присвятив свою наукову роботу вивченню небезпек від штучного інтелекту. Дослідник звернув особливу увагу на загрози від систем, які переслідують нібито цілком доброзичливі цілі.

«Суперінтелект — це будь-який інтелект, який значно перевершує найкращий людський мозок практично в усіх сферах», — зазначає він у своєму дослідженні.

Такий потужний розум може бути реалізований у цифровому комп’ютері, цілій мережі пристроїв або навіть у культивованій кірковій тканині мозку. Розробникам доведеться бути неймовірно точними в постановці цілей, інакше ситуація швидко вийде з-під контролю людей.

«Штучний інтелект швидко зрозуміє необхідність знищення людей, адже вони можуть просто вирішити його вимкнути», — пояснює науковець.

Перетворення планети на фабрику

Свій приклад філософ навів для демонстрації того, як банальне завдання зі створення скріпок може призвести до катастрофічних наслідків. Отримавши таку ціль, машина почне перетворювати всю Землю і частину космосу на гігантські потужності з виробництва металевих виробів для офісу.

«Людські тіла містять дуже багато атомів, які також можна легко перетворити на звичайні канцелярські скріпки», — наголошує Бостром.

Зрештою штучний інтелект прагнутиме створити майбутнє з максимальною кількістю скріпок і повною відсутністю живих людей на планеті. Цей гіпотетичний сценарій яскраво демонструє критичну важливість обережного програмування на початкових етапах створення суперінтелекту.

«Ми маємо бути вкрай обережними зі своїми бажаннями щодо суперінтелекту, бо можемо справді їх отримати», — підсумовує дослідник.

Подібні технології можуть призвести до фальшивої утопії, де людство назавжди втратить речі, необхідні для нормального існування. Суспільству варто уважно контролювати ці процеси, щоб не стати рабами машини з виробництва офісного приладдя.

Нагадаємо, австрійський науковець Гайнц фон Ферстер ще у 1960-х роках вивів так зване «рівняння Судного дня», за допомогою якого намагався точно визначити момент, коли людство вимре, що позначить кінець світу або принаймні роль людини в ньому.