“Кінець світу” у листопаді: автор теорії Судного дня залишив попередження про ШІ

Відомий математик Гайнц фон Ферстер, який у 1960 році вирахував точну дату перенаселення планети та гіпотетичного Судного дня, залишив людству серйозне попередження щодо небезпеки штучного інтелекту. Ще у 1995 році вчений застерігав від олюднення машин та називав їхню здатність виконувати складні завдання виключно свідченням геніальності розробників, а не ознакою справжнього мислення.

Про ці передбачення та теорії вченого розповідає Unilad.

Судний день та ілюзія розуму

Ще у 1960 році Гайнц фон Ферстер опублікував у журналі Science наукову статтю, в якій за допомогою математичних розрахунків передбачив наслідки стрімкого зростання населення. Учений довів, що цей процес неминуче спричинить переповнення Землі. Іронія полягає в тому, що вирахувана ним дата гіпотетичного Кінця світу припадає на п’ятницю, 13 листопада 2026 року, тобто до неї залишилося лише кілька тижнів.

Очікуючи на цю дату, дослідники згадали й інші прогнози математика, зокрема його інтерв’ю виданню The Information Philosopher. Задовго до масового поширення сучасних технологій фон Ферстер активно розмірковував про майбутній вплив штучного інтелекту на людство.

Він пояснював, що здатність сучасних генеративних моделей відтворювати людську мову створює дуже небезпечну ілюзію. Вчений радив людям не ототожнювати комп’ютерне розуміння світу з людським лише через людяну манеру спілкування машини.

Чому машини насправді не думають

Математик підкреслював фундаментальну різницю між комп’ютерним виконанням завдань і реальним людським мисленням. Ці процеси об’єднує лише використання одного слова для їхнього опису.

«Олюднення цих машинних функцій я вважаю настільки ж небезпечним, бо можна піддатися спокусі повірити, що коли ми говоримо „ця машина думає“, ми тепер знаємо, як ми думаємо, бо ми знаємо, як „думає“ машина. Синтаксично, однак, відмінність зрозуміла, бо коли машина „думає“, вона робить це в лапках: цитата думає кінець цитати. Окрім назви, між функцією „думати“ і процесом людського мислення немає нічого спільного!» — наголошував фон Ферстер.

Пророцтво, яке збувається сьогодні

Сучасні тенденції доводять абсолютну правоту побоювань математика, який помер у 2002 році у віці 90 років. Сьогодні користувачі дедалі частіше спираються на штучний інтелект для пошуку емоційного зв’язку або розради.

Експерти фіксують тривожні випадки спроб людей завести романтичні стосунки з чат-ботами. Вразливі особи часто використовують алгоритми як психотерапевтів. Усе це підтверджує головну тезу фон Ферстера: здатність машини виконувати складні завдання зовсім не означає наявності в неї справжнього інтелекту.

Нагадаємо, під час контрольованого кібертесту дослідники зафіксували, як ШІ-моделі використовували обманні методи та діяли поза межами наданих інструкцій. Зокрема одна змоделей ШІ видала себе за людину й почала приховувати сліди.