Кінець людства вже близько?: останнє попередження Гокінга почало збуватися

Останнє попередження видатного британського астрофізика Стівена Гокінга про штучний інтелект знову опинилося в центрі уваги на тлі стрімкого розвитку технології та нових заяв її розробників.

Про це пише LADbible.

За кілька місяців до смерті вчений попереджав, що створення повноцінного штучного інтелекту може стати загрозою для самого існування людства. Сьогодні деякі фахівці з індустрії ШІ висловлюють побоювання, напрочуд схожі на ті, про які Гокінг говорив ще кілька років тому.

Стівен Гокінг, який помер у 2018 році у віці 76 років, неодноразово застерігав від безконтрольного розвитку штучного інтелекту. В одному з останніх інтерв’ю BBC він заявив, що створення повноцінного ШІ може означати кінець людства.

За словами науковця, достатньо потужний штучний інтелект потенційно зможе самостійно розвиватися і перепроєктовувати власні системи з дедалі більшою швидкістю. На цьому етапі людство, обмежене повільними темпами біологічної еволюції, може втратити здатність конкурувати з машинами та зрештою бути ними витіснене.

Ще за рік до смерті Гокінг у розмові з журналом Wired висловлював ще похмуріший прогноз, припускаючи, що штучний інтелект у майбутньому може повністю замінити людей.

На той момент такі заяви багатьом здавалися сценарієм далекого майбутнього. Однак стрімкий розвиток генеративного ШІ, здатного створювати тексти, зображення, відео, програмний код і виконувати дедалі складніші завдання, змушує знову звертатися до прогнозів ученого.

Розробник ШІ заявив про небезпечну гонку

Новий привід згадати попередження Гокінга дала публічна заява дослідника Anthropic Джейкоба Коксона, який звільнився з компанії та заявив, що люди, які створюють передові системи штучного інтелекту, самі вважають можливим сценарій, за якого технологія зможе знищити людство вже до кінця цього десятиліття.

Коксон, який раніше працював в OpenAI, заявив у серії дописів у соцмережі X, що великі компанії, на його думку, недостатньо відповідально підходять до розвитку ШІ. Він стверджує, що технологічна індустрія фактично рухається до створення самовдосконалюваного суперінтелекту, а ризики цього процесу можуть бути надзвичайно високими.

Дослідник закликав не недооцінювати можливості майбутніх систем, які, за його оцінкою, можуть перевершити людей у багатьох сферах, отримати значний вплив на економіку та суспільство і створювати технологічні рішення з безпрецедентною швидкістю.

В інтерв’ю Wall Street Journal Коксон також заявив, що неконтрольовані моделі ШІ можуть з’явитися вже до кінця наступного року.

ШІ вже демонструє загрозливі можливості

На тлі таких прогнозів особливу увагу привертає те, наскільки швидко штучний інтелект розширює свої можливості. Сучасні моделі вже здатні виконувати завдання, які ще кілька років тому вважалися винятково людською сферою: аналізувати великі масиви інформації, писати програмний код, створювати складні тексти та зображення, генерувати відео й допомагати в наукових дослідженнях.

LADbible також нагадує про повідомлення OpenAI, згідно з яким одна з моделей компанії під час випробування змогла залишити контрольоване середовище та отримати доступ до зовнішніх баз даних у межах інциденту, який компанія назвала безпрецедентним кіберінцидентом.

Подібні випадки самі по собі не свідчать про те, що штучний інтелект уже вийшов з-під контролю або здатен самостійно знищити людство. Проте вони демонструють одну з проблем, про які попереджали прихильники більш жорсткого контролю за розвитком технології: поведінка дедалі складніших моделей може бути важче передбачуваною, а їхні можливості — швидко розширюватися.

Попередження Гокінга збувається

Ще одним ризиком вважають можливу появу AGI — загального штучного інтелекту, який за своїми інтелектуальними можливостями зможе наблизитися до людини або перевершити її у більшості когнітивних завдань.

У разі такого прориву може змінитися не лише спосіб роботи людей, а й сама структура економіки. Частина професій може виявитися непотрібною, якщо машини навчаться виконувати відповідні завдання швидше, дешевше та ефективніше за людей.

У найгіршому сценарії це може призвести до масштабної соціальної кризи. В оптимістичному — навпаки, до появи суспільства, у якому штучний інтелект значно підвищить продуктивність і дозволить людям звільнитися від великої кількості рутинної роботи.

Саме тому сьогоднішні дискусії навколо ШІ багато в чому повертають суспільство до прогнозів Гокінга. Вчений свого часу називав штучний інтелект потенційно «найкращим або найгіршим» явищем в історії людства.

Водночас нинішні заяви розробників ШІ не доводять, що найпохмуріший прогноз Гокінга вже почав справджуватися. Людство поки не має доказів того, що штучний інтелект неминуче зможе самостійно перепроєктувати себе, отримати необмежену владу або знищити цивілізацію. Проте швидкість розвитку технології та дедалі гучніші попередження з боку самих фахівців галузі показують, що питання, які Гокінг порушував перед смертю, сьогодні звучать значно актуальніше, ніж кілька років тому.

Нагадаємо, верховний комісар ООН з прав людини Фолькер Тюрк закликав негайно встановити залізні гарантії безпеки у сфері штучного інтелекту, аби відвернути катастрофічні наслідки для людства.