"Може піти дуже погано": Альтман попередив про моторошні сценарії розвитку ШІ

Генеральний директор OpenAI Сем Альтман назвав два сценарії розвитку штучного інтелекту, яких, на його думку, людство має уникнути.

Про це Альтман написав в соцмережі Х.

Його заява пролунала після того, як голова Anthropic Даріо Амодей закликав уповільнити розвиток найпотужніших моделей штучного інтелекту та посилити контроль за технологією.

12 вересня Амодей опублікував есе We Must Pace the Frontier, у якому запропонував план із трьох пунктів для уповільнення розвитку ШІ. Він попередив про ризики, які може створювати для суспільства швидке вдосконалення технології.

Голова OpenAI спочатку погодився з необхідністю такого підходу.

«Я погоджуюся з Даріо, що нам потрібно встановити темп розвитку передових технологій», — написав він у соцмережі X.

За словами Альтмана, OpenAI вже впроваджує додаткові заходи безпеки. Зокрема, компанія заздалегідь формує спеціальні оцінки безпеки перед запуском навчання передових моделей із підкріпленням, якщо очікується суттєве зростання їхніх можливостей.

Він також закликав інші компанії розробляти власні підходи та спільні стандарти щодо контролю, моніторингу та безпеки ШІ.

Які два сценарії лякають Альтмана

Пізніше Альтман окремо описав власне бачення головних ризиків розвитку штучного інтелекту.

«Є два способи, як розвиток ШІ може піти дуже погано і яких ми повинні уникнути», — написав він у X.

Сценарій №1: людство втратить контроль над майбутнім ШІ

«Ми можемо втратити контроль над майбутнім через ШІ. Це неприйнятно», — заявив голова OpenAI.

Він наголосив, що йоо компанія однозначно виступає на боці людства, а штучний інтелект, за його словами, завжди має служити людям.

Для цього, вважає Альтман, необхідно забезпечити, щоб методи узгодження поведінки ШІ з людськими цілями та технології безпеки розвивалися швидше або щонайменше не відставали від зростання можливостей моделей.

Сценарій №2: надмірна концентрація влади

Альтман побоюється, що світ може опинитися в ситуації, коли надзвичайно потужний штучний інтелект контролюватиме одна людина або одна компанія.

«Якщо надзвичайно потужний ШІ буде використаний однією людиною або компанією, щоб нав’язати всім іншим своє бачення світу, наслідки можуть бути надзвичайно антиутопічними», — написав він.

Саме тому бізнесмен погоджується з ідеєю Амодея щодо «уповільнення» розвитку передових систем ШІ.

Водночас голова OpenAI уточнив, що йдеться не про зупинку прогресу.

«Коли ми говоримо про „уповільнення“, ми не маємо на увазі „зупинку“. Прогрес був швидким і триватиме. Але він має бути повільнішим, ніж міг би бути за інших умов», — пояснив Альтман.

На його думку, така ціна за додаткову безпеку буде виправданою.

Раніше Альтман також заявляв, що компаніям, які розробляють дедалі потужніший штучний інтелект, необхідно діяти відповідально, а суспільство має бути впевненим у безпеці таких технологій.