Провідні розробники ШІ звільняються з компаній: чого насправді бояться творці нейромереж
Колишній дослідник передової ШІ-лабораторії гучно залишив свою посаду, звинувативши корпорації у безвідповідальній гонці та створенні технології, яка вже найближчим часом може вийти з-під контролю.
Підпишіться на нас в Google
Провідні розробники нейромереж попереджають, що ШІ може знищити людство ще до кінця десятиліття / © Pixabay
Відомий фахівець в галузі нейромереж Джейкоб Коксон залишив компанію Anthropic після 3 років активного навчання нових моделей штучного інтелекту. Він звинуватив свого колишнього роботодавця та розробників системи ChatGPT з OpenAI у вкрай безвідповідальному ставленні до глобальної безпеки.
Про ці моторошні попередження науковця повідомляє видання Daily Mail.
Загроза штучного суперінтелекту
Експерт пояснив, що суперінтелект виникає тоді, коли штучна система стає могутнішою за будь-яку окрему людину, корпорацію чи державу. Такі надлюдські програми зможуть миттєво зламати всі системи захисту та захопити реальну владу і ресурси на планеті.
«Люди, які створюють штучний інтелект, щиро вірять, що він може вбити нас усіх до кінця цього десятиліття», — заявив Джейкоб Коксон.
За словами науковця, ця загроза не є маркетинговим трюком, адже багато топменеджерів висловлюють подібні страхи у приватних розмовах. Керівництво Anthropic чудово розуміє цю небезпеку, однак бере участь у неконтрольованій гонці, щоб досягти результату першими.
Попередження для розробників
Як приклад реальної небезпеки дослідник навів злам платформи Hugging Face штучним інтелектом від OpenAI. Цей інцидент показав необхідність укладання строгих угод між американськими лабораторіями, аж до тимчасової заборони на вдосконалення моделей.
«Джейкоб правий — ми дійсно щиро віримо, що штучний інтелект може вбити всіх людей», — підтвердив керівник відділу безпеки Anthropic Еван Хабінгер.
Глобальний ризик вимирання
Цей фахівець оцінює ймовірність такого катастрофічного сценарію у понад 10 відсотків вже протягом найближчих 10 років. Водночас компанія Anthropic досі не має чіткого плану щодо безпечного узгодження дій майбутнього суперінтелекту з інтересами людства.
«Втрата контролю над розумнішим за нас штучним інтелектом може бути катастрофічною і навіть призвести до вимирання людства», — попередив канадський дослідник Джеффрі Хінтон.
Ці гучні заяви пролунали на тлі великого політичного скандалу у Великій Британії. Стало відомо, що компанія Anthropic відмовилася надати свою розробку для тестування Інституту безпеки штучного інтелекту через прямий тиск з боку адміністрації президента США Дональда Трампа.
Нагадаємо, Білл Гейтс попередив про страшні наслідки використання ШІ. Американський мільярдер оприлюднив новий тривожний прогноз, попередивши людство про загрозу нової пандесії та масових звільнень.