Що справжнє, а що ШІ: Microsoft представила план перевірки контенту в інтернеті

Корпорація Microsoft запропонувала новий підхід до підтвердження автентичності онлайн-контенту на тлі стрімкого поширення матеріалів, створених або змінених за допомогою штучного інтелекту. Водночас компанія наразі не зобов’язалася впровадити ці рекомендації у власних продуктах.

Про це йдеться на MIT Technology Review.

«AI-дезінформація дедалі глибше проникає в цифровий простір — від маніпулятивних зображень, які поширюють посадовці, до відео впливових кампаній, спрямованих на аудиторію в різних країнах», — нагадують у виданні.

Тож дослідницька команда Microsoft з безпеки ШІ підготувала технічну «дорожню карту», яка має допомогти відрізняти справжній контент від зміненого.

Як це працюватиме

Фахівці проаналізували близько 60 різних комбінацій методів цифрової перевірки — від метаданих і водяних знаків до криптографічних підписів, щоб з’ясувати, які інструменти залишаються надійними навіть у разі часткових змін файлу або навмисних маніпуляцій.

Принцип перевірки Microsoft порівнює з експертизою картини Рембрандта. Тобто потрібно мати підтвердження походження, прихований машинозчитуваний знак і цифровий «відбиток», який засвідчує оригінальність.

За словами головного наукового співробітника компанії Еріка Горвіца, поштовхом до роботи стали як нові законодавчі ініціативи, зокрема закон штату Каліфорнія про прозорість ШІ, так і швидкий розвиток технологій, здатних створювати гіперреалістичні відео й аудіо.

Втім, Горвіц підкреслив: йдеться не про визначення правдивості контенту, а лише про його походження.

«Це не про те, щоб вирішувати, що правда, а що ні. Це про маркування, яке показує, звідки взявся матеріал», — пояснив він.

Чи запровадить Microsoft власні стандарти

Попри амбітність ініціативи Microsoft не гарантує повного впровадження цих стандартів у своїй екосистемі. Компанія управляє сервісом Copilot, хмарною платформою Azure, професійною мережею LinkedIn, а також має значну частку в OpenAI.

У компанії зазначили, що дослідження уже впливає на оновлення продуктів, однак конкретних зобов’язань щодо обов’язкового маркування всього AI-контенту не надали.

Обмеження технологій

Експерти наголосили, що навіть найкращі системи перевірки не визначають, чи є інформація правдивою. Вони лише фіксують факт редагування або створення матеріалу за допомогою ШІ.

Професор цифрової криміналістики з Каліфорнійського університету Гані Фарід вважає, що впровадження таких стандартів значно ускладнило б масове поширення маніпуляцій. Проте повністю проблему це не вирішить.

Дослідження також свідчать, що навіть коли користувачів повідомляють про штучне походження контенту, це не завжди зменшує його вплив.

Регулювання і політика

Нові правила щодо маркування AI-контенту вже готуються в Європейському Союзі та низці інших країн. Каліфорнійський закон може стати першим масштабним тестом ефективності таких інструментів у США.

Однак надто поспішне або неточне впровадження систем перевірки може підірвати довіру до них. Дослідники Microsoft застерігають: у деяких випадках краще не показувати жодного маркування, ніж демонструвати помилкове.

На тлі глобального зростання кількості дипфейків і маніпулятивних матеріалів питання цифрової автентичності стає не лише технологічним, а й політичним викликом. І хоча ініціатива Microsoft може задати новий стандарт, її реальний вплив залежатиме від того, чи готові самі технологічні гіганти застосовувати ці правила до власних продуктів.

Тим часом компанія Meta отримала патент на штучний інтелект, який нібито допомагає продовжувати активність у соцмережах навіть після смерті користувача.

Ідея полягає у створенні цифрового «клона» особистості, який реагуватиме на дописи, коментарі та повідомлення, імітуючи поведінку користувача.