ШІ втратив довіру: нейромережі навчилися обдурювати експертів

Масове використання генеративного штучного інтелекту призвело до того, що підроблені візуальні матеріали почали проникати в публічний простір та серйозні академічні видання. Оскільки будь-який користувач може за лічені секунди створити реалістичний знімок за звичайним текстовим запитом, традиційні методи візуального підтвердження наукових відкриттів стрімко втрачають свою надійність.

Про це пише The Conversation.

Фейки в авторитетних журналах

Інструменти штучного інтелекту вже активно змінюють способи створення, поширення та публікації наукових візуалізацій. Дослідники все частіше використовують їх для генерації ілюстрацій, створення синтетичних даних або редагування лабораторних знімків. Однак такі загальнодоступні технології повністю стирають межу між корисним покращенням фотографії та відвертою фабрикацією фактів.

У квітні 2026 року авторитетний медичний журнал New England Journal of Medicine був змушений відкликати статтю після виявлення згенерованого клінічного зображення. Ще раніше подібна доля спіткала дві інші наукові публікації, які містили біологічно неможливі структури. Розробники систем виявлення підробок намагаються боротися з цією проблемою, але їхні детектори завжди відставатимуть від нових технологій генерації.

Криза довіри та шляхи вирішення

Десятиліттями наукові знімки з мікроскопів чи космічних апаратів викликали беззаперечну довіру суспільства, адже їхнє створення вимагало дорогого обладнання та унікальної експертизи. Сьогодні ж, коли візуальна якість перестала бути надійним показником правдивості, люди починають відкидати справжні докази та вірити лише тим фейкам, які підтверджують їхні власні упередження. Це небезпечне явище загрожує тотальною кризою довіри до всієї наукової спільноти.

«Якщо аудиторія взагалі перестане довіряти візуальним доказам, наука втратить один зі своїх найпотужніших інструментів для суспільної комунікації», — наголошують дослідники.

Щоб зупинити поширення дезінформації, науковці закликають ставитися до походження зображень так само серйозно, як і до походження дослідницьких даних. Автори повинні чесно і прозоро вказувати, чи використовувався штучний інтелект для створення або модифікації конкретного матеріалу. Прозорість та дотримання професійних норм наразі є єдиним способом зберегти авторитетність візуальних доказів в епоху нейромереж.

Нагадаємо, штучний інтелект за 12 годин створив 400 наукових статей з фінансів, які рецензенти не змогли відрізнити від написаних людьми. Дослідження американських учених поставило під сумнів ефективність сучасної системи наукового контролю.