Женщина едва не умерла после совета, полученного от ChatGPT

Женщина едва не умерла после того, как ChatGPT дал ей неправильный совет относительно ядовитого растения.

Об этом рассказала YouTube-блогер Кристи в своем аккаунте в Instagram, передает LADbible.

По словам инфлюенсера, ее подруга прислала чат-боту фотографию растения, которое росло на заднем дворе, и попросила определить, что это такое.

В своем ответе ChatGPT утверждал, что изображение похоже на листья моркови, перечислив несколько причин своей уверенности, в частности «мелко разделенные и перистые листья», что является очень «классическим» для ботвы моркови.

Когда подруга Кристи прямо спросила, является ли растение на фотографии ядовитым болиголовом, ее неоднократно уверяли, что это не так.

После того, как она поделился еще одним фото с ChatGPT, чат-бот снова заверил, что растение не болиголов, поскольку на нем нет гладких полых стеблей с фиолетовыми пятнами, несмотря на то, что изображение, кажется, именно это и показывало.

Когда Кристи вставила ту же фотографию в Google Lens, еще одну платформу искусственного интеллекта, которая позволяет искать изображения, ответы сразу подтвердили, что это действительно ядовитое растение — болиголов.

Затем ее подруга вставила те же изображения в другое окно ChatGPT на своем телефоне и также сразу получила сообщение о ядовитости растения.

«Она взрослый человек, и она знала, что нужно спрашивать больше, чем сказал ChatGPT. А что, если бы нет? Она бы буквально умерла, противоядия от этого нет», — сказала Кристи.

Инфлюенсерка из этого случая сделала вывод, что не стоит доверять ChatGPT и другим крупным языковым моделям, а также любому другому искусственному интеллекту, поскольку это, по ее словам, «может нанести серьезный вред».

Издание LADbible обратилось к ChatGPT за комментарием.

Напомним, миллионы людей еженедельно общаются с чатботами, например ChatGPT, и часть из них развивает эмоциональную зависимость или даже высказывает мысли о самоубийстве.