Чат-боты с ИИ опасны: эксперт объяснил, какие данные можно украсть

Киберспециалисты бьют тревогу. Они считают, что чат-боты с искусственным интеллектом являются настоящей находкой для хакеров.

Об этом пишет The Sun.

ШИ-боты становятся все умнее, быстрее и доступнее. А поскольку эти системы искусственного интеллекта научились говорить как люди, может возникнуть соблазн проявить чрезмерное доверие и сообщить им конфиденциальную информацию.

Советник по глобальной кибербезопасности компании ESET Джейк Мур рассказал, что ШИ-модели, на которых основаны чат-боты, в большинстве своем безопасны, но существуют и "подводные камни". Главный риск заключается в том, что все данные хранятся на серверах и потенциально их можно сломать. Кладка просит пользователей не изливать душу чат-ботам.

"Важно быть внимательными при использовании чат-ботов, которые не шифруют переписку. Шифрование "искажает" разговоры, поэтому никто не может их прочитать. Доступ к данным может получить только тот, у кого есть ключ для расшифровки", — говорится в сообщении.

OpenAI защитила все чаты ChatGPT сквозным шифрованием для платных и бесплатных пользователей. Однако некоторые приложения могут взимать плату за шифрование или не предлагать его вообще.

"Возможно, вам придется поделиться кодом бронирования рейса или частью своего адреса с чат-ботом авиакомпании, но вы всегда можете позвонить оператору вместо того, чтобы использовать бот. Никогда не сообщайте пароли или другие учетные данные для аутентификации ШИ-ботам. Не делитесь с ними своими личными мыслями и интимными подробностями", — добавил эксперт по кибербезопасности в KnowBe4 Мартин Дж. Кремер.

Ранее в OpenAI оценили влияние генеративного искусственного интеллекта на экономику.

Подписывайтесь на наши каналы в Telegram и Viber.