Соцсети и безопасность подростков — Instagram будет оповещать родителей об опасных поисках

Социальные сети давно стали частью жизни подростков, но вместе с этим приходят и риски. Алгоритмы, которые подбирают контент для ленты, могут незаметно показывать материалы, которые вредят психическому здоровью, от постов о самоповреждении до тем, связанных с пищевыми расстройствами, об этом рассказало издание RTÉ.

Таким образом, Meta, компания-владелец Instagram, стремится уменьшить эти риски и добавить новые инструменты для родителей, чтобы они могли отслеживать поисковую активность собственных детей и своевременно реагировать.

Как будет работать новая функция

Оповещение для родителей

Если подросток несколько раз в течение короткого времени пытается найти сроки, связанные с самоубийством или самоповреждением, родители будут получать уведомления. Сообщение будет поступать через email, SMS, WhatsApp или в приложении Instagram в зависимости от контактной информации родителей. Нажав на уведомление, родители увидят экран с объяснением и ссылками на ресурсы и горячие линии поддержки для подростков.

Instagram подчеркивает, что большинство подростков не ищут вредный контент и когда это случается, платформа блокирует такие поиски и предлагает альтернативную поддержку.

Сроки запуска

Планируется, что в первую очередь функция появится сначала для родителей в США, Великобритании, Австралии и Канаде. В Украине и регионах оповещения станут доступны позже в этом году. Meta также разрабатывает подобные оповещения для взаимодействия подростков с AI-чатами, которые появятся впоследствии.

Баланс безопасности и приватности

Чтобы избежать чрезмерных уведомлений, которые могут обесценить систему, Instagram установил порог количества поисковых запросов, это означает, что уведомление будет отправляться только после нескольких повторных попыток в короткий промежуток времени.

Компания желает сделать алгоритм максимально безопасным и точным. Instagram отмечает, на запрете продвижения или популяризации самоубийства и самоповреждения. Контентом о проблемах подростков можно делиться, но он не показывается несовершеннолетним, даже если их подписки включают такие страницы.

Instagram стремится сделать платформу более безопасной для подростков, предоставлять родителям инструменты для контроля и поддержки детей в критических ситуациях. Это еще один пример того, как технологии могут предотвращать опасные ситуации, помогать родителям оставаться на связи и своевременно реагировать.

Социальные сети остаются частью жизни подростков и их безопасность — общая ответственность платформ, родителей и педагогов.