Meta объявила о запуске новых мер защиты подростков в социальных сетях. Родители, использующие инструменты родительского контроля в Instagram, теперь будут получать уведомления, если их дети-подростки обсуждают с искусственным интеллектом Meta AI темы суицида или самоповреждения. Система будет анализировать разговоры с помощью специально разработанного ИИ, а затем все случаи будут проверяться вручную перед отправкой уведомления родителям.
Компания подчёркивает, что стремится обеспечить подросткам безопасное взаимодействие с искусственным интеллектом. Когда подросток намекает на мысли о суициде или самоповреждении, Meta AI уже направляет его к кризисным службам помощи и рекомендует обратиться к родителям или другому взрослому. Теперь же платформа будет дополнительно проактивно информировать родителей о возможном риске, предоставляя им экспертные ресурсы для разговора с детьми.
Функция уже запущена для пользователей родительского контроля Instagram в США, Великобритании, Австралии и Канаде. К концу года она станет доступна родителям по всему миру. Кроме того, Meta работает над возможностью автоматически связываться со службами экстренной помощи, если разговор с Meta AI указывает на непосредственную угрозу суицида. В прошлом году компания сделала более 19 000 таких обращений к спасательным службам по всему миру.
При разработке новых функций Meta консультировалась с более чем 75 клиническими психологами, специализирующимися на подростковом психическом здоровье. Эксперты оценивали сотни ответов ИИ на чувствительные темы, помогая сделать взаимодействие более уместным и эмпатичным. Также введена более строгая настройка контента для родителей, желающих дополнительно ограничить темы разговоров подростков с Meta AI.
Источник: Meta Newsroom
