Meta* начнёт использовать искусственный интеллект для анализа фотографий и видео в поисках визуальных признаков, указывающих на возраст пользователя. Система будет оценивать такие параметры, как рост и телосложение, чтобы определить, не является ли человек младше 13 лет, и удалить такой аккаунт из Facebook* и Instagram*. Об этом компания объявила во вторник.
«Мы хотим прояснить: это не распознавание лиц, — пояснили в Meta*. — Наш ИИ изучает общие темы и визуальные подсказки, например, рост или телосложение, чтобы оценить примерный возраст человека; он не идентифицирует конкретного человека на изображении. Объединяя эти визуальные данные с анализом текстов и взаимодействий, мы можем значительно увеличить количество выявляемых и удаляемых аккаунтов несовершеннолетних».
Сейчас система визуального анализа работает в нескольких странах, но Meta* работает над её более широким внедрением.
Эта система — часть усилий Meta* по недопущению детей младше 13 лет на свои платформы. Компания также использует ИИ для анализа профилей в поисках контекстуальных подсказок, таких как празднование дня рождения или упоминание школьного класса. Эти сигналы ищутся в разных форматах: постах, комментариях, биографиях, подписях и других. В будущем Meta* планирует расширить применение этой технологии на большее количество частей своих приложений, включая Instagram* Live и сообщества Facebook*.
Если Meta* определит, что пользователь, вероятно, не достиг 13 лет, его аккаунт будет деактивирован. Чтобы предотвратить удаление, пользователю нужно будет подтвердить свой возраст с помощью процедуры верификации компании.
Это объявление последовало через несколько недель после решения суда в Нью-Мексико, который обязал Meta* выплатить 375 миллионов долларов в качестве гражданских штрафов за введение потребителей в заблуждение относительно безопасности платформ и создание рисков для детей. Компании также было предписано внести фундаментальные изменения в свои сервисы. Meta* в ответ пригрозила закрыть свои социальные медиа в этом штате. Это дело — лишь одно из множества судебных исков, с которыми сталкиваются Meta* и другие технологические гиганты по вопросам безопасности детей.
Также во вторник Meta* объявила о расширении технологии автоматического перевода подростков на более строгие «Подростковые аккаунты» в Instagram*. Теперь она доступна в 27 странах Евросоюза и в Бразилии. Такие аккаунты обеспечивают дополнительные меры защиты: пользователи получают личные сообщения только от тех, на кого подписаны или с кем уже связаны, вредные комментарии скрываются, а аккаунты по умолчанию устанавливаются как приватные.
Кроме того, Meta* сообщила, что впервые внедряет эту технологию на Facebook* в США, а в июне её планируется запустить в Великобритании и ЕС.
*Meta Platforms Inc. признана экстремистской организацией и запрещена на территории РФ.
