В четверг компания Meta объявила, что разрабатывает новые инструменты для защиты несовершеннолетних пользователей Instagram от схем шантажа, включающих изображения сексуального характера и другие злоупотребления.
Такие действия были предприняты JAV после того, как политики обвинили платформу в нанесении вреда психическому здоровью молодежи.
В заявлении Meta говорится, что она тестирует инструмент «защиты от наготы» на основе искусственного интеллекта (ИИ), предназначенный для автоматического обнаружения и блокировки изображений наготы, отправляемых несовершеннолетним через систему обмена сообщениями приложения.
«Таким образом, получатель не сразу видит нежелательный интимный контент и может выбирать, смотреть его или нет», — рассказал AFP Капюсин Туффье, отвечающий за защиту детей во французском подразделении Meta.
Фирма заявляет, что также будет отправлять консультативные сообщения всем, кто отправляет или получает такие изображения.
Тайп пат скайтыките
Также разрабатываются меры против схем, когда преступники чего-то требуют, угрожая раскрыть интимную информацию о шантажисте, в том числе не допускать контактов потенциальных шантажистов с подростками.
В январе Meta объявила, что примет меры по защите пользователей в возрасте до 18 лет на своих платформах после того, как десятки штатов США возбудили судебные иски, обвинив компанию в получении прибыли «на боли детей».
Просочившееся внутреннее исследование Meta, о котором сообщила The Wall Street Journal и информатор, бывший инженер Facebook Фрэнсис Хауген, показало, что компания давно осознавала опасности, которые ее платформа представляет для психического здоровья молодых людей.
В четверг Meta заявила, что ее новейшие инструменты основаны на «многолетней работе компании по защите молодых людей от нежелательных или потенциально вредных контактов».
«Мы тестируем новые функции, которые помогут защитить молодых людей от шантажа с помощью сексуальных и оскорбительных изображений, а также затруднить общение потенциальных мошенников и преступников с подростками», — заявили в компании.
