Instagram ошибочно обвиняет пользователей в нарушении правил о сексуальном насилии над детьми
Пользователи Instagram сообщили, что испытали "сильный стресс" после того, как их аккаунты были заблокированы по ошибке – платформа обвинила их в нарушении правил, связанных с сексуальной эксплуатацией детей, сообщает BBC. Журналистам удалось связаться с пострадавшими, которым материнская компания Meta заявила, что их аккаунты будут удалены навсегда. Однако вскоре после того, как их истории привлекли внимание СМИ, доступ к аккаунтам был восстановлен.
Более 100 человек обратились в BBC News с жалобами на то, что Meta по ошибке заблокировала их аккаунты. Некоторые пользователи сообщили о потере дохода из-за недоступности их бизнес-страниц, другие – о сильных переживаниях из-за утраты доступа к фотографиям и воспоминаниям, накопленным за годы. Многие отмечают негативное влияние произошедшего на их психическое состояние.
Более 27 000 человек подписали петицию, обвиняя систему модерации Meta в ошибочных блокировках аккаунтов и неэффективной процедуре обжалования. Тысячи пользователей обсуждают эту проблему на форумах Reddit, а многие также делятся своим опытом блокировки в социальных сетях. Ранее Meta признала наличие проблемы с модерацией в группах Facebook, но заявила, что подобные сбои не затронули остальные ее платформы в более широком масштабе.
В ответ на запрос BBC News представители Meta отказались комментировать инцидент. В последние годы Meta, как и другие крупные технологические компании, сталкивается с растущим давлением со стороны регулирующих органов и властей, которые требуют обеспечить безопасность пользователей на ее платформах. В беседе с BBC представители Meta заявили, что компания использует как автоматические системы, так и команду модераторов для выявления и удаления аккаунтов, нарушающих правила. При этом они отметили, что не располагают данными о резком росте числа ошибочных блокировок.
Кроме того, Meta пояснила, что ее политика в отношении сексуальной эксплуатации детей охватывает не только реальные случаи, но и "нереалистичные изображения с человеческими чертами" – такие как иллюстрации, ИИ-контент и вымышленные персонажи.