Компания заявила, что внутренние системы модерации зафиксировали сигналы опасности в ходе трансляции, но сочли их недостаточными для автоматического вмешательства.
Discord признал в документе, направленном властям Бразилии, что во время прямой трансляции, которая, предположительно, предшествовала смерти 13-летней девочки, были зафиксированы признаки возможного риска. Однако система внутреннего мониторинга платформы не сочла их достаточными для активации предупреждения.
По словам компании, “системы машинного обучения обработали доступные сигналы, но не сформировали предупреждение с достаточной степенью уверенности для автоматического принятия мер”. В Discord заявили, что стремятся соблюдать баланс между эффективностью выявления нарушений и риском ложных срабатываний.
Национальное управление по защите данных Бразилии заявило, что вероятность ложных срабатываний при выявлении нарушений не может служить оправданием для бездействия.
Регулятор распорядился приостановить прямые трансляции на платформе. В Discord назвали эту меру преждевременной. Компания также заявила, что “не терпит групп или отдельных лиц, которые пропагандируют или поощряют насилие”.
В Discord сообщили, что выявили и заблокировали сервер девочки-подростка еще до ее смерти. При этом, по версии компании, противоправная деятельность координировалась на других платформах — до и после блокировки причастных к трансляции пользователей.
Источник: Folha de S. Paulo
