O Discord informou ao governo federal que há indícios de que os atos que resultaram na morte de uma adolescente de 13 anos, em Naviraí (MS), podem ter sido articulados em outras plataformas digitais, especialmente Telegram e TikTok. A empresa apresentou essa avaliação em documento encaminhado às autoridades.
Segundo o Discord, a existência de interações fora da plataforma ajudaria a explicar por que os sistemas internos não identificaram o risco de forma imediata antes da transmissão ao vivo que teria envolvido a vítima. A empresa afirmou que a menção a outras plataformas não tem o objetivo de afastar responsabilidades, mas de delimitar tecnicamente quais informações estavam disponíveis para seus sistemas de monitoramento.
O TikTok negou que tenha ocorrido qualquer atividade de coordenação relacionada ao caso dentro de sua plataforma. Em nota, a empresa afirmou que realizou buscas sobre o episódio e não encontrou indícios de que o incidente tenha sido articulado pela rede social ou que usuários tenham sido direcionados por meio dela para participar das ações investigadas. A Folha de São Paulo não conseguiu localizar representantes do Telegram para comentar as afirmações feitas pelo Discord.
Na quarta-feira, a ANPD (Agência Nacional de Proteção de Dados) determinou que o Discord suspenda temporariamente as transmissões ao vivo e recursos semelhantes de compartilhamento de vídeo no Brasil. A medida foi tomada após o caso e deverá ser cumprida em três dias úteis. As funcionalidades só poderão retornar após a comprovação de medidas consideradas efetivas para ampliar a proteção de crianças e adolescentes. A decisão não determina a retirada completa do Discord do ar.
Identificação do sistema
Em documento datado de 10 de agosto, enviado à Secretaria Nacional de Direitos Digitais, o Discord admitiu que havia sinais de risco relacionados à transmissão, mas afirmou que eles não foram suficientes para gerar um alerta confiável pelos mecanismos internos. A empresa informou que seu sistema de segurança funciona a partir de uma pontuação de risco. A transmissão analisada teria recebido classificação de 0,12, enquanto o limite para disparar uma identificação automatizada seria de 0,95.
O Discord afirmou que o resultado está sendo reavaliado e poderá contribuir para ajustes na sensibilidade do sistema. A empresa também informou que recebeu uma comunicação de um órgão de segurança às 3h50, sem muitas informações iniciais. Menos de 25 minutos depois, o servidor relacionado à transmissão foi removido.
Falhas no monitoramento
A nota técnica da ANPD concluiu que o Discord não possui ferramentas suficientes para permitir análise de conteúdo e detecção de violações em tempo real. Segundo a agência, a plataforma dependeria de sistemas automatizados considerados falhos e de denúncias feitas pelos próprios participantes. Para a ANPD, o episódio demonstra uma falha grave no modelo adotado pela empresa, já que uma situação envolvendo risco de automutilação e morte de uma adolescente teria recebido uma classificação de risco baixa devido à falta de calibração adequada do sistema.
A agência também afirmou que a possibilidade de aumento de falsos positivos não justifica a manutenção de falhas quando estão em jogo situações envolvendo crianças e adolescentes. Em casos de risco iminente de lesão grave, automutilação ou morte, o custo de uma falha na identificação seria muito superior ao custo de uma análise humana adicional de conteúdos suspeitos.
Após a determinação de suspensão, o Discord classificou a decisão da ANPD como “prematura” e afirmou que a avaliação feita pelo órgão regulador não representa os sistemas de segurança mantidos pela empresa. A plataforma disse que não tolera grupos ou indivíduos que promovam violência e mantém equipes responsáveis por identificar e remover conteúdos que violem suas regras.
Caso de MS colocou plataforma sob pressão
A morte da adolescente ocorreu em 22 de julho e ganhou maior repercussão política após a primeira-dama Janja Lula da Silva defender a retirada da plataforma do país na quinta-feira (6). A ANPD abriu processo de fiscalização na sexta-feira (7) e, cinco dias depois, determinou a suspensão preventiva das transmissões ao vivo.
Além da suspensão, o Discord poderá apresentar recurso administrativo em até dez dias úteis. Caso a fiscalização conclua que houve descumprimento das regras de proteção de crianças e adolescentes, a empresa poderá sofrer sanções previstas na legislação, incluindo multas que podem chegar a R$ 50 milhões por infração. O caso também chegou à AGU (Advocacia-Geral da União), que mantém discussões com representantes da empresa sobre medidas adicionais de segurança.
