A Safernet Brasil, que atua no combate à violência e a exploração sexual contra crianças e adolescentes na internet, é a primeira organização do país a vencer um concurso mundial do fundo internacional End Violence Against Children (Fim da Violência contra Crianças) e lançará projeto para o desenvolvimento de tecnologias de prevenção e combate ao abuso sexual infantil online.

A Safernet Brasil, que atua no combate à violência e a exploração sexual contra crianças e adolescentes na internet, é a primeira organização do país a vencer um concurso mundial do fundo internacional End Violence Against Children (Fim da Violência contra Crianças) e lançará projeto para o desenvolvimento de tecnologias de prevenção e combate ao abuso sexual infantil online.  

A Safernet foi uma das vencedoras da chamada Safe Online 2021 da End Violence, que patrocinará, com um total de U$ 15 milhões, 18 projetos que desenvolvem iniciativas que mantenham as crianças seguras por meio da prevenção e do combate à violência. A Safernet é a única representante da América Latina entre as instituições escolhidas.

O projeto D.I.S.C.O.V.E.R., da Safernet, foi contemplado pela chamada. O projeto facilitará o acesso gratuito a pesquisadores e desenvolvedores a certos dados curados e anonimizados provenientes do canal de denúncias (www.denuncie.org.br) mantido pela Safernet desde 2006, sobre violência e exploração de crianças e adolescentes na internet. O acesso aos dados, em ambiente seguro e controlado, permitirá que pesquisadores, universidades, institutos de pesquisa e parceiros selecionados tenham mais capacidade para desenvolver pesquisas e novas tecnologias para a prevenção e o combate ao abuso sexual infantil online. 

O D.I.S.C.O.V.E.R. terá três etapas. Na primeira delas será desenvolvida uma API segura (interface de conexão entre programas), que permitirá acesso controlado a um conjunto de dados com curadoria de textos, metadados e palavras-chave, coletados a partir de páginas denunciadas com conteúdos de violência e exploração sexual online. Simultâneamente, o projeto terá também uma sandbox (ambiente de testes) para desenvolvedores. Após as duas primeiras fases será organizada uma hackaton (maratona de desenvolvimento) nacional para engajar comunidades de desenvolvedores para a criação de soluções inovadoras para o combate de violência sexual online.

"Hoje há uma lacuna no desenvolvimento de pesquisas e protótipos capazes de detectar padrões de violência e exploração sexual online em português. Usando ciência de dados, vamos capacitar desenvolvedores e pesquisadores para prevenir comportamentos criminosos e mitigar tentativas de abuso na rede brasileira e de outros países lusófonos. O projeto é um divisor de águas para proteger as crianças online", afirma Thiago Tavares, presidente da Safernet Brasil. 

O projeto terá a duração de dois anos e a expectativa é que possa promover o fortalecimento das estratégias de prevenção e combate à violência e exploração sexual de crianças e adolescentes no Brasil e em outros países de língua portuguesa. 

A iniciativa da Safernet é pioneira em sua área e contribuirá para a definição de parâmetros éticos e de segurança para a abertura de dados por outros canais de denúncia, o que pode abrir caminho para outras ações similares no hemisfério Sul, ampliando a cooperação com comunidades científicas e com desenvolvedores engajados na pauta dos Direitos Humanos na Internet.

Sobre o canal de denúncias  da Safernet

O canal de denúncias da Safernet existe há 16 anos e é o primeiro hotline do país que recebe denúncias anônimas de crimes e violações contra os Direitos Humanos na Internet, encaminhados de forma transparente às autoridades. Caso você encontre imagens, vídeos, textos ou qualquer outro tipo de material que seja atentatório aos Direitos Humanos, faça a sua denúncia. O serviço monitora 10 tipos de crimes diferentes.

Apenas em 2021, os dados compartilhados pela SaferNet Brasil com as autoridades brasileiras auxiliaram na instauração de mais de 800 investigações nacionais para o combate do crime de pornografia infantil nas redes.

Veja os indicadores (https://indicadores.safernet.org.br/) disponíveis desde 2006. 

Conheça mais sobre a End Violence

O Fundo End Violence oferece apoio financeiro para programas que concretizam soluções práticas e inovadoras para proteger crianças da exploração e abuso sexual online. A End Violence atua com uma coalizão de mais de 700 organizações, incluindo governos, agências da ONU, instituições de pesquisa, ONGs Internacionais, Fundações, grupos do setor privado e redes religiosas. 

A Parceria Global e o Fundo Para Acabar com a Violência contra Crianças (Global Partnership and Fund to End Violence Against Children) foram lançados em julho de 2016, pela Secretaria Geral da ONU. É a única entidade global focada exclusivamente no Objetivo de Desenvolvimento Sustentável 16.2: Acabar com abuso, exploração, tráfico e todas as formas de violência e tortura contra crianças até 2030.

A 25ª Parada do Orgulho LGBTQIA+ de São Paulo, realizada virtualmente no último domingo (6), poderia ter sido palco para haters, como chegou a acontecer na edição de 2020, mas a ONG Safernet -- à convite da Dia Estúdio, que transmitiu a parada -- fez uma moderação inédita de discurso de ódio em parceria com a empresa e reduziu a zero as mensagens com ameaças ou menções à morte na edição do evento deste ano.

Ao todo, 13 canais transmitiram ao vivo a Parada LGBTQIA+ paulista. A experiência da Safernet foi realizada no canal da Dia Estúdio, o de segunda maior audiência na edição deste ano, com 360 mil visualizações, sendo superado somente pela plataforma do canal Diva da Depressão, com quase 431 mil visualizações.

O intuito da Dia Estúdio ao procurar a Safernet, para além de monitorar as mensagens, denunciar e pessoas que entravam no canal do estúdio para disseminar discurso de ódio, era estruturar a moderação de conteúdo do evento e encaminhar corretamente comentários homofóbicos, racistas, preconceituosos e intolerantes.

A Safernet usou o sistema de moderação do YouTube e ampliou o filtro para 874 palavras, acrescentando termos usados pelos haters em 2020. O resultado foi que nenhuma mensagem contendo ameaça ou menções à morte foi registrada no canal da Dia Estúdio entre os 59.147 comentários postados por 9281 usuários do YouTube que assistiram à parada pela plataforma.

Na parceria realizada com a Dia Estúdio, a Safernet colocou à disposição o seu hotline de denúncias: denunciar.org.br para o qual foram enviados 101 comentários com mensagens homofóbicas - sem menção à morte - captados pela moderação humana e virtual da transmissão da parada, e que serão encaminhados às autoridades competentes.

A moderação virtual e humana das mensagens de ódio contra a Parada LGBTQIA+ 2021 ocorre em um momento em que o hotline da Safernet registrou um aumento de 106,3% nas denúncias de conteúdo LGBTfóbico na internet. Entre 1 de janeiro e 15 de junho de 2021 foram 2529 denúncias únicas, contra 1226 no mesmo período do ano passado.

A Safernet distribuiu ainda aos parceiros um miniguia para criadores de conteúdo sobre como lidar com discurso de ódio -- voltado ao público LGBTQIA+. O guia sugere que o discurso de ódio seja tratado pelo modelo 5 R´s: reportar, reduzir, remover, recompensar e responsabilizar.

• reportar - denunciar o conteúdo de ódio nos canais corretos;
• reduzir - diminuir o alcance do discurso de ódio, desmonetizando-o, se for o caso;
• remover - tirar de circulação conteúdos que violem as políticas de discurso de ódio da plataforma;
• recompensar - incentivar as vítimas de discurso de ódio a denunciar;
• responsabilizar - aplicar a lei sobre quem espalha discurso de ódio.

Para Juliana Cunha, diretora de projetos especiais da Safernet, “eventos com grandes audiências e muita visibilidade que podem causar reações polarizadas precisam incluir em seu plano de comunicação estratégias para responder ataques virtuais”.

A experiência permitiu à Safernet concluir que é preciso também criar ferramentas que bloqueiem emojis e símbolos nas ferramentas de filtragem de palavras nas plataformas de transmissão.