A minuta de novo decreto presidencial que tem por objetivo regular o Marco Civil da Internet (Lei n. 12.965/2014) compromete os esforços nacionais e internacionais de desenvolvimento e aplicação de políticas e tecnologias de detecção de abusos e ilícitos, revertendo os avanços alcançados na última década para tornar a Internet um ambiente mais seguro e saudável para crianças e adolescentes. Assim como a minuta de decreto, alguns projetos de lei em tramitação no Congresso também querem proibir as redes sociais de removerem conteúdo sem decisão judicial, inviabilizando, na prática, o combate a comportamento abusivo e conteúdo nocivo nas redes.

As plataformas são criadas para finalidades diferentes e elas devem ser transparentes sobre suas regras e aplicá-las com diligência, o que sabemos ainda ser uma realidade distante no que se refere especialmente ao contexto brasileiro e de todo o Sul global. No entanto, essas iniciativas regulatórias podem acabar permitindo que pessoas sigam violando essas regras, o que coloca crianças e adolescentes em risco. Além disso, as propostas ameaçam a segurança e os direitos dos usuários ao impedir a capacidade de um serviço de se adaptar a novos problemas. É o caso, por exemplo, de conteúdos que disseminam desafios perigosos ou exposição a conteúdos inadequados a determinadas faixas etárias. As plataformas devem poder adaptar continuamente seus produtos, regras e processos para ficar um passo à frente dos agentes mal-intencionados, garantindo transparência acerca de seu modus operandi. As políticas dos serviços e plataformas online, assim como as tecnologias, são documentos vivos, em constante evolução. Por isso, um rol de exceções também não seria capaz de endereçar em tempo real conteúdo prejudicial nas redes.

O novo decreto engessa e paralisa o desenvolvimento dessas políticas inclusive ao limitar a utilização de tecnologias de detecção automatizada, desde a mais elementar, usada para correspondência de imagem (file hashing), passando pelas intermediárias baseadas em Visão Computacional e a mais inovadora, Inteligência Artificial, incluindo seu tipo mais avançado: Deep Learning. Essas tecnologias são usadas no mundo inteiro para reconhecer imagens de abuso sexual antes que sejam postadas e impedir sua viralização, detectar novas palavras-chave, sinais de coordenação e mapear redes e o modus operandi dos abusadores, muitas vezes impedindo que o ato criminoso ocorra.

As crianças são revitimizadas pela circulação contínua das imagens de seu abuso. Dados internacionais revelam que em 2020 o NCMEC (Centro Nacional para Crianças Desaparecidas e Exploradas nos EUA) recebeu 33,6 milhões de imagens de abuso, das quais 10,4 milhões eram únicas, e 31,6 milhões de vídeos, dos quais 3,7 milhões eram únicos. Segundo o INHOPE (Associação Internacional de Canais de Denúncia, com sede na Holanda) 60% de todas os URLs avaliadas pelos hotlines (linhas diretas de denúncia), em 2020, vieram de material previamente avaliado, o que significa que o mesmo conteúdo está se espalhando pela Internet e é denunciado repetidamente.

A minuta de decreto inverte o ônus para a vítima, ao obrigá-la a buscar uma ordem judicial para remover conteúdos que hoje são removidos voluntariamente pelas plataformas durante o processo de detecção de abusos e ilícitos. Os custos - financeiros, emocionais, de tempo, etc - serão suportados pela vítima, que será mais uma vez revitimizada ao ver o conteúdo viralizar enquanto aguarda uma liminar.

O custo para o setor público também não deve ser negligenciado, com a explosão no número de processos judiciais desnecessários, sobrecarregando ainda mais o Poder Judiciário. Especialistas, empresas, entidades da sociedade civil e organismos internacionais concordam que para endereçar esses graves problemas é necessário investir, com absoluta prioridade, em educação para o uso ético, seguro e saudável da Internet, moderação de conteúdo pelas plataformas mais rápida e transparente, ferramentas de controle parental e pesquisa e desenvolvimento de novas tecnologias de detecção e resposta a situações de abuso, o que exige técnicas inovadoras de combate e prevenção.

É importante ressaltar que durante a pandemia COVID-19 mais que dobrou o número de crimes sexuais contra crianças e adolescentes na Internet no Brasil. Dados da Central Nacional de Denúncias de Crimes Cibernéticos, operada pela SaferNet Brasil e pelo MPF, apontam um crescimento de 102% no número de denúncias de abuso online de crianças e adolescentes em 2020, comparado a 2019. Houve também um aumento expressivo de pedidos de ajuda relacionados à saúde mental (ideação suicida e auto-mutilação), problemas com dados pessoais, exposição de imagens íntimas, cyberbullying, fraudes, golpes e spam.

A pesquisa TIC Kids Online Brasil 2019, do CETiC.br/Comitê Gestor da Internet (CGI.br), aponta ainda que 43% das crianças e dos adolescentes brasileiros de 9 a 17 anos viram alguém ser discriminado na Internet, e que 7% da população nessa faixa etária reportou ter se sentido discriminado na Internet. Outros conteúdos sensíveis, como cenas de violência ou com muito sangue (22%), formas para ficar muito magra (15%) - em sua maior parte conteúdos pró-anorexia e bulimia - e experiências ou uso de drogas (10%) também foram expostos a crianças e adolescentes, faixa etária que representa um terço dos 140 milhões de brasileiros com acesso regular à Internet.

O uso de tecnologias de detecção automatizada por atores do setor privado para detectar, reportar e remover, voluntariamente, material de abuso sexual infantil, bem como ameaças baseadas em texto, como assédio e aliciamento, atende ao interesse público e social, conforme determina o artigo 227 da CF/88: “ É dever da família, da sociedade e do Estado assegurar à criança, ao adolescente e ao jovem, com absoluta prioridade, o direito à vida, à saúde, à alimentação, à educação, ao lazer, à profissionalização, à cultura, à dignidade, ao respeito, à liberdade e à convivência familiar e comunitária, além de colocá-los a salvo de toda forma de negligência, discriminação, exploração, violência, crueldade e opressão".

Por isso é de fundamental importância um debate mais aprofundado sobre os graves riscos que o novo decreto e os PLs com teor similar representam para a garantia dos direitos das crianças e adolescentes, bem como sobre os seus impactos negativos ao reverter os avanços já constituídos em matéria de remoção de conteúdo nocivo e criminoso contra crianças e adolescentes nas redes.

SaferNet Brasil
Instituto WCF Brasil (Childhood Brasil)
Instituto Alana
Centro de Estudos Integrados Infância, Adolescência e Saúde (CEIIAS) Rede ESSE Mundo Digital
Instituto Liberta
InternetLab - Centro de Pesquisa em Direito e Tecnologia
Instituto de Tecnologia e Sociedade - ITS Rio
Associação pela Saúde Emocional de Crianças - ASEC Brasil

A segurança nos ambientes digitais apresenta-se como um desafio complexo. Podemos pensar em diferentes tipos e níveis de segurança - das preocupações com segurança nacional à proteção da senha pessoal no celular. Na sociedade da informação, proteger e cuidar desses dados é uma tarefa para todos. A internet é também um ambiente de produtos que são trocados, vendidos e negociados. Quando lembramos que a Internet das Coisas já é uma realidade, conectando não apenas pessoas, mas bilhões de objetos como redes, o desafio de conectar-se com segurança exige cada vez mais atenção. 

O assunto também envolve cuidado com dados pessoais que deixamos em sites como redes sociais, de busca, nos milhões de emails e mensagens, sites de compras, nos programas de fidelidade, nos cartões de crédito e nos dispositivos móveis que concentram cada vez mais informações detalhadas sobre nossas vidas. Nunca pensamos a segurança como oposto de liberdade, mas como condição para que as liberdades das diferentes pessoas sejam respeitadas nos diferentes contextos nos quais nos relacionamos dentro e fora da rede. 

Considerando o direito à segurança da informação como um dos direitos humanos que defendemos também na rede, a SaferNet oferece algumas dicas para preservar os direitos de proteção contra abusos e violações de privacidade ou das liberdades de expressão, e posicionamento sexual, religioso, político e de pensamento. O desafio é imenso, mas trabalhamos na construção de plataformas de informações para despertar a consciência dos internautas sobre a importância de saber fazer boas escolhas nos cliques diários na Internet.