O número de denúncias de crimes cibernéticos no Brasil aumentou 28,4% em 2025, com 87.689 novas queixas registradas pela SaferNet. Segundo a organização, uma parcela significativa desse aumento está relacionada ao uso de ferramentas de Inteligência Artificial (IA) generativa, que são usadas para criar conteúdos falsos com alta fidelidade. O avanço tecnológico tem facilitado a criação de materiais que simulam a realidade de maneira cada vez mais sofisticada.
Os deepfakes, que são manipulações de imagens, vídeos ou áudios sem consentimento, estão no centro das preocupações. A advogada Maria Eduarda Amaral, especialista em direito digital, afirma que “o nível de realismo atingiu um ponto em que a própria pessoa começa a duvidar de suas lembranças, o que altera completamente a forma como as provas são analisadas e como o direito deve responder a esse tipo de situação”.
O impacto disso é crítico, especialmente entre crianças e adolescentes. A SaferNet identificou pelo menos 16 casos de deepfakes sexuais em escolas de 10 estados, envolvendo 72 vítimas e 57 agressores menores de idade. A organização alerta que os números podem ser ainda maiores devido à subnotificação, e mesmo sem o uso de imagens reais, os conteúdos que simulam nudez por meio de IA configuram violações graves de privacidade e de direitos de imagem.
Maria Eduarda Amaral destaca que “não importa se a imagem foi criada por IA, se ela se assemelha claramente a uma pessoa real, já existe um potencial de violação de direito de imagem”. A especialista aponta que a responsabilidade recai sobre quem cria e sobre quem utiliza o conteúdo. Além disso, ela ressalta que o país enfrenta uma lacuna no monitoramento, já que não há dados oficiais consolidados sobre a incidência desses crimes ou sobre o andamento das investigações.
A rastreabilidade desses casos é complexa devido ao uso de plataformas estrangeiras ou à anonimização. Segundo a especialista, “isso não isenta a responsabilidade”. Amaral observa um aumento na judicialização desses casos e a tendência é que a pressão por regulamentação aumente, devido ao risco de reproduções indevidas causado pelo treinamento de IA com dados da internet.
O cenário atual também requer uma adaptação de conceitos jurídicos, como o estelionato sexual, para o ambiente digital. Maria Eduarda Amaral destaca que “no ambiente digital, isso pode ocorrer quando alguém interage ou consome conteúdos acreditando ser de uma pessoa real, quando na verdade está diante de uma simulação criada por inteligência artificial”. A advogada sugere o uso de estruturas tradicionais para lidar com comportamentos digitais inovadores.
