Fotos de menores alagoanos integram, sem autorização, banco de imagem para criação de ferramenta de IA

Relatório divulgado na última semana pela ONG Human Rights Watch, sediada em Nova Iorque, aponta que fotos de crianças e adolescentes brasileiros estavam sendo retiradas da internet, de forma indiscriminada, e usadas para a criação de ferramentas de inteligência artificial (IA).

Menores naturais de Alagoas e de outros nove estados chegaram a ser identificados entre 170 imagens analisadas, o que representa uma quantidade ínfima de material, considerando a existência de mais de 5 bilhões de pares de fotos e legendas integrantes do banco de dados.

O relatório da ONG foi publicado dias após a Meta – que gerencia o Instagram e o Facebook – anunciar o uso de material postado nessas plataformas para treinar seus modelos de inteligência artificial na Europa. O assunto provocou muitas discussões ligadas à proteção de dados dos usuários de redes sociais.

Conforme a ONG, as fotos de crianças e adolescentes brasileiros foram retiradas de sites pessoais e institucionais, como o de escolas, e de redes sociais. Além de comporem um grande conjunto de dados que as empresas usam para treinar suas ferramentas de IA, elas acabam sendo utilizadas para a criação de deepfakes maliciosos, que expõem as crianças a riscos de exploração e danos.

“A análise da Human Rights Watch descobriu que o LAION-5B, um conjunto de dados usado para treinar ferramentas populares de IA e construído, em sua maior parte, da Internet, contém links para fotos identificáveis de crianças brasileiras. Os nomes de algumas delas estão listados na legenda ou no URL onde a imagem está armazenada. Em muitos casos, as suas identidades são facilmente rastreáveis, incluindo informações sobre quando e onde a criança estava no momento em que a fotografia foi tirada”, diz a ONG.

Trata-se de imagens do cotidiano, de dez anos para cá, e que abrangem as mais diversas fases dos menores, desde o momento do parto, a crianças soprando velas no aniversário, estudantes fazendo apresentações em escolas e até dançando, de forma descontraída, dentro de casa.

Entre as 170 fotos analisadas, além de Alagoas, foram encontradas crianças dos estados da Bahia, Ceará, Mato Grosso do Sul, Minas Gerais, Paraná, Rio de Janeiro, Rio Grande do Sul, Santa Catarina e São Paulo.

“Muitas dessas fotos foram originalmente vistas por poucas pessoas e parecem ter tido alguma privacidade anteriormente. Elas não parecem ser possíveis de encontrar por meio de uma pesquisa online. Algumas delas foram postadas por crianças, seus pais ou familiares em blogs pessoais e sites de compartilhamento de fotos e vídeos. Alguns foram carregados anos ou mesmo uma década antes da criação do LAION-5B”, diz o relatório.

PRIVACIDADE

A ONG alerta, ainda, que com a inserção de fotos em sistemas de IA, as crianças enfrentam novas ameaças à privacidade, devido a falhas na tecnologia.

“Os modelos de IA, incluindo aqueles treinados no LAION-5B, são conhecidos por vazar informações privadas; eles podem reproduzir cópias idênticas do material em que foram treinados, incluindo registros médicos e fotos de pessoas reais. Esses riscos à privacidade abrem caminho para danos maiores. O treinamento em fotos de crianças reais permitiu que modelos de IA criassem clones convincentes de qualquer criança, com base em um punhado de fotos ou mesmo em uma única imagem. Atores maliciosos usaram ferramentas de IA treinadas pelo LAION para gerar imagens explícitas de crianças usando fotos inócuas, bem como imagens explícitas de crianças sobreviventes cujas imagens de abuso sexual foram gravadas no LAION-5B”, completa o relatório elaborado pela Human Rights Watch.

A advogada especialista no assunto e presidente da Comissão de Inovação e Tecnologia Jurídica e Proteção de Dados da OAB Alagoas, Nathália Peixoto, conta que o uso de fotos de crianças e adolescentes sem autorização geram punições severas, pois eles têm a proteção garantida tanto na Constituição Federal de 1988, quanto no Estatuto da Criança e do Adolescentes (ECA - Lei Federal nº 8.069, de 1990).

“Além disso, a Lei Geral de Proteção de Dados [Lei nº 13.709/2018] regulamenta o tratamento dos dados pessoais de crianças e adolescentes. Dado pessoal é qualquer informação que identifique ou que permita identificar uma pessoa, como nome, CPF, e-mail, idade, foto ou profissão. Da mesma forma, fragmentos de informação que, juntos, permitam identificar uma pessoa física também são considerados dados pessoais”, afirma Nathália.

CONSENTIMENTO

Ela ressalta que, para tratar dados pessoais de crianças, é obrigatório que haja o consentimento específico de um dos pais ou do responsável legal. Os controladores deverão manter públicas as informações sobre o tratamento de informações, como os tipos de dados coletados, a forma de utilização e os procedimentos para exercícios dos direitos do titular.

“Dados pessoais de crianças poderão ser coletados sem o consentimento do responsável apenas em duas situações: quando a coleta for necessária para contatar os pais ou responsável legal ou para a proteção da criança. Em nenhum caso, os dados podem ser repassados a terceiros sem consentimento”, completa a especialista.

Ela pontua que todos, inclusive pais e responsáveis, podem ser responsabilizados pelo mau uso de imagens de crianças e adolescentes. No caso de sites institucionais - como é o caso de escolas - deve haver uma preocupação com a segurança dos dados para que não haja responsabilização em caso de vazamento de imagens.

“Com o advento da inteligência artificial, esse cuidado deve ser redobrado, pois, com apenas uma simples fotografia para reconhecer o modelo do rosto da vítima, é possível mapear a estrutura da cabeça e fazer uma sobreposição. O software consegue ajustar a movimentação do vídeo ao novo rosto e isso inclui expressões faciais e movimentos labiais, mecanismo hoje conhecido com deepfake”.

A Gazeta de Alagoas foi em busca de informações sobre o assunto junto à Polícia Civil, mas nada referente à situação chegou à instituição até o momento. A Polícia Federal, a quem caberia investigar o caso, também foi procurada, mas não respondeu aos questionamentos pelo fato de o servidor responsável encontrar-se de férias.