Um vídeo curto da apresentação de uma tarefa na escola, um clique do filho soprando a vela de aniversário ou aquela sessão de dança em casa. Esses registros geralmente são compartilhados nas redes sociais, mas os dados podem se espalhar pela internet. A Human Rights Watch (HRW), organização internacional de defesa e pesquisa em direitos humanos, mostrou que fotos de crianças e adolescentes brasileiros estão sendo usadas para alimentar plataformas de Inteligência Artificial (IA), sem o conhecimento ou a autorização dos pais e responsáveis legais.
Assim, esse conjunto de dados que são a nossa “pegada digital” ajuda a treinar ferramentas de IA que podem gerar novas imagens a partir de uma foto pessoal. Também podem criar deepfakes, técnica que reproduz cópias idênticas do indivíduo em imagens manipuladas e tiradas de contexto. Essa prática pode levar a crimes cibernéticos, como disseminação de fake news e de imagens de exploração sexual de crianças e adolescentes, por exemplo.
Confira a matéria do Portal Lunetas sobre o tema na íntegra abaixo.
Você permitiria que as fotos do seu filho ajudassem a inteligência artificial?
O relatório da Human Rights Watch, produzido pela pesquisadora de direitos da criança e tecnologia, Hye Jung Han, encontrou 170 fotos de crianças e adolescentes de pelo menos 10 estados brasileiros em um banco de dados da plataforma LAION-5B. As imagens vieram da raspagem de dados de sites de escolas, blogs pessoais e canais do YouTube. Contudo, o material analisado corresponde a menos de 1% da quantidade total de imagens.
“São fotos das famílias ou selfies das próprias crianças. Imagens que não têm qualquer outro propósito senão circular entre conhecidos. Por isso, há uma violação da privacidade dessas crianças quando se rouba secretamente as imagens, sem o consentimento dos pais, para usá-las na construção de ferramentas de IA”, conta a pesquisadora ao Lunetas.
Han decidiu investigar as ferramentas de IA após descobrir que mais de 80 adolescentes brasileiras tiveram fotos modificadas por colegas da escola e sofreram assédio sexual. “Eu vi relatos de meninas que foram vítimas de deepfakes com imagens sexuais explícitas feitas com base em fotos de redes sociais. Então, quis saber como era possível produzir imagens tão realistas. Comecei a pesquisar e foi assim que encontrei as outras fotos”, lembra.
O serviço que treina IAs LAION-5B se comprometeu a remover as imagens, mas não disse o que será feito para evitar que outras fotos sejam usadas com o mesmo propósito. A ONG alemã que mantém a plataforma afirmou que “as crianças e os familiares seriam os responsáveis por apagar as fotos pessoais na internet para se proteger do uso indevido”. A resposta é questionada por especialistas da proteção dos direitos das crianças e adolescentes. “A proteção desses grupos on e off-line deve ser prioridade absoluta. Afinal, isso está na nossa Constituição”, afirma Maria Mello, coordenadora do programa Criança e Consumo, do Instituto Alana. Então, a família, o Estado e toda a sociedade têm responsabilidade. “É aí que as grandes empresas também estão incluídas.”
Segundo a HRW, as ferramentas de IA expõem informações privadas e tornam rastreáveis as identidades e outros dados pessoais de crianças e adolescentes. “Algumas imagens revelam detalhes como seus nomes, onde estavam ou onde moravam na época da foto, e até a escola que frequentavam. Esse tipo de informação as coloca em risco se cair nas mãos de pessoas mal-intencionadas”, reforça Han.
Por que crianças do sul global estão mais expostas?
“O debate legislativo para a regulamentação do ambiente digital em relação à garantia de direitos de crianças e adolescentes está avançando nos países do norte global. Mas percebemos que isso não acontece com a mesma celeridade na América do Sul”, destaca Maria Mello. Segundo ela, esse descompasso “torna nossas crianças e adolescentes mais vulneráveis aos riscos e aos danos, porque as empresas têm menos compromisso com o assunto, nem recebem cobranças por isso”.
Para a pesquisadora do Human Rights Watch, a responsabilização das plataformas e a regulamentação legal são passos importantes. Assim, as famílias não precisariam carregar esse fardo sozinhas nem se sentir culpadas em compartilhar momentos com seus filhos nas redes sociais. Ou seja, não se trata apenas de uma responsabilidade individual, mas “o governo deveria garantir que todos protejam as crianças on-line”, diz Han.
“Eu deveria poder postar uma imagem sem medo de que alguém use essas fotos de forma mal-intencionada.”
Do mesmo modo, Mello reforça que “garantir essa proteção de crianças e adolescentes envolve uma força-tarefa que passa pela sociedade civil e pelo Estado em um processo de diálogo público”, diz. “O governo precisa abrir o debate com as famílias e propor regras de dever e de cuidado.”
Assim, enquanto não há uma política específica, Mello afirma que “a gente só protege, de fato, as crianças se não compartilhamos as imagens”. No entanto, “isso pode afetar o desejo das famílias e a interação social nas redes”.
Diante da falta de regulação e de compromisso das empresas, Hye Jung Han defende que a maneira mais eficiente de proteger a imagem das crianças na internet é “ter leis fortes de privacidade de dados infantis”.
“É essencial a proteção de dados das crianças por qualquer tipo de tecnologia, e não apenas a inteligência artificial, para evitar todo tipo de uso indevido, os que já existem e os futuros.”
O Brasil já deu os primeiros passos para proteger crianças na internet
Em abril, o Conselho Nacional da Criança e do Adolescente (Conanda) aprovou a Resolução 245, com orientação para o poder público garantir os direitos de crianças e adolescentes na internet. Os principais pontos são:
- Responsabilidades de empresas digitais
- Privacidade e proteção de dados
- Conscientização sobre impactos da internet
- Liberdade de expressão
A mesma resolução propôs a elaboração da Política Nacional de Proteção dos Direitos da Criança e do Adolescente no Ambiente Digital. O texto, que está em construção, deve apontar caminhos para enfrentar as violências e a exploração contra crianças e adolescentes na internet e promover o uso equilibrado e positivo de equipamentos digitais, além da proteção de dados. A nova política também vai determinar que os serviços digitais adotem medidas de combate à exclusão digital, ao capacitismo, a abusos sexuais e demais violações de direitos humanos. Nesse sentido, o governo deve disseminar informações sobre o uso saudável, seguro e apropriado da tecnologia por crianças e adolescentes.
Além disso, está em tramitação o PL 2338/2023, que dispõe sobre o uso da inteligência artificial. Com a contribuição do Instituto Alana, o PL de IA está na Comissão Temporária Interna sobre Inteligência Artificial no Brasil e com debate sobre ele em comissão nacional no dia 12 de junho.
Como proteger as imagens da sua criança?
Além de entender que responsabilização das empresas está acima da responsabilidade individual, você pode:
- Exigir mais leis que protejam seus dados pessoais
- Pressionar que empresas respeitem os direitos infantis
- Evitar a superexposição de crianças na internet
- Utilizar ferramentas de controle parental em jogos on-line e redes sociais
- Conversar com as crianças e os adolescentes sobre o compartilhamento de imagens pessoais e de amigos
- Participar de debates públicos sobre a proteção dos direitos das crianças na internet
- Acompanhar as informações sobre as ações governamentais para a proteção de dados na internet
fonte: Portal Lunetas
