Tudo sobre Inteligência Artificial
Usar inteligência artificial (IA) para avaliar a idade de jovens que pediram asilo pode levar crianças a acabarem em prisões ou centros de detenção para adultos. É o que apontou uma coligação de mais de 100 organizações de apoio a crianças refugiadas.
Continua após a publicidade
O alerta vem após o governo do Reino Unido anunciar um contrato para implementar tecnologia baseada em IA para estimar a idade de jovens com pedidos de asilo que acabaram contestados.
Organizações beneficentes alertam sobre uso de IA para analisar refugiados no Reino Unido
Um relatório do Consórcio para Crianças Refugiadas e Migrantes alerta para os riscos do uso de reconhecimento via IA sobre jovens que não se enquadram nos padrões de idade para a sua faixa etária.
O consórcio, cujas organizações membros trabalham para promover e proteger os direitos de crianças refugiadas e migrantes, afirma que questões como trauma, subnutrição e jornadas angustiantes percorridas pelos jovens refugiados para chegarem vivos ao país podem confundir a avaliação feita pela IA.
O relatório, intitulado Benchmarks and Borders: the use of facial age estimation to assess the age of unpanied young people seeking asylum, não descarta completamente o uso de IA. Mas alerta para os riscos de se confiar exclusivamente nela. E reforça que a tecnologia não deve substituir avaliações de idade feitas por assistentes sociais.
O documento insta o Ministério do Interior a usar a IA de forma consultiva, e não determinante, com uma série de salvaguardas incorporadas, incluindo o acesso a um adulto responsável, aconselhamento jurídico e o direito de contestar as decisões.
O relatório também insta o governo a não substituir os erros humanos cometidos em alguns casos de avaliação de idade por erros de máquina. O documento ainda não foi publicado. Mas o jornal The Guardian teve acesso a ele.
Riscos de colocar IA na avaliação de idade de refugiados
“Por muito tempo, migrantes adultos que declaram idades falsas têm explorado o sistema e desviado apoio vital de crianças em situação de risco”, disse o ministro da Segurança de Fronteiras e Asilo, Alex Norris. “É por isso que estamos implementando tecnologia de IA para pôr um fim a isso, garantindo que aqueles que manipulam o sistema sejam identificados, detidos e deportados sem demora, e que aqueles que merecem apoio e proteção os recebam.”
No entanto, a copresidente do Consórcio para Crianças Refugiadas e Migrantes, Kamena Dorling, disse que “as propostas do governo são profundamente preocupantes”. “A IA não consegue levar em conta os fatores que podem afetar significativamente a aparência de um jovem após fugir de conflitos e perseguições e enfrentar jornadas perigosas, incluindo traumas, desnutrição e exaustão.”
“As evidências existentes também mostram que a IA enfrenta os mesmos problemas de viés e imprecisão que a tomada de decisões humanas, com padrões de erros semelhantes”, acrescentou Kamena.
Kama Petruczenko, analista sênior de políticas do Conselho para Refugiados e membro do consórcio, disse que “os próprios dados do governo já mostram que centenas de crianças estão sendo tratadas erroneamente como adultos devido a avaliações visuais falhas na fronteira, com consequências devastadoras para sua segurança e bem-estar”.
Continua após a publicidade
“A inteligência artificial e a tecnologia de estimativa de idade facial não são uma solução simples ou isenta de riscos para esses problemas antigos”, apontou Kama. “A baixa qualidade da imagem e o viés nos conjuntos de dados também podem afetar a precisão.”
A analista acrescentou que “há um risco real de que essa tecnologia crie uma falsa sensação de certeza em decisões que já são extremamente difíceis de acertar”. “Se avaliações falhas forem simplesmente automatizadas, mais crianças poderão acabar erroneamente em alojamentos para adultos, centros de detenção ou até mesmo prisões.”
O governo do Reino Unido informou que a IA estimará a idade de um indivíduo em segundos, analisando fotografias faciais já tiradas de pessoas que chegam em pequenas embarcações a Dover.
Pedro Spadoni
Pedro Spadoni é jornalista formado pela Universidade Metodista de Piracicaba. Já escreveu para sites, revistas e jornal.
Ver todos os artigos →
Fonte Original | Notícias – Olhar Digital
