Oriente Médio mostra riscos da biometria analisada por IA

Dissidentes políticos presos após terem a íris escaneada, foragidos identificados pelo jeito de andar ou a forma da orelha. Isso já é realidade em regimes autoritários, enquanto democracias discutem como regular o tema. Em maio deste ano, Khalaf al-Romaithi voou da Turquia segundo reportagem da DW, para a Jordânia para procurar uma nova escola para seu filho. Mas o dissidente dos Emirados Árabes Unidos acabou preso em seu destino por causa de seus olhos. Ou, para ser mais exato, por causa das informações biométricas que seus olhos continham.

O homem de 58 anos estava viajando com um passaporte turco, mas um escaneamento de suas íris no aeroporto de Amã indicou que ele era o mesmo Khalaf al-Romaithi que havia sido condenado a 15 anos de prisão nos Emirados Árabes Unidos. A sentença havia sido proferida num julgamento coletivo de 94 críticos ao governo emiradense, ocorrido em 2013 e considerado por organizações de direitos humanos como tendo sido politicamente motivado.

“Ele foi detido em Amã após um escaneamento de íris”, confirmou Hamad al-Shamsi, diretor do Emirates Detainees Advocacy Center, uma organização que ajuda prisioneiros políticos nos Emirados Árabes Unidos. “Mas ninguém tem certeza de como os jordanianos tinham os dados biométricos de al-Romaithi. É possível que tenham sido fornecidos a eles pelos Emirados Árabes Unidos”, disse.

Nem os representantes da Jordânia nem os dos Emirados Árabes Unidos na Alemanha responderam aos pedidos da DW para comentar o assunto. Al-Romaithi foi enviado – ilegalmente, de acordo com advogados – da Jordânia para os Emirados Árabes Unidos, onde está preso.

Sinais preocupantes

“O caso de al-Romaithi é um prenúncio alarmante sobre o uso de informações biométricas pessoais no Oriente Médio”, disse Yana Gorokhovskaia, da Freedom House, uma organização de defesa da democracia sediada nos EUA.

“Estamos muito preocupados com o uso crescente da tecnologia biométrica para permitir uma cooperação mais estreita entre governos repressivos, algo que temos visto no Oriente Médio e também na Ásia Central”, disse ela à DW.

As informações biométricas são marcadores exclusivos que identificam uma pessoa. Algumas delas não são novas. Impressões digitais são usadas pela polícia em investigações desde o final do século 19, e o DNA, desde o final da década de 1980.

Hoje, porém, as informações biométricas são muito mais variadas, como impressões da palma da mão, formato do rosto, escaneamento da íris, aparência dos lóbulos das orelhas e até mesmo o modo como a pessoa respira e anda. No futuro, elas poderão incluir também a forma como pessoas digitam ou assinam o nome e o reconhecimento de voz e gestos.

O uso de informações biométricas para identificar pessoas não é necessariamente negativo. Muitos já estão familiarizados com a verificação biométrica, que combina dados exclusivos, como impressões digitais ou íris, com os que a pessoa já forneceu. Um exemplo é o desbloqueio do telefone celular com uma leitura da impressão digital.

Outro uso desse tipo de dados é chamado de identificação biométrica remota, ou RBI na sigla em inglês. Nela, um software compara as características exclusivas do indivíduo com um grande banco de dados.

É o tipo de coisa que se vê em filmes de espionagem, como uma câmera digital em movimento que localiza o culpado em uma multidão, depois de comparar os olhos, os lóbulos das orelhas e até mesmo o modo de andar e presumir que ele é o indivíduo procurado.

Perigo maior graças à IA

É o RBI que preocupa os especialistas em direitos humanos, especialmente quando usado em conjunto com algoritmos avançados e inteligência artificial(IA), devido à forma como a tecnologia se desenvolveu nos últimos anos, segundo Ella Jakubowska, consultora sênior de políticas da Rede Europeia de Direitos Digitais (EDRi), sediada em Bruxelas, ou EDRi.

“Há algumas coisas que parecem ser uma mudança radical”, afirmou. “Uma delas é a variedade de maneiras para identificar e rastrear uma pessoa. A outra é que o potencial do software para reconhecer padrões aumentou exponencialmente nos últimos cinco anos ou mais. Agora você pode identificar uma pessoa não somente com base em uma foto, mas também no padrão de suas pernas e pés enquanto ela caminha.”

“Esses desenvolvimentos reduziram as barreiras, é mais rápido e mais barato do que nunca ter armazenamento de dados em massa e processá-los. Tudo isso contribui para o potencial de reconhecer muitas pessoas muito rapidamente, em escala”, alertou. “O que amplia o potencial de vigilância arbitrária em massa.”

Esse é o lado obscuro da identificação biométrica moderna, algo que pode se tornar um problema maior em regimes autoritários, como os do Oriente Médio.

“O uso generalizado de sistemas de identificação biométrica, em conjunto com leis de privacidade fracas e um Estado de direito e proteções de direitos humanos fracos, abre a porta para abusos autoritários que as ferramentas de IA provavelmente agravarão”, afirmaram os autores de um estudo de 2022 que analisa a inteligência artificial no Oriente Médio, publicado pelo Instituto Europeu do Mediterrâneo.

Transformação digital em andamento

As nações mais ricas da região, como os países do Golfo, estão entusiasmadas com a identificação biométrica. “Essas tecnologias são fundamentais à medida que a região, especialmente os países do Golfo, passa pela transformação digital”, disse à DW Mohammed Soliman, diretor do programa de tecnologias estratégicas e segurança cibernética do Instituto do Oriente Médio, com sede em Washington.

Atualmente, quase todos os países do Oriente Médio usam informações biométricas no controle de imigração em aeroportos e fronteiras.

Histórias recentes de sucesso em Dubai mostram que as autoridades policiais do aeroporto se vangloriaram de como pegaram um fraudador que havia usado cartões de crédito falsos enquanto estava disfarçado, verificando o formato de suas orelhas. Em outro caso, prenderam um homem que usava um vestido feminino e um véu facial devido à maneira como ele andava e às medidas de seu corpo.

Alguns países, incluindo Qatar, Arábia Saudita e Emirados Árabes Unidos, coletam informações biométricas como parte do registro de cidadãos que permite que eles acessem os serviços estatais. Outros, como o Iraque e o Iêmen, o fazem para o registro de eleitores.

Mas todas essas informações também poderiam ser usadas de uma forma diversa e mais maliciosa, dizem os especialistas.

“Qualquer governo poderia acumular um banco de dados biométricos de toda a sua população e permitir que ele fosse usado com imagens de CCTV em toda a cidade”, disse Jakubowska, da EDRi. “Assim, você tem uma imagem ao vivo das partes mais íntimas da vida das pessoas. Você pode ver quem se encontrou com um jornalista, quem foi a um bar queer, quem se confraternizou com um oponente político ou um dissidente – e isso pode ser muito perigoso.”

Amba Kak, diretora do AI Now Institute, com sede em Nova York, concorda que a tecnologia pode exacerbar o poder dos governos sobre seus cidadãos. “Esses sistemas possibilitam um tipo de vigilância em massa que altera gravemente o equilíbrio de poder entre os que vigiam e os que são vigiados, com sérios efeitos inibidores sobre a vida política e privada dos cidadãos”, disse.

Isso pode ser evitado?

Mas como isso poderia ser evitado no Oriente Médio, onde os regimes autoritários podem ainda não estar usando indevidamente as informações biométricas, mas onde claramente têm interesse no controle social?

“Há uma ideia disseminada de que o processamento dos dados biométricos das pessoas é útil e benéfico”, disse Jakubowska. “Mas, na verdade, esses dados são tão sensíveis – não são como uma senha que pode ser redefinida, eles o identificarão durante toda a sua vida – que sempre começaremos perguntando: realmente precisamos fazer isso?”

A União Europeia (UE) está atualmente debatendo o que provavelmente será a primeira lei do mundo sobre inteligência artificial. As regras sobre como as informações biométricas devem ser usadas, e se devem ser usadas de fato, serão um dos pontos mais polêmicos.

“O que realmente me preocupa é que, se a UE disser que há casos de uso legítimo dessas tecnologias, estaremos legitimando-as para outros países”, disse Jakubowska, que gostaria de ver a UE adotar uma linha mais rígida. “Definitivamente, há muita força quando uma jurisdição inteira diz: ‘não achamos que isso seja aceitável.’”

O AI Now Institute defende uma proibição total da identificação biométrica remota, acrescentou Kak. “Nada além disso faz sentido”, disse à DW, acrescentando que leis de privacidade e outras regras não ajudarão.

“E não apenas no Oriente Médio, mas também aqui nos EUA e na Europa. Os problemas com esses sistemas não são magicamente resolvidos nas democracias liberais ocidentais, embora a distopia do que pode dar errado seja, muitas vezes, imediatamente palpável em regimes autoritários.”