“Inteligência artificial traz risco igual à questão climática”, diz especialista

Duas vezes ganhador do Prêmio Jabuti (pelos livros A Humanidade e suas Fronteiras: do Estado Soberano à Sociedade Global e A Humanidade Contra as Cordas: A Luta da Sociedade Global pela Sustentabilidade), Eduardo Felipe Matias acaba de passar um ano nas universidades californianas Berkeley e Stanford pesquisando especialmente inteligência artificial, tema central de seu próximo livro. “Ela já é, e será exponencialmente mais, decisiva para todos os governos, todas as instituições e em especial todas as empresas”, disse Matias, que é doutor em Direito, sócio responsável pela área empresarial do escritório Elias, Matias Advogados e líder do Comitê de Startups da Associação Brasileira das Empresas de Software (Abes). A reportagem é de Edson Rossi, da Editora3.

Revista IstoÉ Dinheiro — Parece consenso que os dados e seu uso por meio de inteligência artificial (IA) são determinantes para quem detém o poder, seja político ou econômico. Quais os ganhos e os riscos dessa situção?

Eduardo Felipe Matias — Você tem dois fatores de atribuição de poder hoje, a inteligência artificial e os dados, que estão interligados, porque os dados servem para alimentar os algoritmos. A inteligência artificial é o que a gente chama de tecnologia de propósito geral, por isso é muito comparada com a eletricidade, porque o impacto que ela traz é para toda a sociedade e é enorme.

Esse é o tema de seu próximo livro, certo?

Exatamente. E aí vem uma questão: a gente acredita que as decisões são tomadas por livre arbítrio. Só que a persuasão que os algoritmos promovem permite manipular as pessoas a ponto de esse livre arbítrio não ser mais tão livre. Então, as pessoas acreditam que estão tomando decisões, mas elas estão sendo guiadas pelos algoritmos.

Quais os riscos?

A democracia fica em risco. Esse é um lado. Outro lado, evidentemente, é o quanto governos podem usar esse poder pra tomar decisões ou mesmo conduzir a opinião pública para decisões que eles [governos] defendam. Sem dúvida, plataformas podem servir de instrumento para esse tipo de manipulação. Sem dúvida, há tentativas.

Há risco para a própria democracia?

Existe o problema das deepfakes [manipulação refinada de imagens e sons] que é algo que a gente não está nem aí… Imagine numa véspera de eleição que você pode colocar alguém falando algo que você não esperaria, que nem é verdade e, com isso, a pessoa perde votos. Então, eu acho que sim, que a tecnologia, se não for bem controlada, pode colocar a democracia em risco.

Uma situação totalmente nova?

Fake news sempre existiram. A diferença é que hoje, como tudo na internet, ganham volume e rapidez. É mais difícil controlar. Você nunca conseguiria soltar um boato para o Brasil inteiro na véspera de uma eleição 50 anos atrás. Hoje consegue por meio da internet. Esse é um ponto. Outro, grave também, é que você assiste ao aumento do autoritarismo, com governos populistas. Isso é muito beneficiado pela tecnologia. Pegue o reconhecimento facial e veja o que acontece com governos que detêm essa tecnologia, como no caso da China. Permite conhecer [e vigiar] o seu cidadão, ter um domínio sobre ele.

Já existe algum debate avançado sobre esse tema?

Existem algumas tendências importantes. Uma é inteligência artificial explicável, outra é inteligência artificial responsável, com obrigações como auditorias e relatórios de impacto. Então você não pode lançar um produto que possa afetar a sociedade sem considerar o impacto disso. Aí a gente entra um pouco na regulação que está sendo feita no Brasil: o quanto você pode ir no detalhe dessas inteligências artificiais? Nem entendemos direito como elas funcionam. Você talvez tenha que pensar em outras questões, como mecanismos de controle, mecanismos de avaliação de como aquilo funciona, para poder fazer com que a gente saiba o quanto elas são positivas.

Porque podem trazer soluções para problemas complexos…

Soluções importantíssimas para a mudança climática. Você tem captura de carbono, energia renovável, você tem produção de alimentos, soluções para a saúde. São incontáveis os benefícios.

“O autoritarismo é muito beneficiado pela tecnologia. Veja o que acontece com governos que adotam o reconhecimento facial, como no caso da China. Ela permite conhecer o cidadão, ter um domínio sobre ele.’’

E mesmo assim é necessário regular?

Regular de uma forma muito rígida talvez não seja a melhor solução. Tem que entender como funciona. Não será fácil porque o primeiro fator é a imprevisibilidade. Se é imprevisível, como regular? Esse é o primeiro problema. O segundo problema é você ter essa dificuldade em acompanhar a evolução. A inteligência artificial progride muito rapidamente. E o processo legislativo é lento. Principalmente porque ele é legítimo. E a questão maior deve ser a internacionalização. Porque se não for internacional, não adianta. Você pode ter alguns lugares em que a tecnologia é desenvolvida sem freios, e aí o risco vai continuar existindo, porque ela prolifera muito rapidamente. Mas talvez ter um guarda-chuva internacional possa servir como uma espécie de guia para que, enfim, regulações locais aconteçam a partir de premissas. Mas isso não vai acontecer.

Por quê?

A gente demorou muito para ter um acordo global sobre o clima. E esse acordo, infelizmente, pouco é colocado em prática. Então, assim, na prática, a gente pode ambicionar ter várias rodadas de negociação para ter um acordo sobre intervenção artificial global, mas a gente sabe que vai demorar e que não necessariamente vai ser seguido. Mas a gente tem um grande problema global e precisa de um tratamento global.

Há um grande impacto sobre pessoas, empresas e governos. Esse debate já está bem compreendido?

Todos começam a perceber como os dados são importantes, a ter compreensão até em relação à privacidade. Os dados estão cada vez mais sendo acumulados ­— desde o celular no bolso até a internet das coisas, dados que estão na sua geladeira —, mas você tem um tipo de empresa que domina, tanto os dados quanto a inteligência artificial, que são as Big Techs, as grandes empresas de tecnologia.

E aí entra a questão de concentração de poder?

Vamos pegar o poder econômico primeiro. Essas empresas têm uma riqueza muito grande. Isso vem da concentração de dados e do uso deles. Um exemplo: são 9 bilhões de buscas diárias realizadas no Google. Junte duas outras informações: a de que elas investem US$ 223 bilhões anualmente em Pesquisa & Desenvolvimento, a maior parte em IA [o que leva também à atração dos maiores talentos], mais o investimento que fazem em outras empresas de IA. A conclusão é que elas estão dominando ainda mais o mercado.

Qual a falha de sistema que permitiu isso?

Tem um ponto importante aí. A desmaterialização dos negócios delas leva a que elas sejam globais por excelência. Essas empresas crescem, crescem, crescem de forma desmesurada e é preciso igualmente entender o que está acontecendo em relação à concorrência. Porque para a inovação é importante que você tenha empresas, startups, em condições de competir no mercado, de trazer soluções melhores. Só que a gente tem assistido a algo um pouco diferente disso. A gente assiste à formação de monopólios.

Como conseguir romper isso?

É muito difícil. Porque você tem o que se chama em inglês de Gatekeeper Power, que basicamente é o poder de porteiro, de controle dos conteúdos. Então, uma empresa hoje, se ela quer comercializar on-line nos Estados Unidos, ela depende da Amazon. Globalmente, Google, Meta e Amazon detiveram 64% da publicidade digital em 2022. Google 39%, Meta 18%, Amazon 7%.

Um poder essencialmente americano…

Não. Não se resume aos Estados Unidos. Talvez a gente tenha mais dados dos Estados Unidos, mas as chinesas Tencent, Baidu, até certo ponto a própria Alibaba, estão nesse jogo também. Sem falar na ByteDance, que tem o TikTok, e é considerada a startup mais valiosa do planeta, avaliada em US$ 300 bilhões. Todas indústrias de uso intensivo de dados.

Um novo equilíbrio que não chega a ser muito novo.

Uma situação em que Estados Unidos e China se destacam. Porque são os países que têm as empresas que dominam esse setor da tecnologia. E também são os países que mais investem em inteligência artificial. Então, existe uma nova corrida armamentista. E é quase inevitável que isso se retroalimente. Que cada vez mais esses países se destaquem em relação aos demais. Temos aí um desafio também de entender essa geopolítica.

Há outras consequências?

Em várias frentes. Uma delas: a mudança na divisão internacional do trabalho. Se você puder automatizar a sua fábrica, é mais interessante manter essa fábrica em um país desenvolvido, que tem gente especializada. Seu custo logístico é muito menor. Então, você tem aí um fim desse gap que estava sendo reduzido no auge da globalização, das cadeias produtivas globais, que mexe um pouco com essa divisão internacional do trabalho. Mais uma vez, os mais ricos ficam ainda mais ricos.

“Para a inovação é importante ter startups em condições de competir no mercado. O que a gente assiste é o oposto: a formação de monopólios’’

A legislação não acompanha a consolidação do poder econômico dessas empresas. Isso faz com que enfrentem até instituições do Estado, não é?

Você tem a mesma dificuldade no Brasil que tem nos Estados Unidos. E talvez o parâmetro diferenciado seja a Europa. Há três coisas separadas aí. Uma é a regulação de grandes empresas. Acho que existe um certo consenso de que não é boa a formação de monopólios, são mais do que entendidos os efeitos nocivos que um monopólio pode ter sobre a concorrência. Isso é uma coisa tratada, vamos dizer, numa caixinha. Outra questão é a regulação da inteligência artificial em si.

E a terceira?

Quando as redes sociais foram invadidas por discursos extremados e desinformação, se tornando um ambiente tóxico, começou a haver uma autorregulação e isso foi vendido como se fosse suficiente. Não é simples regular esse tipo de situação. Ao exigir que essas empresas controlem demais o conteúdo, corre-se o risco de que elas passem a se tornar censores. Tornando-se censores, com o poder que elas acumulam, será um poder maior ainda de começarem a controlar o discurso público.

Ou seja, o efeito colateral ficaria pior?

Na prática, não é simples regular esse assunto. É preciso ter muito mais diretrizes. Não se pode impedir o debate de acontecer. A sociedade tem que discutir.