Afinal, quem vai fiscalizar a IA? Especialista comenta

Não dá para negar que a inteligência artificial (IA) veio para ficar. A questão é: ficar onde? Numa posição de solução, ou numa de ameaça? Em curto espaço de tempo, a tecnologia saiu da ficção científica para as mãos de milhões de pessoas, transformando completamente a maneira de viver, se relacionar e trabalhar. E justamente por ser vista como uma ferramenta que pode, por um lado, facilitar a rotina de empresas, governos e consumidores, por outro, a adoção crescente da tecnologia impulsiona debates em torno do seu uso ético e responsável. E de sua regulação. Segundo o Gartner, consultoria que é autoridade mundial em pesquisa e aconselhamento para empresas, a regulamentação precisa ser prioridade em parlamentos em todo o mundo. À DINHEIRO, a consultoria afirmou que, até 2026, 50% dos governos vão impor o uso de IA responsável por meio de regras, políticas e a necessidade de proteger a privacidade de dados.

Diante de tal revolução, o caminho é que ela continue em ascensão. A rápida expansão e implementação da IA e da IA generativa, ferramenta capaz de criar novos conteúdos, como texto, imagens e áudio, têm movimentado todo o mercado, e cada vez mais empresas buscam explorar ao máximo o seu potencial. De acordo com os dados do estudo Pulse of Change, realizado pela consultoria Accenture, 85% das empresas projetam aumentar seus investimentos em IA generativa em 2024.

Na pauta de CEOs e conselhos de administração ao redor do mundo, a expectativa é que a IA alcance US$ 1,3 trilhão com movimentações de mercado até 2032, segundo relatório divulgado pela Bloomberg Intelligence. Para 2024, a estimativa global é que 295 milhões de PCs e smartphones sejam comercializados já equipados com inteligência artificial e inteligência artificial generativa, afirmou o Gartner, concretizando ainda mais a aplicação de IA para o usuário final.

Responsabilidade

Esses fatores parecem apontar para um único caminho: a regulamentação. Segundo Anushree Verma, analista e diretora do Gartner, as novas regras devem proteger países e populações de aplicações antiéticas da tecnologia e dar luz ao uso, evitando debates sobre o que é permitido ou não.

As normas focadas em IA responsável, disse ela, irão erguer fronteiras geográficas no mundo digital e criar uma rede de regulamentações concorrentes de diferentes governos. “Assim, desenvolvedores devem se concentrar na ética de IA, transparência e privacidade com uso responsável nas empresas.”

Para Anushree, a IA responsável permite que os processos sejam explicáveis e éticos, levando mais segurança às etapas. “Trata-se de um termo abrangente para aspectos relacionados as escolhas comerciais e éticas apropriadas na adoção de IA em companhias”, afirmou.

Tais aspectos envolvem transparência, proteção de modelos contra subversão e abuso, e garantia da privacidade e informações dos clientes.

“As regulamentações focadas em IA responsável irão erguer fronteiras geográficas no mundo digital.”
Anushree Verma, Diretora do Gartner
Regulamentações

Com a previsão feita pelo Gartner batendo à porta — em dois anos, metade dos governos mundiais devem ter suas leis para IA — já é possível ver as primeiras movimentações.

• Na quarta-feira (13), o Parlamento Europeu aprovou a primeira legislação para regulamentar o uso da inteligência artificial no mundo. Isso representa uma das últimas fases antes da adoção formal da lei em toda União Europeia (UE), que deve entrar em vigor ainda neste primeiro semestre, após as verificações finais e a aprovação do Conselho Europeu. Esse passo importante e histórico deve desencadear iniciativas semelhantes em todo o mundo.
• No Brasil, a discussão é recente. Atualmente, há registros de 46 projetos de lei em tramitação na Câmara dos Deputados e no Senado Federal.

Com 45% das empresas em fase de teste da IA generativa e 10% já com a implementação da tecnologia em processos de produção, segundo o Gartner, o mundo corporativo deve sentir os efeitos das futuras regras. “A evolução e uso da IA responsável serão cruciais para desenvolvedores de produtos e serviços, e empresas que utilizam ferramentas de IA, afetando todas as aplicações da tecnologia nas indústrias”, disse Anushree.

Ela também afirmou que o não cumprimento das normas pode expor empresas ao escrutínio ético por parte dos cidadãos, apresentando riscos financeiros, de reputação e legais significativos. A diretora do Gartner disse ainda que a IA somada às regulamentações devem construir a confiança do consumidor, fomentar a adoção e amenizar riscos financeiros e legais para as indústrias.

A orientação da consultoria é seguir investindo na tecnologia. Como muitas companhias já iniciaram sua jornada com a IA, com enfoque maior em áreas como atendimento ao cliente, desenvolvimento de software e marketing, ela afirmou que algumas medidas podem ajudar empresas no ambiente regulatório.

“Compreender a IA responsável para educar e dar visibilidade ao tema na empresa, e garantir a responsabilidade do provedor de serviços pela governança dessa IA, além de monitorar e incorporar serviços e produtos para os requisitos legais de diferentes nações.”

No centro das discussões mundiais, o próximo capítulo da IA se concentra no maior desafio até aqui: a dualidade entre inovar e proteger.