O economista norte-americano Paul Romer, vencedor do Prêmio Nobel de Economia em 2018, subiu ao palco do Febraban Tech 2025 com uma missão clara: provocar. E cumpriu com sobras. Diante de uma plateia formada por executivos de bancos, desenvolvedores e gestores de tecnologia, Romer fez críticas contundentes à forma como a inteligência artificial (IA) vem sendo conduzida atualmente, sob o domínio, segundo ele, por interesses corporativos e guiada pelo lucro, não pela ciência.
CONTEÚDO RELACIONADO – Febraban Tech: Cinco passos para acompanhar o futuro liderado pela IA
“Não esperem que as empresas construam o futuro da IA. Elas estão em busca de lucro, não da verdade”, afirmou. Para ele, o desenvolvimento desses sistemas precisa acontecer como uma iniciativa de interesse público, com base científica, de forma aberta e transparente.
Romer não deixou dúvidas sobre sua insatisfação com o estado atual da tecnologia. “Estaríamos melhor se não usássemos LLMs”, disparou, em referência aos modelos de linguagem de larga escala. A crítica se fundamenta na baixa taxa de acerto dos sistemas, que segundo ele gira em torno de 50%. “É um sistema muito ruim quando entrega respostas plausíveis, mas esconde os erros.”
A verdade em primeiro lugar
Ao longo de sua apresentação, Romer reforçou uma tese fundamental: o progresso humano depende do compartilhamento honesto de ideias e da busca pela verdade. “A ciência é o sistema mais importante que já criamos para descobrir o que funciona de verdade”, disse. Ele relembrou que a Revolução Científica moldou o mundo moderno ao nos permitir entender e dominar fenômenos complexos – das vacinas à aviação – com base em testes, validações e replicabilidade.
“Tomar decisões com base na verdade é o que nos trouxe até aqui. E é isso que está em risco agora com a forma como estamos lidando com a IA”, alertou. Segundo Romer, o entusiasmo com os avanços recentes em inteligência artificial está eclipsando a responsabilidade de testá-los de forma rigorosa.
Modelos de linguagem: o risco das “alucinações”
Romer dedicou parte significativa de sua palestra para explicar, com exemplos técnicos, como os modelos de linguagem falham ao tentar responder a perguntas de forma autônoma. Ele demonstrou casos de “alucinação”, quando o sistema inventa informações que parecem plausíveis, mas são falsas. Um dos exemplos envolveu um advogado nos Estados Unidos que apresentou a um juiz um parecer jurídico gerado por IA, com citações falsas e inexistentes.
“Esses sistemas têm aparência de inteligência, mas funcionam com base estatística e não compreendem o que estão dizendo. É possível construir frases coerentes que são completamente falsas”, afirmou. Ele defendeu que qualquer sistema confiável de IA precisa expor seus erros, e não mascará-los com respostas fluentes.
“Não ouçam as empresas de tecnologia”
Em uma das passagens mais enfáticas, Romer recomendou cautela na adoção de tecnologias promovidas por gigantes do setor. “Não ouçam os cientistas da computação interessados apenas no novo. E não ouçam as empresas que querem vender o que criaram. O objetivo deles não é a resposta certa. É a novidade, o produto, o lucro.”
Segundo ele, é preciso resgatar a tradição científica de testes, experimentação e revisão aberta por pares. “Se você quer tomar decisões certas, precisa usar experimentos, trocas abertas, discordâncias explícitas. O método científico funciona e está sendo deixado de lado.”
Ele sugeriu que organizações interessadas em usar IA façam seus próprios testes, sem confiar cegamente em fornecedores. “Experimente, compare grupos, confronte hipóteses. Não aceite que os engenheiros decidam sozinhos o que funciona.”
Cibersegurança e o colapso das senhas
Romer também abordou a crise na área de cibersegurança, afirmando que o sistema atual de autenticação é “fracassado”. “As senhas são uma forma péssima de autenticar identidade. Qualquer pessoa pode falsificar um e-mail. E se você não sabe quem está falando, não deveria confiar na mensagem.”
Como alternativa, defendeu o uso de sistemas como o PASCS (Publicly Authenticated Secure Credential Systems), que dificulta ataques de phishing mesmo quando o próprio usuário é induzido ao erro. “É uma tecnologia com experiência de usuário ainda incômoda, mas infinitamente mais segura. Não adote só porque a Microsoft ou a Apple sugerem. Teste, valide, faça do seu jeito.”
O papel do governo e a ameaça da militarização
Romer alertou ainda para os perigos do duopólio entre as Big Techs ocidentais e o governo chinês no controle da IA global. Apesar de críticas implícitas ao modelo autoritário da China, ele reconheceu que a estratégia estatal de abrir modelos e fomentar o desenvolvimento científico pode oferecer um caminho mais consistente do que a atual corrida comercial no Ocidente.
“Na tecnologia militar, talvez a IA funcione melhor do que em qualquer outro lugar – e é justamente por isso que esses avanços não são divulgados. Não queremos IA que funcione bem só para fins bélicos. Precisamos de modelos abertos, auditáveis, que sirvam ao bem público”, defendeu.
“Estamos a ponto de perder o sistema científico”
O alerta mais grave da apresentação foi deixado para o final: a possível erosão do sistema científico diante da pressão econômica. Romer afirmou que forças corporativas poderosas estão pressionando para interromper investigações, manipular informações e enfraquecer instituições que tradicionalmente garantiram o progresso, como universidades, agências reguladoras e o jornalismo investigativo.
“Estamos a ponto de perder o sistema científico que nos serviu tão bem nos últimos séculos. Ainda há quem lute por ele, mas precisamos de mais vozes. Precisamos de decisões baseadas em evidências, não em marketing.”
Conclusão: um chamado à razão
Paul Romer encerrou sua palestra oferecendo seu e-mail pessoal à plateia, indicando que continuará aberto ao debate. “Esse tema é sério demais para ficar restrito a fóruns privados. Leiam, experimentem, tirem suas próprias conclusões. Mas façam isso com base na ciência.”
Em um evento marcado pela celebração da inovação e do progresso tecnológico, Romer trouxe um necessário contraponto: o futuro da inteligência artificial – e da sociedade – depende menos de máquinas brilhantes e mais de instituições confiáveis. “Se queremos uma IA que nos ajude de verdade, precisamos guiá-la pela ciência. Não pelo lucro.”
Participe das comunidades IPNews no Instagram, Facebook, LinkedIn e X