Durante o SAS Innovate on Tour 2025, realizado hoje (11/9) em São Paulo, executivos da companhia demonstraram a preocupação em garantir que as iniciativas de inteligência artificial (IA) de seus clientes sejam seguras e confiáveis. Como uma empresa especializada em análise de dados, o SAS entende que o verdadeiro potencial da IA só será desbloqueado com dados confiáveis.
CONTEÚDO RELACIONADO: Inteligência artificial na indústria precisa de estratégia antes de escala
Bryan Harris, CTO do SAS, aponta que o usuário final confia demais em ferramentas de inteligência artificial generativa (GenAI), como o ChatGPT, mas as corporações precisam ser diferentes. Apesar de ser interessante simular essa experiência de conversar com uma IA, é preciso fazê-la com segurança.
Isso é fundamental na atual fase do mercado, como aponta André Novo, country manager do SAS no Brasil. “A IA, apesar de já estar sendo falada há bastante tempo, ainda está numa fase de experimentação para buscar casos de uso em que se tenha um retorno de investimento (RoI) que seja significativo.”
E é nesse contexto que surgem os agentes de IA, que começam a ajudar a obter o RoI que o mercado tanto quer alcançar com todo o investimento em inteligência artificial. Mas de novo se entra na questão da confiança: “O board e o C-Level das organizações precisam entender o risco da IA tomando decisões”, afirma Harris.
O que é e qual a importância do Trustworthy AI
Segundo a definição da IBM, Trustworthy AI são sistemas de inteligência artificial explicáveis, justos, interpretáveis, robustos, transparentes, seguros e protegidos. O excesso de adjetivos pode ser resumido em apenas duas palavras: IA confiável.
O country manager do SAS reconhece que a companhia bate muito nessa tecla, mas defende a importância desse debate para garantir que modelos de inteligência artificial sejam utilizados da forma correta e não propaguem algum tipo de viés.
Um exemplo de IA enviesada está no mal uso dos dados ou erros de programação, que podem fazer o algoritmo usar indicadores como renda ou vocabulário para discriminar involuntariamente pessoas de certa etnia ou gênero. Uma IA enviesada, portanto, iria na direção oposta de uma ferramenta que pode ser usada para aumentar a participação da sociedade na economia.
Como o SAS está combatendo a IA enviesada?
Lyse Nogueira, senior custumer advisor do SAS para América Latina, defende que um bom modelo de IA requer bons dados. Por isso, a estratégia da companhia é ajudar clientes a sanear sua base de dados e evitar uma inteligência artificial enviesada.
Uma das principais ferramentas para realizar esse processo é o SAS Data Maker, uma solução que pode ser usada caso um analista descubra se o modelo tem algum tipo de subrepresentação de dados que faça uma IA se tornar enviesada. Lyse explica que, caso ele encontre inconsistências, o Data Maker pode criar dados sintéticos para que o modelo seja retreinado sem a possibilidade de gerar algum viés.
“Uma fintech que não tem dados de pessoas não-bancarizadas, por exemplo, pode acabar gerando um modelo que recusa conceder limite de créditos a elas por falta de dados”, explica a executiva. Os dados sintéticos ajudam o modelo a não ignorar esses potenciais clientes e a traçar escolhas mais inclusivas.
Outra solução é o recurso Model Card – dentro do SAS Model Manager – que realiza um diagnóstico do modelo de IA para verificar se já há vieses. Com essa informação, a empresa consegue corrigir sua base de dados, usando ou não dados sintéticos.
Hype da IA precisa ficar para trás
André Novo, country manager do SAS, destaca que a questão do hype da IA – que querendo ou não acelera projetos com pouca ou nenhuma preocupação com a ética – já está ficando para trás. “Aquele negócio que era investimento só pelo investimento, só pra dizer que você está fazendo alguma coisa com IA, está ficando para trás”, diz ele.
“Nossos principais clientes, as grandes empresas onde a gente atua mais fortemente, estão preparados e já estão investindo nisso há bastante tempo. A principal preocupação é o risco reputacional”, completa.
Como o CTO Bryan Harris diz, é hora de deixar o entusiasmo com a inteligência artificial para trás e focar em projetos mais éticos e confiáveis de IA.
Participe das comunidades IPNews no Instagram, Facebook, LinkedIn e X (Twitter).
