A Pegasystems, fornecedora de software para relacionamento com o cliente (CRM), anunciou um novo recurso do Pega Customer Decision Hub. O Ethical Bias Check ajuda a eliminar vieses ocultos na inteligência artificial (AI) ao impulsionar o envolvimento dos clientes. O recurso sinaliza possíveis ofertas e mensagens discriminatórias geradas pela AI em todos os canais antes que eles cheguem ao cliente.
A Pega explica que, em alguns casos, os modelos de inteligência artificial podem, sem querer, “aprender” preconceitos ao longo do tempo relacionados a idade, etnia ou gênero. Se não for detectado, isso pode levar a práticas discriminatórias, como oferecer menos empréstimos, apólices de seguro ou descontos em produtos para populações carentes.
Com o Ethical Bias Check, a Pega adiciona mais uma capacidade para ajudar as empresas a praticarem uma AI responsável quando utilizado nas interações com o cliente. Esse recurso detecta discriminação indesejada, por meio de análises preditivas, para simular resultados prováveis de uma determinada estratégia.
Depois de definir seus limites de teste, os clientes recebem alertas quando o risco de viés atinge níveis inaceitáveis – como se o público de uma determinada oferta se desviasse ou se afastasse de informações demográficas específicas. As equipes de operações podem identificar o algoritmo ofensivo e ajustar a estratégia para ajudar a garantir um resultado equilibrado e justo para todos.
A empresa explica que é possível definir limites aceitáveis para qualquer elemento que possa causar análises tendenciosas, como idade, gênero ou etnia). Limites que podem ser ajustados, para levar em conta cenários em que os resultados inclinados podem ser justificados. Os clientes têm a flexibilidade de ampliar ou restringir esses limites para contabilizar os resultados desejados em suas estratégias de engajamento.
Além do Ethical Bias Check, a Pega já havia introduzido outros recursos no Pega Customer Decision Hub, com o objetivo de ajudar os clientes a agirem com responsabilidade com a AI. O que inclui o T-Switch, que dá às organizações o controle sobre a transparência de seus modelos de engajamento com clientes de inteligência artificial.
Participe das comunidades IPNews no Facebook, LinkedIn e Twitter.
