De acordo com o relatório “IA e o enigma ético: como as organizações podem construir sistemas de IA eticamente robustos e ganhar confiança” (em tradução livre), do Capgemini Research Institute, a parcela de clientes que acreditam que as organizações estão sendo totalmente transparentes sobre como é feito o uso de seus dados pessoais caiu de 76% em 2019 para 62% hoje. O documento ainda aponta que 70% dos clientes esperam que as organizações forneçam interações de inteligência artificial (AI) que sejam transparentes e justas.
CONTEÚDO RELACIONADO – Professor da UFMG aponta desafios na adoção de analytics em plataformas tecnossociais
O relatório também descobriu que apenas 53% das organizações têm um líder responsável pela ética dos sistemas de AI, e que a governança e a responsabilidade pela inteligência artificial e a implementação de ferramentas e estruturas pragmáticas para os sistemas a serem desenvolvidos e usados têm um alto custo para as organizações.
O relatório observa que, embora as organizações estejam mais conscientes do ponto de vista ético, o progresso na implementação de AI ética tem sido inconsistente. Por exemplo, quase a mesma proporção de executivos em 2019 disse que tomou medidas para construir “equidade” (65% em 2020 vs. 66% em 2019) e “auditabilidade” (45% em 2020 vs. 46% em 2019) dimensões de seus sistemas de AI.
Além disso, a transparência caiu de 73% para 59%, apesar do fato de 58% das empresas afirmarem que estão conscientizando os funcionários sobre os problemas que podem resultar do uso de AI. A pesquisa também revela que 70% dos clientes desejam uma explicação clara dos resultados e esperam que as organizações forneçam interações de IA transparentes e justas.
Viés discriminatório de sistemas de AI e experiências negativas de clientes têm um alto custo para as organizações
Como as organizações públicas e privadas continuam a implementar cada vez mais uma variedade de tecnologias de AI, é fundamental para elas manter a confiança do cliente promovendo relacionamentos positivos entre a IA e os consumidores. No entanto, os relatórios mostram que os conjuntos de dados coletados para a saúde e o setor público estão sujeitos a preconceitos sociais e culturais.
Isso não se limita apenas ao setor público. A pesquisa da Capgemini descobriu que 65% dos executivos disseram estar cientes da questão do viés discriminatório com os sistemas de AI. Além disso, cerca de 60% das organizações atraíram o escrutínio jurídico e 22% enfrentaram uma reação negativa do cliente nos últimos dois a três anos devido a decisões tomadas por sistemas de AI.
Na verdade, 45% dos clientes notaram que compartilharão suas experiências negativas com a família e amigos e podem exortar que eles não se envolvam com uma organização, 39% exporão suas preocupações à organização e exigirão uma explicação e 39% deixarão a AI como canal para uma interação humana de custo mais alto. Mais de um quarto dos consumidores (27%) afirmam que deixariam de lidar com a organização por completo.
Participe das comunidades IPNews no Facebook, LinkedIn e Twitter.