A confiança é um dos alicerces invisíveis que sustentam a sociedade, a economia e os negócios. O World Economic Forum (2024) refere que ética e confiança, tornam as interações mais fáceis, reduzem de forma geral custos de transação, facilitam a implementação de medidas públicas pelos governos, a cooperação internacional, promovem crescimento económico, atraem investimento, entre outros. No mesmo sentido, Our World in Data, na sua pesquisa World Values Survey (2024), em que aferem o nível de confiança interpessoal por país, a nível internacional, e relacionam com o nível de PIB per capita, mostram que países com maior nível de confiança interpessoal demonstram PIB per capita mais elevado.

A adopção massiva de ferramentas de Inteligência Artificial, em particular Generativa, sobretudo a partir 2022, traz imensos benefícios, e imensos riscos também. A Universidade de Melbourne e a KPMG (2025) num estudo internacional sobre confiança e IA, em que foram inquiridas mais de 48 mil pessoas em 47 países, relevam que a adopção massiva de IA é acompanhada de desconforto generalizado, pela falta de literacia, de formação, de entendimento sobre o modo de funcionamento; e por terem experienciado já erros graves em recomendações ou decisões, sensação de desumanização no atendimento, exposição de dados pessoais, uso indevido de informação ou pressão para seguir decisões automatizadas com as quais estão em desacordo. O maior receio identificado, contudo, é desinformação gerada ou amplificada por IA, designadamente deepfakes, e o efeito disso na qualidade do debate público, na segurança das eleições e na confiança em meios de comunicação e plataformas digitais. É reportado ainda o uso complacente e inadequado da IA com trabalhadores que admitem copiar para ferramentas públicas de IA dados sensíveis de clientes ou da empresa, reutilizar respostas automatizadas sem revisão crítica, apresentar conteúdos gerados por IA como se fossem da sua própria autoria e esconder de colegas ou gestores que recorreram a IA em tarefas importantes, com casos reportados de erros sérios causados pela aceitação acrítica do que a IA produz.

Reitero, a confiança é um dos alicerces invisíveis que sustentam a sociedade, a economia e os negócios. Para manter e assegurar a confiança, a boa governança da IA é indispensável.

A ISO 42001 sobre Sistemas de Gestão de IA (2023), aplicável de forma voluntária a qualquer empresa, quer desenvolva e produza IA, quer esteja na cadeia de valor, fornece orientação sobre como implementar uma boa governança e gestão de risco de IA; e a ISO 24028 (2020), aborda o tema de como construir a confiança, ou como garantir a confiabilidade, de IA.

Como em todo o sistema de gestão e tema de governança, o empenho da gestão de topo é crítico e fundamental: na definição da política de IA (p.e., definindo qual é a visão e quais são os objetivos da organização relativos à IA, as aplicações e os usos permitidos e proibidos), na alocação de recursos (p.e., de dados, de ferramentas, humanos, tecnológicos), na definição de responsabilidades, na comunicação e sensibilização (p.e, do que se espera de cada um, da importância de cumprir com o que for definido; das consequências do incumprimento), no acompanhamento e monitorização do que foi definido e implementado (p.e., métricas, logs, medidas corretivas). Importa também avaliar o contexto interno e externo, as expectativas das partes interessadas (p.e. sobre impactos ambientais), realizar a avaliação de impacto da IA (nos indivíduos, nos grupos de indíviduos e na sociedade) incluindo nessa avaliação os casos previsíveis e antecipáveis de uso indevido, abusivo, e complacente. Não sendo exaustiva, realço também a importância de fornecer às partes interessadas, de forma gerida, a informação que lhes seja pertinente quanto à aplicação e uso de IA, num formato e linguagem que lhes seja acessível; bem como a importância de disponibilizar, de forma fácil, mecanismos de reporte interno e externo de comunicação de erros, preocupações, anomalias, entre outros, que sejam detetadas. O sistema de gestão de IA deve estar embebido nos processos de negócio e interligado e alinhado com outros sistemas, p.e., segurança de informação, privacidade, gestão de terceiros, entre outros.

Em síntese, para colher os benefícios da IA, sem comprometer a confiança nas organizações, nos mercados e na própria democracia, não basta “usar IA”; é preciso governar IA. A pressão competitiva para adotar IA rapidamente é real, mas não pode sobrepor-se à obrigação de avaliar impactos, prevenir usos indevidos e criar mecanismos de reporte e correção. O caminho que escolhemos hoje para governar a IA dirá muito sobre o tipo de sociedade e de economia que teremos amanhã.  O sistema de gestão de IA, como articulado pela ISO 42001, fornece uma estrutura, uma espécie de engenharia de bastidores, que torna visível o que de outra forma poderia ser apenas retórica: quem decide o quê, com base em que critérios, com que dados, com que controlos, com que consequências. De modo que possamos ser parte da solução, e não do problema da erosão de confiança, demonstrando que é possível usar IA de forma responsável, explicável e alinhada com as partes interessadas; em que a IA, não aprofunda desigualdades e desinformação, e é sim uma aliada para mais resiliência, transparência e prosperidade partilhada.