AI & Data Summit debateu o potencial da inteligência artificial e os desafios da confiança

Imagine-se um futuro em que contratar um seguro, escolher um investimento ou avaliar as poupanças para a reforma deixa de exigir uma conversa com o banco, a seguradora ou o mediador. Em vez disso, um agente de inteligência artificial conhece as preferências do consumidor, analisa a sua situação financeira, compara produtos disponíveis no mercado e negoceia diretamente com os sistemas das instituições. Ao cliente basta validar a recomendação. Tudo o resto acontece em poucos minutos.

O cenário foi apresentado por Gabriel Bernardino, presidente da Autoridade de Supervisão de Seguros e Fundos de Pensões (ASF), na abertura do AI & Data Summit, realizado ontem, no The One Palácio da Anunciada, em Lisboa. No evento, organizado pelo Jornal PT50, com a Informa D&B como founding partner, Gabriel Bernardino, explorou a possibilidade de que se este cenário se concretizar até 2030 obriga a olhar para a inteligência artificial de outra forma. “Talvez o primeiro erro que possamos cometer seja pensar que estamos perante uma simples evolução tecnológica. Creio que estamos perante algo bem mais profundo. Estamos perante o possível nascimento de um novo participante no sistema financeiro”, afirmou. Um participante que poderá não ser uma instituição financeira nem uma pessoa, mas um agente autónomo capaz de pesquisar, comparar, recomendar e executar operações. Uma mudança que, segundo o presidente da ASF, poderá ter consequências mais profundas na organização das empresas do que na própria tecnologia.

O problema começa quando se procura perceber quem responde pelas decisões tomadas por esses sistemas. Um agente que recomenda seguros a milhões de consumidores pode desempenhar, na prática, funções semelhantes às de um mediador, sem estar sujeito às mesmas obrigações regulamentares. Acrescem questões sobre os interesses que poderão influenciar as recomendações e sobre a capacidade dos supervisores para acompanhar esta nova realidade.

Gabriel Bernardino, Presidente da ASF/Foto: Melissa Dores

Gabriel Bernardino defendeu, por isso, que a inovação deve ser acompanhada por mecanismos de governação, controlo e supervisão humana. “Podemos delegar tarefas, delegar análises, delegar recomendações. Mas não podemos delegar responsabilidade. A responsabilidade continuará a pertencer às instituições, aos seus órgãos de administração e às pessoas”, sublinhou.

A confiança começa na qualidade dos dados

No evento, a importância da qualidade da informação foi também sublinhada por Teresa Cardoso de Menezes, diretora-geral da Informa D&B, que chamou a atenção para a crescente dependência dos dados nas decisões empresariais. “O que mudou verdadeiramente é a dependência que temos dos dados”, afirmou, defendendo que a utilização crescente da inteligência artificial torna ainda mais importante garantir a fiabilidade da informação disponível.

Para a responsável, a evolução tecnológica não diminui a importância da qualidade dos dados. Pelo contrário, torna-a determinante para os resultados que as organizações conseguem obter. “A eficácia da inteligência artificial, em todas as suas formas, depende inteiramente da qualidade dos dados que a alimentam”, sublinhou. Uma relação que Teresa Cardoso de Menezes sintetizou em “quanto maior a qualidade dos dados, maior a confiança”.

A relação entre informação, tecnologia e capacidade de decisão esteve igualmente no centro da intervenção de Carlos Fernández Íñigo, Senior Business Advisor da Logalty, que abordou os desafios colocados pela inteligência artificial generativa. O responsável alertou para o risco de as organizações confiarem excessivamente nos resultados produzidos pelos modelos, sem compreenderem suficientemente os seus limites ou questionarem a informação utilizada. “O modelo não sabe tudo”, recordou, chamando a atenção para a necessidade de avaliar criticamente as respostas geradas.

Carlos Fernández Íñigo, Senior Business Advisor da Logalty/Foto: Melissa Dores

Carlos Fernández Íñigo defendeu, por isso, que a discussão deve ir além da governação dos dados e passar a incluir a governação das decisões. A preocupação torna-se particularmente relevante quando a inteligência artificial começa a assumir tarefas com consequências diretas para as organizações e para os seus clientes. “Quanto mais risco corro, quanto mais relevante é a decisão, mais tenho que confiar no ser humano”, afirmou, reforçando a importância de manter a intervenção humana nos processos de maior responsabilidade.

Dados corretos não chegam para garantir boas decisões

A discussão sobre a responsabilidade dos sistemas de inteligência artificial esteve igualmente presente no primeiro painel, dedicado à qualidade dos dados na era da IA e da regulação. Moderado por Dina Rato, do Conselho Editorial do Jornal PT50, o debate reuniu Ricardo Sousa, diretor de Supervisão Comportamental do Banco de Portugal, Perla Pinto, diretora de Operações da Informa D&B, e Inês Oliveira, presidente da APDPO e DPO da Autoridade Tributária.

Uma das questões centrais foi perceber o que significa, afinal, ter dados de qualidade. A resposta deixou claro que a exatidão da informação é apenas uma parte do problema. É igualmente necessário conhecer a sua origem, garantir que está atualizada, perceber para que finalidade pode ser utilizada e assegurar que o tratamento respeita as regras de proteção de dados.

Inês Oliveira chamou a atenção para uma condição que deve ser verificada antes de qualquer outra: a legitimidade da utilização da informação. Um dado pode estar correto e ser tecnicamente adequado a determinado modelo, mas isso não significa que a organização tenha fundamento legal para o utilizar.

Perla Pinto, diretora de Operações da Informa D&B, Ricardo Sousa, diretor de Supervisão Comportamental do Banco de Portugal e Inês Oliveira, presidente da APDPO e DPO da Autoridade Tributária/Foto: Melissa Dores

Ricardo Sousa acrescentou que a qualidade dos resultados depende também das perguntas colocadas aos sistemas. Na concessão de crédito, por exemplo, avaliar a probabilidade de um cliente aceitar uma proposta não é o mesmo que avaliar a sua capacidade para cumprir as obrigações financeiras. Mesmo quando os dados são rigorosos, a finalidade da análise pode conduzir a conclusões muito diferentes.

Perla Pinto trouxe a experiência de uma empresa que trabalha diariamente com grandes volumes de informação empresarial. A responsável destacou a importância da atualização, da rastreabilidade e da capacidade de verificar a origem dos dados, sobretudo quando estes passam a alimentar modelos de inteligência artificial.

A discussão estendeu-se à necessidade de manter mecanismos de validação e supervisão humana. Para os participantes, a utilização de modelos cada vez mais complexos não dispensa as instituições de compreenderem os resultados e de conseguirem explicar as decisões que afetam os clientes.

O valor dos dados depende do que os bancos conseguem fazer com eles

Se o primeiro painel se concentrou na qualidade e na confiança, o segundo mostrou como os dados estão a ser utilizados para transformar processos e serviços financeiros.

Sob moderação de Augusto Castelo Branco, diretor comercial da Informa D&B, Tiago Mateus, COO do Banco Português de Fomento, Nuno Reis, Head of Architecture & Transformation + Data & Insights do Millennium bcp, e Ricardo Chaves, Head of Innovation and AI do BPI, partilharam projetos já em desenvolvimento nas respetivas instituições.

No Millennium bcp, a agregação da informação sobre as transações dos clientes permitiu criar novas funcionalidades, desde a prevenção da fraude até à antecipação de despesas futuras. O banco passou também a simplificar operações recorrentes, utilizando o histórico dos movimentos para sugerir automaticamente os dados necessários a determinados pagamentos.

No Banco Português de Fomento, uma das apostas foi a criação do Fomento IA, uma ferramenta conversacional interna que permite aos colaboradores consultar procedimentos, regulamentos e informação da instituição num ambiente controlado. A solução procura reduzir tarefas repetitivas e apoiar a análise das operações, recorrendo também a dados da Informa D&B.

Augusto Castelo Branco, diretor comercial da Informa D&B, Tiago Mateus, COO do Banco Português de Fomento, Nuno Reis, Head of Architecture & Transformation + Data & Insights do Millennium bcp, e Ricardo Chaves, Head of Innovation and AI do BPI /Foto: Melissa Dores

Já no BPI, Ricardo Chaves apresentou aplicações de inteligência artificial no tratamento de documentos, na atividade comercial e nos assistentes conversacionais. Num dos produtos, a utilização de um modelo preditivo comum a diferentes áreas permitiu mais do que duplicar o volume de negócios face ao trimestre homólogo do ano anterior.

Mas os três responsáveis reconheceram que os resultados não dependem apenas da qualidade das ferramentas. A organização da informação, a adaptação dos processos e a capacidade de envolver as equipas continuam a representar obstáculos importantes.

Ricardo Chaves chamou particularmente a atenção para problemas que já existiam antes da introdução da inteligência artificial, mas que se tornam mais visíveis quando as organizações procuram automatizar operações. “A falta de qualidade já lá está, não é a IA que a traz. Só que muitas vezes está sem que ninguém repare”, alertou.

A discussão abordou ainda a necessidade de avaliar os investimentos e de desenvolver soluções que possam ser utilizadas em diferentes áreas das instituições, evitando a multiplicação de projetos isolados.

Open Finance e os desafios da partilha de dados

O último painel levou a discussão para o Open Finance e para as oportunidades e riscos associados à partilha de informação entre instituições financeiras. Moderado por Miguel Ganhão, diretor do Jornal PT50, reuniu Ricardo Gonçalves, Head of Innovation and AI da Fidelidade, Francisca Barata Salgueiro, Head of Digital da Caixa Geral de Depósitos, e Luís Morim, CRO do Banco Santander.

Ricardo Gonçalves, Head of Innovation and AI da Fidelidade, Luís Morim, CRO do Banco Santander e Francisca Barata Salgueiro, Head of Digital da Caixa Geral de Depósitos/Foto: Melissa Dores

A confiança dos clientes, a utilização responsável dos dados e a definição de responsabilidades estiveram entre os temas em debate. A discussão passou também pelos desafios que a inteligência artificial coloca à fiabilidade da informação e pelas consequências que dados incorretos podem ter em decisões bancárias ou na avaliação de riscos pelas seguradoras.

Em análise esteve ainda a importância da qualidade da informação para o desenvolvimento de novos serviços e para a competitividade das instituições financeiras, numa altura em que parece evidente que a partilha de dados abre novas possibilidades de negócio, mas exige cuidados acrescidos na sua utilização.