Gabriel Bernardino: “Com a IA estamos a assistir ao nascimento de um novo participante no sistema financeiro”

«Imaginem um cidadão que pretende contratar um seguro, rever a sua carteira de investimentos e avaliar se está a poupar o suficiente para a reforma. Não contacta o seu banco, a sua seguradora ou o seu mediador. Nem sequer consulta comparadores online. Entrega essa tarefa a um agente de inteligência artificial (IA). Esse agente conhece as suas preferências, compreende os seus objetivos financeiros, analisa a sua situação patrimonial, consulta centenas de produtos disponíveis no mercado e inicia negociações com os agentes digitais das instituições financeiras. Em poucos minutos, apresenta uma recomendação, o cidadão valida-a e a operação é executada.»

Este foi o cenário imaginado por Gabriel Bernardino durante a conferência «IA & Data Summit – A qualidade dos dados na banca e seguros: do risco à confiança», realizada esta semana, em Lisboa, pela Informa e pelo Jornal PT50.

O cenário que o presidente da Autoridade de Supervisão de Seguros e Fundos de Pensões (ASF) considera poder concretizar-se em 2030 dá-nos uma antevisão do futuro dos serviços financeiros. Para Gabriel Bernardino, não há dúvidas: «Talvez o primeiro erro que possamos cometer seja pensar que estamos perante uma simples evolução tecnológica. Creio que estamos perante algo bem mais profundo. Estamos perante o possível nascimento de um novo participante no sistema financeiro».

Um novo participante «que não é uma pessoa nem uma instituição. É um agente de IA», afirma o presidente da ASF, para quem a interação entre o consumidor e a instituição financeira «passará a ser a interação entre agentes de IA que representam consumidores e agentes de IA que representam instituições financeiras».

Esta nova relação «altera profundamente a natureza do sistema que supervisionamos», acrescentou Gabriel Bernardino.

Para este responsável, «já não estamos perante sistemas que apenas respondem a perguntas. Estamos perante sistemas capazes de analisar informação, formular hipóteses, definir estratégias, tomar iniciativas e executar ações para atingir objetivos específicos».

Em termos organizacionais, acrescentou, «isto poderá representar uma transformação ainda mais disruptiva do que a introdução da internet. O impacto mais relevante poderá nem ser tecnológico. Poderá ser organizacional».

«Pela primeira vez na história moderna, os conselhos de administração terão de gerir não apenas pessoas e sistemas, mas também agentes autónomos capazes de executar atividades complexas com graus crescentes de autonomia», afirmou o presidente da ASF, concluindo que estamos perante uma mudança «que terá consequências profundas ao nível das competências, dos modelos de governação e da própria supervisão».

Quem é o responsável?

Com o advento e o desenvolvimento da IA, coloca-se uma outra questão: quem é responsável pelas decisões tomadas por um agente que pesquisa, compara, recomenda, negoceia e executa operações em nome dos seus utilizadores?

Para Gabriel Bernardino, «o problema não é a ausência de alguém identificável. O criador do modelo tem nome. A plataforma que o disponibiliza tem nome. Existem, são conhecidos e têm sede… O problema é outro. Nenhum deles é um banco, uma seguradora ou um mediador. Nenhum deles está, hoje, dentro do perímetro da supervisão financeira».

«E, no entanto, um agente que compara e recomenda seguros a milhões de pessoas desempenha, na prática, a função de um mediador. Sem estar sujeito aos deveres de um mediador», afirma o responsável da ASF, que levanta uma segunda questão: «Quem paga esse agente? Se é gratuito para o cidadão, alguém o financia. E, se quem o financia são os produtores, a recomendação pode não ser neutra».

• ASF vai utilizar IA para gerir reclamações, pedidos de esclarecimento e cláusulas abusivas nos seguros

«Conhecemos bem este problema. É a velha questão dos incentivos na mediação. A diferença é que, desta vez, não existe um mediador autorizado a quem possamos impor deveres de transparência. O desafio, portanto, não é de anonimato. É de perímetro», conclui o presidente da ASF.

Para Gabriel Bernardino, «é um desafio para o qual os conceitos tradicionais de responsabilidade e supervisão ainda não oferecem respostas inteiramente satisfatórias. Esta não é apenas uma questão jurídica ou tecnológica. É uma questão de legitimidade e confiança».

Para enfrentar o desafio da supervisão dos agentes de IA, Gabriel Bernardino tem vindo a defender o conceito de inovação com responsabilidade.

«Num momento em que a velocidade da evolução tecnológica é sem precedentes, torna-se essencial preservar aquilo que constitui o principal ativo dos serviços financeiros: a confiança», afirmou. E acrescentou: «Para a ASF, a inovação com responsabilidade assenta numa ideia simples: quanto maior for a autonomia atribuída aos sistemas de inteligência artificial, maior deve ser a responsabilidade assumida pelos seres humanos».

«Podemos delegar tarefas, delegar análises, delegar recomendações. Mas não podemos delegar responsabilidade. A responsabilidade continuará a pertencer às instituições, aos seus órgãos de administração e às pessoas», defendeu o presidente da ASF.

O supervisor considera que «isto exige novos modelos de governação, responsabilização clara e supervisão humana significativa».

«Exige capacidade para compreender, monitorizar e questionar os resultados produzidos pelos modelos, mecanismos robustos de controlo e testes permanentes. Exige preocupação com a ética, a transparência, a não discriminação e a proteção dos consumidores», concluiu Gabriel Bernardino.