Carlos Fernández: «Temos de ter a certeza da identidade de quem gera a informação e da integridade dessa informação»

O keynote speaker da conferência «IA & Data Summit – A qualidade dos dados na Banca e Seguros: do risco à confiança» explica por que razão é necessário conhecer o processo de obtenção dos dados para evitar «armadilhas».

Carlos Fernández Íñigo, Senior Business Adviser da Logalty, empresa líder em assinaturas digitais e notificações eletrónicas, considera que a massificação do acesso à informação através da inteligência artificial (IA) vai trazer um enorme desafio: saber distinguir os dados falsos dos verdadeiros. A solução passa por conhecer os autores e acompanhar o processo de criação da informação.

Jornal PT50 – De que forma a supervisão pode influenciar o tratamento dos dados e como se reflete essa influência na qualidade da governação?

Carlos Fernández Íñigo – Para responder a esta pergunta, vou partir de uma questão que, na minha opinião, está no centro das atenções da opinião pública mundial: é possível regulamentar o avanço da inteligência artificial (IA)? Creio que a resposta a esta pergunta nos permitirá responder de forma eficaz à questão que me coloca.

Para regulamentar o avanço da IA, fala-se no conceito de guardrails, ou seja, mecanismos de proteção que orientam a sua evolução. Trabalha-se com sete categorias destes mecanismos: input, memória, prompt, runtime, output, agentes e retrieval. Muitos deles estão intrinsecamente ligados ao tratamento dos dados, e todas as ferramentas abrangidas por estas regras acabam por contribuir para a qualidade da governação dos dados.

Na minha perspetiva, a regulamentação deve ajudar a resolver os problemas fundamentais da governação dos dados, sobretudo no que respeita aos dados provenientes de informações de acesso público ou fornecidos diretamente pelos próprios intervenientes, como acontece, por exemplo, com quem solicita um produto financeiro. Temos de ter a certeza da identidade de quem gera a informação, da integridade dessa informação, de que os modelos de decisão são explicáveis e de que não existe uma utilização indevida dos dados que prejudique tanto os seus titulares como os utilizadores finais.

• Teresa Cardoso de Menezes: “O mais difícil de construir e replicar não é o algoritmo, mas a qualidade, profundidade e governação dos dados que o alimentam”

Se conseguirmos alcançar estes objetivos, garantiremos que os dados estarão disponíveis quando forem necessários e terão a qualidade exigida. Ao fazê-lo, estaremos a contribuir decisivamente, a partir do universo dos dados, para a governação da própria IA.

Jornal PT50 – A democratização da IA é uma forma de massificar e tornar mais acessível a informação de qualidade?

Carlos Fernández Íñigo – É necessário ter muito cuidado com esta pergunta, porque considero que a resposta encerra algumas das chaves para compreender o que nos espera nos próximos tempos.

Sem entrar em pormenores, a resposta é que a difusão massiva da IA constitui uma forma de massificar o acesso aos dados. Existem muitos tipos de dados, entre os quais dados falsos e dados sintéticos. Estes são produzidos de tal forma que se torna muito difícil distinguir se são reais e corretos ou não. E não há melhor forma de tomar decisões incorretas ou enviesadas do que utilizar esses dados acreditando que são verdadeiros.

Como podemos resolver este problema? A resposta é clara: conhecendo o processo através do qual os dados são obtidos. É necessário saber de onde vêm os dados, quem os produz e se essa fonte nos merece confiança.

Assim, a minha resposta à pergunta é que a IA não constitui apenas uma forma de facilitar o acesso a informação de qualidade: torna esse acesso absolutamente indispensável.

Jornal PT50 – Que papel desempenham os produtores e certificadores de informação (dados) num cenário dominado por uma IA capaz de agregar e tratar milhões de conteúdos em frações de segundo?

Carlos Fernández Íñigo – Como referi anteriormente, os produtores de informação de qualidade desempenham um papel essencial, e os desafios que têm de enfrentar para cumprir a sua missão não são pequenos. A regulamentação tornará os seus processos muito mais exigentes, de modo a responder aos desafios colocados por sistemas capazes de gerar informação falsa com uma aparência de total veracidade.

Mas não podemos ficar por aqui. As decisões são tomadas não apenas com base em informação externa produzida por estes fornecedores, mas também recorrendo a informação proveniente das próprias fontes da empresa. Neste domínio, a governação interna dos dados desempenha um papel decisivo, tal como os algoritmos que utilizam esses dados para tomar decisões. A IA generativa está a assumir o lugar destes algoritmos, em detrimento dos métodos tradicionais. Este é também um tema de grande importância.

O novo paradigma consiste em substituir o modelo de governação dos dados por um modelo de governação da decisão, que engloba todos estes conceitos.