IA obriga empresas a passar da gestão dos dados à governação das decisões

“Do governo dos dados, temos que passar ao governo das decisões”. Foi este o principal desafio lançado por Carlos Fernández Íñigo, Senior Business Advisor da Logalty, às empresas que estão a integrar a inteligência artificial nos seus processos de decisão. Na intervenção no AI & Data Summit, organizado esta semana pelo Jornal PT50, no The One, em Lisboa, sob o tema “A qualidade dos dados na banca e seguros: do risco à confiança”, o especialista alertou para a necessidade de repensar a forma como as organizações utilizam os dados, controlam os sistemas tecnológicos e assumem a responsabilidade pelas decisões.

Durante décadas, as organizações desenvolveram sistemas para analisar informação e apoiar decisões. Com a inteligência artificial generativa, os especialistas não têm qualquer dúvida de que a relação está a mudar. As ferramentas deixaram de estar limitadas à previsão de resultados com base em dados históricos e passaram a ser capazes de gerar conteúdos, formular respostas e participar em processos de decisão. Uma evolução que, para Carlos Fernández Íñigo, abre novas possibilidades, mas também introduz aquilo que apelidou de riscos relacionados com a fiabilidade da informação, a transparência dos sistemas e a autonomia das máquinas.

A relação entre os dados e os novos sistemas de decisão foi descrita pelo especialista como “particularmente complexa”, contrariando a ideia de que a evolução da IA e a crescente disponibilidade de informação conduzem necessariamente a melhores resultados.

Carlos Fernández Íñigo apresentou uma distinção entre dados, informação, conhecimento e sabedoria, defendendo que os dados constituem a base de um processo que só culmina numa decisão depois de passar por diferentes etapas. “Na base estão os dados. Os dados, quando lhes damos contexto, transformam-se em informação”, explicou. Essa informação, acrescentou, pode transformar-se em conhecimento através da formação e da experiência, sendo neste último nível que tradicionalmente se situava a capacidade de decisão.

Para o especialista, a evolução tecnológica foi alterando progressivamente esta relação. A chegada da Internet, o desenvolvimento do big data e o aumento da capacidade de computação permitiram multiplicar o volume de informação disponível, atribuindo aos dados um peso crescente nos processos de decisão. Com o desenvolvimento do machine learning e do deep learning, os sistemas passaram a conseguir aprender a partir da informação disponível e identificar padrões em grandes quantidades de dados.

A inteligência artificial generativa introduziu, porém, uma mudança que Carlos Fernández Íñigo considera particularmente relevante: a possibilidade de os sistemas produzirem respostas sem dependerem exclusivamente de modelos concebidos para uma tarefa específica. “Até aquele momento, todos os sistemas de inteligência que tínhamos eram de previsão. Ou seja, a partir de acontecimentos passados, digo o que vai acontecer no futuro”, explicou, contrapondo essa abordagem à capacidade dos novos sistemas para gerar conteúdos e respostas.

A tentação de decidir com modelos mais baratos

Uma das principais diferenças identificadas por Carlos Fernández Íñigo está no custo e na complexidade associados aos sistemas de decisão. Nos modelos tradicionais, explicou, cada problema exigia o desenvolvimento de uma solução específica, com dados de entrada identificados, parâmetros definidos e mecanismos de avaliação do desempenho. Era necessário recorrer a especialistas, programar os modelos e acompanhar a sua capacidade para produzir resultados adequados.

A inteligência artificial generativa veio alterar essa realidade, permitindo obter apoio para diferentes decisões através de ferramentas generalistas, sem necessidade de desenvolver um modelo específico para cada situação. “A tentação é enorme”, afirmou, referindo-se à facilidade com que as organizações podem recorrer a sistemas de inteligência artificial para apoiar decisões.

O especialista reconheceu que estas ferramentas oferecem vantagens que não devem ser ignoradas, mas alertou para os problemas que podem surgir quando a sua utilização não é acompanhada por mecanismos adequados de controlo. “Não podemos dizer à sociedade que não utilize esta ferramenta. Esta ferramenta tem que ser utilizada”, defendeu, acrescentando que a questão essencial está em determinar como deve ser aplicada aos processos de decisão.

Para Carlos Fernández Íñigo, cada organização precisa de avaliar o papel que pretende atribuir à inteligência artificial e estabelecer limites claros à autonomia dos sistemas.

Quatro formas de distribuir decisões entre humanos e máquinas

O especialista apresentou quatro modelos possíveis de interação entre pessoas e sistemas de inteligência artificial. “A primeira, automatismo completo. Deixo para a máquina que decida. A segunda, a máquina decide, mas eu supervisiono. Na terceira, eu tomo a decisão, mas deixo para a máquina que me dê indicações, que me dê guias. E a quarta é: máquina, nem te aproximes”, enumerou.

Na perspetiva de Carlos Fernández Íñigo, a escolha entre estas quatro possibilidades deve depender da natureza e das consequências de cada decisão. As organizações devem, por isso, identificar os diferentes processos e determinar em qual destas categorias se enquadram, em vez de aplicar indiscriminadamente a mesma solução tecnológica. “Quanto mais risco corro, quanto mais relevante é a decisão, mais tenho que confiar no ser humano”, sublinhou.

Carlos Fernández Íñigo abordou também os riscos associados à utilização de inteligência artificial generativa, começando pela tendência humana para aceitar as respostas produzidas pelos sistemas sem as questionar suficientemente. O Senior Business Advisor da Logalty comparou este comportamento à confiança que muitos utilizadores passaram a depositar na Wikipédia, considerando que a facilidade de acesso à informação pode reduzir o incentivo para verificar a sua origem ou validade. “Esse é um risco enorme, porque não respeitamos o nosso espírito crítico”, alertou.

Outro problema identificado pelo especialista está relacionado com a falta de transparência dos modelos. Ao contrário dos sistemas tradicionais, em que os parâmetros e os dados utilizados podiam ser mais facilmente identificados, os modelos generativos funcionam frequentemente como uma espécie de caixa negra.

A responsabilidade pelas decisões constitui uma terceira preocupação. Quando uma decisão automatizada produz consequências negativas, pode tornar-se difícil determinar quem deve responder pelo resultado: quem escolheu o software, quem desenvolveu ou treinou o modelo ou quem autorizou a sua utilização.

A estes problemas acrescentou a influência da forma como as perguntas são colocadas aos sistemas de inteligência artificial. Nos modelos tradicionais, explicou, as questões estavam previamente definidas e os dados necessários para obter uma resposta eram conhecidos. Com a inteligência artificial generativa, a formulação do prompt pode alterar significativamente o resultado. Ou seja, diferentes utilizadores obterem respostas distintas perante o mesmo problema, relembrou o especialista.

A origem dos dados continua a ser determinante

Apesar da evolução dos modelos, Carlos Fernández Íñigo insistiu que a qualidade e a origem dos dados continuam a desempenhar um papel central na fiabilidade das decisões. Uma das preocupações apresentadas está relacionada com os agentes de inteligência artificial, sistemas capazes de procurar informação em diferentes fontes e utilizá-la para construir o contexto necessário à execução de tarefas. Na sua intervenção, alertou que estes mecanismos acrescentam uma nova dimensão à falta de transparência dos sistemas, uma vez que não basta compreender o funcionamento do modelo. É também necessário conhecer a forma como os dados foram selecionados. “Dentro desse esquema de caixa negra, já não só está na caixa negra o modelo que toma a decisão, está o modelo que busca os dados para gerar o contexto”, explicou.

Na sua perspetiva, uma escolha inadequada das fontes pode comprometer os resultados, independentemente da qualidade do modelo utilizado. “De onde vêm os dados?”, questionou, considerando essencial determinar se a informação foi obtida numa fonte fiável, se foi alterada ou se corresponde efetivamente à realidade que se pretende analisar.

Outro problema está relacionado com os limites do conhecimento disponível nos modelos de inteligência artificial. Carlos Fernández Íñigo chamou a atenção para o facto de uma parte significativa da informação económica e empresarial não estar acessível publicamente, permanecendo nos sistemas internos das organizações ou em fontes protegidas. “O modelo não sabe tudo”, disse aos presentes, argumentando que a construção de contextos adequados exige o acesso a informação específica e relevante para cada decisão. O especialista destacou também a importância das fontes públicas de informação, cujo tratamento apresenta dificuldades relacionadas com diferentes formatos, calendários de atualização e critérios de organização.

Regulação europeia pode ajudar a garantir a fiabilidade

Carlos Fernández Íñigo abordou ainda o papel da regulação europeia na criação de mecanismos que permitam melhorar a confiança na informação utilizada pelas organizações. O especialista destacou o enquadramento associado ao eIDAS 2.0, que prevê o desenvolvimento de soluções de identidade digital e mecanismos de confiança destinados a facilitar a partilha segura de informação. Na sua ótica, estes sistemas poderão permitir verificar a identidade de quem disponibiliza determinados dados, confirmar que a informação não foi alterada e garantir que a sua origem corresponde a fontes fiáveis.

A possibilidade de disponibilizar apenas os dados necessários para uma determinada operação foi igualmente apresentada como uma vantagem, particularmente relevante para instituições financeiras e seguradoras.

Carlos Fernández Íñigo referiu que, atualmente, muitas organizações solicitam aos clientes documentos completos quando necessitam apenas de um conjunto limitado de informações. Esta prática, explicou, coloca desafios relacionados com a verificação da identidade, a autenticidade dos documentos e a responsabilidade pelo tratamento dos dados pessoais.

Na sua perspetiva, os novos mecanismos de confiança poderão contribuir para responder a estas dificuldades, permitindo melhorar a fiabilidade da informação utilizada nos processos de decisão.

Da governação dos dados à governação das decisões

A principal recomendação deixada por Carlos Fernández Íñigo às organizações foi a necessidade de ultrapassar uma abordagem centrada exclusivamente na governação dos dados. Segundo explicou, as empresas desenvolveram ao longo dos anos estruturas destinadas a garantir a qualidade, organização e utilização da informação, tanto a que recebem de fontes externas como a que produzem internamente. Contudo, considera que a crescente participação da inteligência artificial nos processos de decisão exige uma nova etapa. E voltámos ao início: “Do governo dos dados, temos que passar ao governo das decisões”, defendeu.

Para o especialista, esta transformação implica definir quais as decisões que podem ser automatizadas, quais exigem supervisão humana e em que situações a inteligência artificial deve funcionar apenas como instrumento de apoio. A criação destas estruturas deve também permitir avaliar os riscos associados aos sistemas, compreender a origem da informação utilizada e estabelecer mecanismos de responsabilidade.

Carlos Fernández Íñigo aconselhou as organizações a manterem os modelos tradicionais em decisões de risco elevado para as quais estes já demonstraram capacidade de resposta, reservando outras abordagens para situações em que a inteligência artificial generativa possa ser utilizada de forma adequada. “O meu conselho é: quando as decisões históricas são de determinado risco, utilizem modelos antigos”.

O especialista terminou admitindo a velocidade a que estas tecnologias estão a evoluir e a dificuldade em antecipar todas as mudanças que poderão ocorrer. “Estamos numa época absolutamente maravilhosa”, afirmou. E defendeu que as organizações precisam de encontrar estruturas que lhes permitam acompanhar essa evolução.