Supervisor alemão alarga poderes para fiscalizar a utilização da IA no sistema financeiro

Os legisladores alemães alargaram o mandato da autoridade de supervisão financeira do país (BaFin), que passará a assumir a fiscalização do mercado de sistemas de Inteligência Artificial (IA) diretamente relacionados com atividades financeiras regulamentadas. Esta nova competência abrange instituições de crédito, seguradoras e outras entidades financeiras sujeitas à supervisão da BaFin.

A decisão resulta da lei que executa o Regulamento Europeu da Inteligência Artificial (AI Act), que entrou em vigor nesta quarta-feira. Ao abrigo do novo mandato, a BaFin passará a verificar se as entidades supervisionadas cumprem os requisitos previstos no Regulamento da IA.

«A regulamentação da IA complementa o quadro regulatório já existente para o mercado financeiro. Cria uma estrutura que permite às empresas impulsionar a inovação de forma responsável», sublinha Mark Branson, presidente da BaFin. As instituições financeiras recorrem já à IA em diversas áreas da sua atividade.

«As pessoas precisam de ter a garantia de que os seus direitos fundamentais serão protegidos quando a IA for utilizada. A BaFin assegurará, por exemplo, que todos tenham um acesso equitativo aos serviços financeiros e que ninguém seja discriminado por sistemas de IA», acrescentou o responsável.

• Entre a cautela bancária e a revolução da inteligência artificial

A fiscalização da BaFin abrangerá, por exemplo, as obrigações de transparência aplicáveis aos sistemas de IA que interagem diretamente com pessoas, como os chatbots utilizados no atendimento ao cliente.

O supervisor alemão irá também monitorizar o cumprimento das disposições do Regulamento da IA relativas às práticas proibidas, bem como dos requisitos aplicáveis aos sistemas de IA de alto risco. Nesta categoria incluem-se, por exemplo, os sistemas utilizados pelos bancos para a avaliação de crédito ou pelas seguradoras para a avaliação do risco em seguros de vida e de saúde.

A BaFin coordenará esta atividade de fiscalização com a sua supervisão prudencial contínua das entidades financeiras. «A transparência, a não discriminação e uma gestão eficaz dos riscos são fatores essenciais na utilização da IA», afirma Mark Branson. «As decisões devem continuar a poder ser corrigidas e revertidas por intervenção humana. A responsabilidade pela utilização da IA recai sobre as entidades supervisionadas e sobre os respetivos órgãos de administração.»

Determinadas práticas de IA encontram-se proibidas desde 2 de fevereiro de 2025. Entre elas incluem-se sistemas que recolhem e avaliam informações particularmente sensíveis sobre as pessoas, suscetíveis de conduzir a tratamentos injustos ou discriminatórios.

As primeiras obrigações de transparência previstas no Regulamento da IA entram em vigor a 2 de agosto. Já os requisitos aplicáveis aos sistemas de IA de alto risco passarão a ser exigíveis a partir de 2 de dezembro de 2027.

«Esperamos que as empresas se familiarizem plenamente com o Regulamento da IA», afirma Mark Branson. «Partilhamos todos o mesmo objetivo: que a IA gere valor acrescentado. Para isso, os modelos têm de ser concebidos de forma segura, transparente e justa.»

A fiscalização da BaFin limita-se aos sistemas de IA diretamente relacionados com atividades financeiras regulamentadas. Outras aplicações de IA, como as utilizadas na gestão de recursos humanos das instituições financeiras, permanecem sob a jurisdição da Agência Federal de Redes. A BaFin poderá ainda aplicar coimas em caso de violação das disposições do Regulamento da IA.