O Parlamento da UE aprovou hoje a Lei da Inteligência Artificial (IA). Os Estados-Membros chegaram a acordo sobre o regulamento em dezembro de 2023. Hoje, os membros do Parlamento Europeu aprovaram a lei, com 523 votos a favor, 46 votos contra e 49 abstenções na votação.
Não é nenhum segredo que a IA é uma faca de dois gumes. Para cada caso de uso positivo, existem várias maneiras pelas quais os humanos podem usar a tecnologia para fins nefastos. A regulamentação é geralmente eficaz na criação de salvaguardas para a adopção de novas tecnologias. No entanto, delinear os limites das aplicações e capacidades da IA é um desafio. O vasto potencial da tecnologia torna difícil eliminar usos negativos e ao mesmo tempo acomodar os positivos.
Por causa disso, a nova Lei de Inteligência Artificial da União Europeia terá impactos positivos e negativos nos bancos e nas fintechs. As organizações que aprenderem a se adaptar e a inovar dentro dos limites terão mais sucesso quando se trata de aproveitar a IA.
Dito isto, aqui estão quatro implicações principais que a nova lei terá sobre os bancos:
Aplicativos de IA proibidos
A nova lei proíbe o uso de IA para reconhecimento de emoções no local de trabalho e nas escolas, pontuação social e policiamento preditivo baseado apenas em perfis. Isso terá impacto na forma como os bancos e fintechs usam IA para interações com clientes, subscrição e detecção de fraudes.
Conformidade e supervisão
A decisão chama especificamente o setor bancário como um “serviço público e privado essencial” e o categoriza como um uso de IA de alto risco. Portanto, os bancos que utilizam sistemas de IA devem avaliar e reduzir os riscos, manter registos de utilização, ser transparentes e precisos e garantir a supervisão humana. A lei estabelece que os cidadãos têm dois direitos principais no que diz respeito à utilização de IA nas suas plataformas bancárias. Em primeiro lugar, devem poder apresentar reclamações e, em segundo lugar, têm o direito de receber explicações sobre decisões tomadas com recurso à IA. Isto exigirá que os bancos e as fintechs melhorem a sua gestão de risco e atualizem os seus processos de conformidade para acomodar os serviços orientados pela IA.
Transparência
Os bancos que utilizam sistemas e modelos de IA para fins gerais devem cumprir requisitos de transparência. Isto inclui o cumprimento da lei de direitos de autor da UE e a publicação de resumos detalhados do conteúdo da formação. Os relatórios de transparência não serão de tamanho único. De acordo com a explicação do Parlamento Europeu, “Os modelos de IA de uso geral mais poderosos que podem representar riscos sistémicos enfrentarão requisitos adicionais, incluindo a realização de avaliações de modelos, avaliação e mitigação de riscos sistémicos e relatórios sobre incidentes”.
Apoio à inovação
A lei estipula que ambientes de teste regulatórios e testes reais estarão disponíveis em nível nacional para ajudar as empresas a desenvolver e treinar o uso de IA antes de sua entrada em operação. Isto poderia beneficiar tanto as fintechs como os bancos pelo apoio nos testes e lançamento dos seus novos casos de utilização de IA.
No geral, a Lei de IA da UE não exige nada fora das capacidades existentes dos bancos. As instituições financeiras já possuem processos, procedimentos de documentação e controles para cumprir as regulamentações existentes. A lei, no entanto, exigirá que os bancos e as fintechs estabeleçam ou reavaliem as suas estratégias de IA, garantam a conformidade com os novos regulamentos e se adaptem a um ecossistema de IA mais transparente e responsável.
Foto de Tara Winstead
