MAPFRE
Madrid 2,71 EUR 0,02 (+0,59 %)
Madrid 2,654 EUR -0,03 (-1,26 %)

INOVAÇÃO| 29.01.2025

A importância de uma boa governança na adoção da IA

Thumbnail user

A inteligência artificial (IA) se consolidou como um dos avanços mais transformadores da inovação em nosso tempo. No entanto, embora as organizações estejam identificando casos de uso relevantes, enfrentam dificuldades para obter o máximo retorno devido a limitações internas em sua aplicação. A IA não apenas potencializa a eficiência e a personalização dos serviços, mas, sob uma governança responsável, permite antecipar e minimizar riscos, alinhando-se ao bem-estar dos clientes e da sociedade.

A IA generativa, exemplificada por tecnologias como GPT-4, Bard e DALL-E, colocou o poder dessa tecnologia ao alcance de todos. Contudo, a IA generativa traz desafios, como a introdução de vieses, riscos à privacidade e dúvidas sobre a veracidade das informações geradas.

Nesse contexto, o novo regulamento sobre IA, aprovado pelo Parlamento Europeu estabelece um marco jurídico para regular o desenvolvimento e uso da IA, garantindo que esteja alinhado com os direitos fundamentais e valores éticos. Ao mesmo tempo, o “Processo Hiroshima” do G7, em sua reunião anual de 2023, enfatizou a necessidade de uma cooperação internacional para estabelecer padrões éticos e legais na adoção da IA.

Diante desse cenário, torna-se imprescindível uma boa governança na IA para proteger os direitos fundamentais, fomentar a confiança nesse novo campo e garantir que sua adoção seja responsável e ética.

Governança algorítmica e transparência

Há dois conceitos que desempenham um papel de destaque em qualquer estratégia de governança da IA: a governança algorítmica e a transparência.

A governança algorítmica refere-se ao conjunto de políticas, práticas e estruturas que guiam o design, aplicação e supervisão dos algoritmos e sistemas baseados em IA. Além de princípios éticos abstratos, busca-se a gestão ética e humana dos algoritmos, garantindo que operem de forma transparente, justa e responsável.

Assim, a transparência é um pilar fundamental. Os processos por trás das decisões algorítmicas devem ser avaliáveis e compreensíveis por parte de todos, não apenas para especialistas na matéria. Ou seja, podemos fornecer informações claras sobre como funcionam os sistemas de IA, quais dados utilizam e como são tomadas as decisões automatizadas. A transparência, além de fomentar a confiança do público, facilita a identificação e correção de possíveis preconceitos ou erros que possam surgir.

«A inteligência artificial não se trata apenas de criar algoritmos que funcionem, mas também da gestão ética e humana deles. Na MAPFRE, adotamos uma gestão ética da IA que não só cumpre a regulamentação, mas também coloca os direitos das pessoas no centro, promovendo uma IA justa e responsável”, comenta Diego Bodas, diretor de Inteligência Artificial da MAPFRE.

“Por isso, como parte do nosso compromisso público com todas as partes interessadas, na MAPFRE usamos modelos de IA treinados com dados que possuem consentimento prévio e que passam por um processo de anonimização, garantindo tanto a privacidade das informações quanto o comportamento ético dos modelos que criamos e utilizamos”, acrescenta.

Diferentes propostas para uma governança efetiva

O Fórum Econômico Mundial identificou duas abordagens complementares para implementar uma governança efetiva da IA:

  • Enfoque descendente (top-down): estabelece diretrizes e melhores práticas a partir dos níveis mais altos da organização. São desenvolvidas políticas que são implementadas posteriormente em toda a entidade. Este enfoque garante uma visão estratégica e alinhamento com os objetivos corporativos e regulatórios.

  • Enfoque ascendente (bottom-up): Incentiva a participação de todos os membros da organização na criação e melhoria de práticas relacionadas à IA. Ao envolver funcionários de todos os níveis, é promovida uma cultura de responsabilidade compartilhada e são obtidas diferentes perspectivas que enriquecem as políticas estabelecidas.

A combinação de ambos resulta em uma governança mais sólida e flexível que integra uma direção estratégica e a participação inclusiva.

Cinco aspectos-chave para uma boa governança

O Fundo Monetário Internacional destacou cinco aspectos-chave que devem ser considerados na governança da IA. Outros organismos internacionais também seguem essa linha:

  1. Cuidado: Adotar um enfoque prudente no desenvolvimento e implementação de sistemas de IA, especialmente quando seus impactos não estiverem completamente compreendidos. A gestão do risco é fundamental, não só por uma questão normativa, mas pela responsabilidade de minimizar possíveis prejuízos.
  2. Agilidade: manter a capacidade de se adaptar rapidamente aos avanços tecnológicos e mudanças no ambiente regulatório. A IA evolui em um ritmo acelerado e as organizações devem ser capazes de ajustar suas práticas e políticas conforme necessário.
  3. Inclusividade: garantir que todas as opiniões, incluindo as de grupos minoritários e vulneráveis, sejam consideradas na tomada de decisões relacionadas à inteligência artificial. Isso garante que os sistemas baseados na IA beneficiem toda a sociedade e não perpetuem desigualdades.
  4. Segurança: Proteger os sistemas de IA contra vulnerabilidades e ameaças, garantindo a integridade e confiabilidade de suas operações, como é o caso da proteção de dados ou da privacidade dos usuários.
  5. Foco: Direcionar os esforços para aplicações de IA que gerem um impacto positivo, alinhadas com os objetivos éticos e sociais da organização.

"Uma governança eficaz é realizada por meio da implementação de mecanismos para mitigar os riscos, o que envolve garantir que todas as áreas da organização estejam representadas na tomada de decisões, assegurar que a privacidade e a segurança estejam presentes por padrão, além de estabelecer controles que identifiquem os sistemas e modelos de IA homologados, bem como o detalhamento exaustivo dos casos de uso desenvolvidos com base neles", ressalta o diretor de IA da MAPFRE.

O compromisso da MAPFRE com uma IA responsável

Na MAPFRE, acreditamos que os últimos avanços em inteligência artificial são, provavelmente, o que há de mais transformador que veremos tanto no âmbito social quanto no corporativo nos próximos anos. A IA tem o potencial de impactar praticamente todos os processos de negócios, e um número crescente de clientes demanda serviços de maneira mais imediata e personalizada.

Elena Mora, diretora de Privacidade e Proteção de Dados na MAPFRE, enfatiza que "é vital o conceito de uso responsável da inteligência artificial; este é um dos aspectos que devem nortear nossa atividade e estar presente em qualquer projeto e processo de tomada de decisões. Dessa forma, o uso responsável da IA deve estar, assim como a segurança e a privacidade, integrado ao design e por padrão em toda nova iniciativa. Isso é o que permitirá garantir uma governança verdadeiramente eficaz". Esse compromisso se traduz em ações concretas, como, por exemplo, a capacitação de equipes para garantir que os colaboradores compreendam os princípios e práticas de uma IA ética, a adaptação de processos para assegurar a inclusão desses aspectos em todas as novas iniciativas, e a supervisão contínua do desenvolvimento e uso dessas tecnologias, incorporando manuais de boas práticas e equipes dedicadas a esse propósito.

A MAPFRE conta com mais de 200 casos de uso de IA identificados e aplica a IA em mais de 90 deles, sendo a maioria destinada a melhorar a experiência do cliente e a eficiência na gestão de seguros. Além disso, possui 75 casos em estudo para a aplicação da última onda de IA generativa. Alguns exemplos são:

  • Automatização de sinistros: processamento de sinistros de seguro residencial, permitindo o pagamento direto ao cliente em uma única interação, após validação.
  • Automatização de imagens: uso de IA para detectar danos em veículos a partir de imagens, tanto na contratação quanto no processamento de sinistros.
  • Automatização de voz: desenvolvimento de assistentes virtuais e sistemas de automatização de chamadas que melhoram o atendimento ao cliente.

Adaptação ao marco regulatório

O novo regulamento sobre IA aprovado pelo Parlamento Europeu, entre outras coisas, estabelece proibições de certos usos e tratamentos, a necessidade de um modelo de governança, metodologias de gestão do risco ou requisitos de transparência e qualidade dos dados. Neste sentido, a diretora da MAPFRE destaca que “esta regulação, embora estabeleça requisitos específicos e mais estritos para os sistemas classificados de alto risco, impacta em todo sistema de IA, a partir do momento em que é necessário uma Governança destes sistemas e de suas aplicações, para realizar uma adequada classificação e avaliação de riscos, aspectos necessários para garantir seu cumprimento”.

O setor segurador, especialmente em âmbitos de vida e saúde, contempla determinados casos de uso que entram na catalogação de alto risco segundo o regulamento. Por isso, a MAPFRE está adaptando suas políticas e processos para cumprir com as novas exigências, garantindo que a IA seja utilizada de maneira responsável e em conformidade com os direitos fundamentais.

A MAPFRE antecipa os regulamentos e adota práticas que não só cumprem com as exigências normativas, mas também garantem o máximo nível de proteção e confiança em nossas soluções de IA.

“Para a MAPFRE, o uso responsável da IA não é uma questão de cumprimento. Refere-se à prática da IA sob uma metodologia e controles que têm a intenção de manter as pessoas e seus objetivos no centro do processo de design, respeitar os direitos fundamentais, garantir a transparência, segurança e responsabilidade, e considerar os benefícios e os possíveis danos que os sistemas de IA podem ter na sociedade. E para isso é importante uma boa governança na adoção da IA que permita ter sempre identificados os diferentes casos de uso destes sistemas, os dados que estão sendo utilizados, os riscos que podem ter associados e realizar uma gestão adequada deles”, explica Elena Mora.

E o que acontecerá no futuro?

Quando gerenciada de maneira adequada, a IA pode ser um catalisador para a inovação e o desenvolvimento sustentável. Os números confirmam seu crescimento: de acordo com estimativas Precedence Research, o mercado de IA crescerá a uma taxa anual composta de 38,1% a partir de 2022, alcançando 1,591 trilhão de dólares até 2030. Estudos do Boston Consulting Group e McKinsey também destacam seu impacto econômico significativo.

Na MAPFRE cuidamos do que importa para os nossos clientes e procuramos gerar um impacto positivo na sociedade e no ambiente, e por isso convidamos organizações e autoridades a trabalhar em conjunto para estabelecer padrões comuns e compartilhar melhores práticas. Em um futuro não muito distante, existirá a necessidade de garantir os sistemas gerenciados integramente mediante IA e é responsabilidade de todos garantir que operem de maneira ética e segura.

 

ARTIGOS RELACIONADOS: