As seguradoras, uma peça-chave na mitigação dos riscos da Inteligência Artificial

A maior parte da comunidade empresarial do mundo emprega a Inteligência Artificial (IA) em diferentes áreas do dia a dia, desde os processos de negócio até a criação de soluções ou produtos para os clientes, passando por uma ampla gama de opções. Ela é uma tecnologia que traz grandes benefícios em termos de inovação, produtividade e até mesmo de rentabilidade, mas também é necessário estar cientes dos riscos (preconceitos, ética, rendimento, confiabilidade das informações, propriedade intelectual, etc.), pois alguns deles devem ser gerenciados adequadamente para uma aplicação segura, confiável e definitivamente sustentável.

A maioria das empresas está aprendendo a utilizar esta tecnologia, aplicando-a em casos de uso em ambientes de teste ou com impactos muito controlados. Por este motivo, há certa percepção de controle sobre os riscos associados à IA no ambiente de negócios, mas existe o consenso geral de que são necessárias estruturas de trabalho, ferramentas, diretrizes e regulamentações para ajudar nessa implementação.

O lançamento de ferramentas de Inteligência Artificial generativas, acessíveis a todos os cidadãos e com uma adoção sem precedentes em tempo recorde, contribuiu para incrementar drasticamente o uso desta tecnologia entre todos os tipos de perfis, acrescentando complexidade ao debate sobre os riscos da IA.

Os órgãos reguladores estão focando seus esforços em viabilizar regulações e legislações que protejam os indivíduos e a sociedade contra possíveis usos inadequados desta tecnologia, mas a incerteza, especialmente no que se refere à designação de responsabilidades, continua sendo alta.

À medida que os casos de uso sejam escalados nas empresas e a regulação seja mais clara, a conscientização sobre uma gestão adequada dos riscos da IA aumentará e, com ela, a demanda pelos serviços associados à correta gestão desses riscos. As seguradoras podem atuar como catalisadoras nesse processo e ajudar seus clientes na implementação responsável e sustentável da Inteligência Artificial.

Neste contexto, a MAPFRE realizou uma pesquisa com o objetivo de entender esses riscos, avaliá-los, monitorá-los e mitigá-los para poder implementar a IA de maneira responsável, publicando um relatório exaustivo com todas as conclusões.

Há três tipos de riscos e impactos decorrentes da IA, com impacto nos níveis pessoal, social e corporativo:

• Risco operacional, ligado à robustez, à segurança e ao rendimento da tecnologia.
• Risco ético, referido à justiça, à transparência e à explicação de soluções e modelos.
• Risco regulatório, que reúne tudo o relacionado à conformidade de regulamentação e à responsabilidade legal.

Controlar estas áreas e trabalhar para mitigá-las é fundamental, especialmente em um momento em que a IA generativa alcançou uma adoção sem precedentes, intensificando as preocupações por seu impacto ético e legal: espera-se que o mercado da IA generativa tenha um tamanho estimado de 121 milhões de dólares até 2027, com um CAGR de 68% (2022-2027).

Precisamente, o conceito de Inteligência Artificial responsável (RAI, nas siglas em inglês) surge para garantir o bom uso da IA e minimizar esses riscos.

A Inteligência Artificial responsável se refere à gestão do ciclo de vida dos modelos de IA seguindo os princípios, processos e políticas necessárias para garantir que a tecnologia seja desenvolvida e operada buscando sempre um impacto positivo e protegendo os indivíduos e a sociedade. Isto representa conhecer e gerenciar os riscos associados aos modelos e gerar os mecanismos que permitam controlá-los e mitigá-los a partir da tripla perspectiva mencionada acima.

Embora ainda seja um conceito incipiente, alguns setores se destacam por sua maturidade na adoção. O setor de Tecnologia, mídia e telecomunicações está liderando o caminho (onde 92% das empresas com IA implementada em escala possuem sistemas de RAI em estado avançado ou em desenvolvimento), seguido pelo setor Farmacêutico e, em terceiro lugar, pelo da Saúde.

Os próximos anos serão fundamentais para o crescimento desta área. De acordo com um estudo recente da Gartner, as tecnologias e os sistemas RAI podem alcançar sua maturidade em termos de adoção e escala em um período aproximado de 6 anos.

“Nunca vimos uma adoção tecnológica tão rápida como a que estamos experimentando com as IA generativas. Considerando que a preocupação dos legisladores e das empresas é cada vez maior, e que os riscos ainda são pouco conhecidos, o conceito da IA responsável deve estar em primeiro plano para levar a sério a tecnologia e colaborar para o estabelecimento de formas comuns de trabalhar com ela, que ajudem a proteger pessoas e comunidades, ao mesmo tempo que promovem a inovação positiva”, diz Bárbara Fernández, diretora adjunta da MAPFRE Open Innovation e responsável pela insur _ space.

Atualmente, a oferta de seguros que cobrem os riscos associados ao uso da Inteligência Artificial é praticamente inexistente.

Os veículos autônomos ou sistemas utilizados em processos industriais são os primeiros exemplos em que os seguros específicos para a IA começam a aparecer. É justamente nestas áreas que se espera que a demanda aumente no médio/longo prazo, estendendo-se ao seguro de qualquer sistema gerenciado integramente por algoritmos de IA. Ou seja, sistemas automatizados do início ao fim, nos quais a decisão é tomada pela Inteligência Artificial sem intervenção humana.

No entanto, para isso é importante estabelecer a atribuição de responsabilidades através da regulamentação. Além disso, os produtos seguradores atuais precisam ser avaliados para determinar o impacto do uso da IA por parte dos clientes em suas coberturas. Em alguns casos, não será necessária a criação de produtos específicos, mas a adaptação/ajuste daqueles já existentes.

No caso das seguradoras, elas têm um duplo papel no contexto atual: por um lado, devem garantir que a implantação interna da tecnologia seja completamente segura, servindo de exemplo para outras indústrias; por outro lado, elas devem acompanhar e ajudar os clientes em sua própria implantação da IA e da RAI, para protegê-los, proteger os indivíduos e a sociedade em geral, prevenindo e evitando qualquer comportamento indesejado e garantindo uma solução e cobertura em caso de possíveis danos. 

Faça o download do relatório elaborado pela MAPFRE aqui para uma análise dos riscos da IA mais aprofundada e das conclusões extraídas da pesquisa e do estudo de campo realizados.

ARTIGOS RELACIONADOS: