La importancia de una buena gobernanza en la adopción de la IA

La IA generativa, ejemplificada por tecnologías como GPT-4, Bard y DALL-E, ha puesto la potencia de esta capacitación al alcance de todo el mundo. No obstante, la IA generativa trae consigo desafíos que incluyen la posible introducción de sesgos, riesgos a la privacidad y dudas sobre la veracidad de la información generada.

En este contexto, el nuevo reglamento sobre IA aprobado por el Parlamento Europeo constituye un marco jurídico que regula el desarrollo y uso de la IA, garantizando que se alinee con los derechos fundamentales y valores éticos. Al mismo tiempo, el “Proceso Hiroshima” del G7, en su reunión anual de 2023, enfatizó la necesidad de una cooperación internacional para establecer estándares éticos y legales en la adopción de la IA.

Ante este panorama, resulta imprescindible una buena gobernanza en la IA para proteger los derechos fundamentales, fomentar la confianza en este nuevo ámbito y asegurar que su adopción sea responsable y ética.

Hay dos conceptos que juegan un papel destacado en cualquier estrategia de gobernanza de la IA: la gobernanza algorítmica y la transparencia.

La gobernanza algorítmica se refiere al conjunto de políticas, prácticas y estructuras que guían el diseño, aplicación y supervisión de los algoritmos y sistemas basados en IA. Más allá de principios éticos abstractos, se persigue la gestión ética y humana de los algoritmos, asegurando que operen de manera transparente, justa y responsable.

Así, la transparencia es un pilar fundamental. Los procesos detrás de las decisiones algorítmicas deben ser evaluables y comprensibles por parte de todos, no solo para expertos en la materia. Es decir, podemos proporcionar información clara sobre cómo funcionan los sistemas de IA, qué datos utilizan y cómo se toman las decisiones automatizadas. La transparencia, más allá de fomentar la confianza del público, facilita la identificación y corrección de posibles sesgos o errores que puedan suscitarse.

«La inteligencia artificial no es solo hacer algoritmos que funcionen, es también la gestión ética y humana de los mismos. En MAPFRE adoptamos una gestión ética de la IA que no solo cumple con la normativa, sino que pone en el centro los derechos de las personas y fomenta una IA equitativa y responsable», comenta Diego Bodas, director de Inteligencia Artificial en MAPFRE.

«Por ello, y como parte de nuestro compromiso público con todos nuestros stakeholders, en MAPFRE utilizamos modelos de IA entrenados con datos sobre los que existe un consentimiento previo y que pasan por un proceso de anonimización, garantizando tanto la privacidad de la información como el comportamiento ético de los modelos que creamos y utilizamos», añade.

El Foro Económico Mundial ha identificado dos enfoques complementarios para implementar una gobernanza efectiva de la IA:

• Enfoque descendente (top-down): establece directrices y mejores prácticas desde los niveles más altos de la organización. Se desarrollan políticas que luego se implementan en toda la entidad. Este enfoque asegura una visión estratégica y alineación con los objetivos corporativos y regulatorios.

• Enfoque ascendente (bottom-up): fomenta la participación de todos los miembros de la organización en la creación y en la mejora de prácticas relacionadas con la IA. Al involucrar a empleados de todos los niveles, se promueve una cultura de responsabilidad compartida y se obtienen diferentes perspectivas que enriquecen las políticas establecidas.

La combinación de ambos da como resultado una gobernanza más sólida y flexible que integra una dirección estratégica y la participación inclusiva.

El Fondo Monetario Internacional ha destacado cinco aspectos clave que deben considerarse en la gobernanza de la IA. Además de este organismo, otros de carácter internacional dibujan la misma hoja de ruta:

1. Precaución: adoptar un enfoque prudente en el desarrollo y despliegue de sistemas de IA, en especial cuando sus impactos no están completamente comprendidos. La gestión del riesgo es fundamental, no solo por una cuestión normativa, sino por la responsabilidad de minimizar posibles perjuicios.
2. Agilidad: mantener la capacidad de adaptarse rápidamente a los avances tecnológicos y cambios en el entorno regulatorio. La IA evoluciona a un ritmo acelerado y las organizaciones deben ser capaces de ajustar sus prácticas y políticas en consecuencia.
3. Inclusividad: asegurarse de que todas las opiniones, incluyendo las de grupos minoritarios y vulnerables, sean consideradas en la toma de decisiones relacionadas con la inteligencia artificial. Ello garantiza que los sistemas basados en la IA beneficien a toda la sociedad y no perpetúen desigualdades.
4. Seguridad: proteger los sistemas de IA contra vulnerabilidades y amenazas, garantizando la integridad y confiabilidad de sus operaciones, como es el caso de la protección de datos o la privacidad de los usuarios.
5. Foco: dirigir los esfuerzos hacia aplicaciones de IA que generen un impacto positivo, alineadas con los objetivos éticos y sociales de la organización.

«Una gobernanza efectiva se lleva a cabo poniendo en pie mecanismos para mitigar los riesgos, y eso pasa por que todas las áreas de la organización estén representadas en la toma de decisiones, por considerar que la privacidad y la seguridad deben estar presentes por defecto, y por disponer de controles que identifiquen los sistemas y modelos de IA homologados, así como el detalle exhaustivo de los casos de uso desarrollados sobre los mismos», apostilla el director de IA de MAPFRE.

En MAPFRE, creemos que los últimos avances en inteligencia artificial son probablemente lo más transformador que veremos tanto en el ámbito de la sociedad como en el corporativo en los próximos años. La IA tiene la capacidad de tener impacto en casi todos los procesos de negocio y cada vez más clientes demandan los servicios de manera más inmediata y personalizada.

Elena Mora, directora de Privacidad y Protección del Dato en MAPFRE, enfatiza que «es vital el concepto de uso responsable de la inteligencia artificial; es uno de los aspectos que deben regir nuestra actividad estar presente en cualquier proyecto y toma de decisiones. De este modo, el uso responsable de la IA debe estar, al igual que la seguridad y privacidad, desde el diseño y por defecto en toda nueva iniciativa. Esto es lo que permitirá garantizar una gobernanza realmente efectiva». Este compromiso se traduce en acciones concretas, como por ejemplo la capacitación de equipos para asegurar que los empleados comprendan los principios y prácticas de la IA ética, la adaptación de los procesos para garantizar la inclusión de estos aspectos en toda nueva iniciativa, o una supervisión del desarrollo y uso de estas tecnologías, incorporando manuales de buenas prácticas y equipos dedicados a ello.

MAPFRE cuenta con más de 200 casos de uso de IA identificados y aplica la IA en más de 90, la mayoría destinados a mejorar la experiencia del cliente y la eficiencia de la gestión aseguradora. Además, cuenta con 75 bajo estudio para la aplicación de la última oleada de IA generativa. Algunos ejemplos son:

• Automatización de siniestros: tramitación de siniestros de seguro de hogar, permitiendo el pago directo al cliente en una sola interacción tras la validación.
• Automatización de imágenes: utilización de la IA para detectar los daños de vehículos en imágenes, tanto en la contratación como en los siniestros.
• Automatización de voz: desarrollo de asistentes virtuales y sistemas de automatización de llamadas que mejoran la atención al cliente.

El nuevo reglamento sobre IA aprobado por el Parlamento Europeo, entre otras cosas establece prohibiciones de ciertos usos y tratamientos, la necesidad de un modelo de gobernanza, metodologías de gestión del riesgo o requisitos de transparencia y calidad de los datos. En este sentido, la directora de MAPFRE destaca que «esta regulación, aunque establece requisitos específicos y más estrictos para los sistemas clasificados de alto riesgo, impacta en todo sistema de IA, desde el momento en el que es necesario un Gobierno de estos sistemas y de sus usos, para realizar una adecuada clasificación y evaluación de riesgos, aspectos necesarios para garantizar su cumplimiento».

El sector asegurador, especialmente en ámbitos de vida y salud, contemplan determinados casos de uso que entran dentro de la catalogación de riesgo alto según el reglamento. Por ello, MAPFRE está adaptando sus políticas y procesos para cumplir con las nuevas exigencias, asegurando que la IA se utilice de manera responsable y en alineación con los derechos fundamentales.

MAPFRE anticipa las regulaciones y adopta prácticas que no solo cumplen con las exigencias normativas, sino que también garantizan el máximo nivel de protección y confianza en nuestras soluciones de IA.

«Para MAPFRE el uso responsable de la IA no es una cuestión de cumplimiento. Hace referencia a la práctica de la IA bajo una metodología y controles que tienen la intención de mantener a las personas y sus objetivos en el centro del proceso de diseño, respetar los derechos fundamentales, garantizar la transparencia, seguridad y responsabilidad, y considerar los beneficios y los posibles daños que los sistemas de IA pueden tener en la sociedad. Y para ello es importante una buena gobernanza en la adopción de la IA que permita tener en todo momento identificados los distintos casos de uso de estos sistemas, los datos que se están utilizando, los riesgos que pueden tener asociados y realizar una adecuada gestión de ellos», explica Elena Mora.

Cuando se gestiona de manera adecuada, la IA puede ser un catalizador para la innovación y el desarrollo sostenible. Las cifras respaldan su crecimiento: según estimaciones de Precedence Research, el mercado de la IA crecerá a una tasa anual compuesta del 38.1 % desde 2022, alcanzando los 1.591 mil millones de dólares en 2030. Estudios de Boston Consulting Group y McKinsey también destacan su impacto económico significativo.

En MAPFRE cuidamos de lo que importa a nuestros clientes y buscamos generar un impacto positivo en la sociedad y el entorno, y por eso invitamos a organizaciones y autoridades a trabajar en conjunto para establecer estándares comunes y compartir mejores prácticas. En un futuro no muy lejano, existirá la necesidad de asegurar los sistemas gestionados íntegramente mediante IA y es responsabilidad de todos garantizar que operen de manera ética y segura.

ARTÍCULOS RELACIONADOS: