Gobernanza de riesgos de IA
Los estándares regulatorios en la industria de servicios financieros están evolucionando rápidamente.
Por lo tanto, un marco de gobernanza mejorado para supervisar los riesgos potenciales de los sistemas de IA es fundamental para mejorar los niveles de rendición de cuentas, auditabilidad y transparencia.
Como parte de los programas empresariales centrados en la IA, se deben abordar una serie de imperativos críticos como cuestión de prioridad para cumplir de manera integral con las obligaciones regulatorias. Lo esencial incluye establecer medidas, políticas y procedimientos adecuados de gestión y control de riesgos, gobernanza de datos, documentación y mantenimiento de registros, junto con procedimientos para la supervisión humana y la información transparente para los usuarios (ver Figura 2).
Prioridades del marco de gobernanza de riesgos de IA
El modelo de gobernanza de riesgos y el marco de supervisión de la IA para instituciones financieras se basa en los pilares clave de personas, procesos y tecnología con diferentes áreas de enfoque (ver Tabla 2).
Modelo de gobernanza de riesgos de IA
Las empresas de servicios financieros deben establecer y habilitar un marco de gobernanza con principios rectores y umbrales de control para lograr un funcionamiento optimizado de los sistemas de IA. Un marco sólido de gobernanza de riesgos de IA incluye la supervisión del ciclo de vida del modelo de IA, las políticas comerciales y las reglas de gobernanza de datos en todos los programas de IA. Para alinearse con el marco regulatorio, el marco de gobernanza debe definir objetivos, directrices y criterios estándar claros para el proceso de modelado, su seguimiento y control, además de los aspectos de seguridad de los datos y del modelo.
Se deben definir la gobernanza del modelo y procedimientos como la validación del modelo, las pruebas de calidad del modelo, el seguimiento del modelo, el análisis de los resultados del modelo (resultados explicables) y las tendencias. Para evitar riesgos conocidos o desconocidos y mitigar consecuencias no deseadas, las pautas de gobernanza de modelos deben considerar los objetivos comerciales, las implicaciones de las decisiones, los modelos de datos, la adecuación de las pruebas, la privacidad de los datos y los aspectos de seguridad.
En términos de ciberseguridad, el marco de gobernanza debe considerar los escenarios de riesgo entre la protección de patrones y datos, los ataques de minería de patrones y el envenenamiento de datos de entrenamiento. Además, las empresas deben implementar procesos integrales de evaluación y auditoría para identificar y abordar rápidamente las brechas. Para impulsar el funcionamiento adecuado de la gobernanza de la IA, los equipos empresariales deben trabajar en estrecha colaboración con los equipos de gobernanza de datos y garantizar el pleno cumplimiento de los estándares de calidad de los datos, gestión de metadatos y trazabilidad de los datos.
Mejor gobernanza de datos para mejorar la imparcialidad y la rendición de cuentas
Dado que los datos son el elemento de diseño más crítico en los modelos de IA y su entrenamiento, la efectividad de un sistema de IA depende completamente de un marco sólido de gobernanza y calidad de los datos. Los procesos de gobernanza de datos mejorados pueden aumentar la capacidad de aprendizaje de los modelos de IA y eliminar los sesgos inducidos por los datos para obtener resultados justos y consistentes. Esto requiere un cambio drástico en las dimensiones clave de los procesos de gestión de datos para una planificación, aprovisionamiento y accesibilidad eficaces de los conjuntos de datos necesarios durante todo el ciclo de vida de la IA. Estas dimensiones son:
- Cobertura de datos: Usar datos sintéticos totales o parciales para ampliar la cobertura de la variabilidad de las condiciones, escenarios no descubiertos y valores atípicos.
- Calidad de los datos: Seguimiento, reparación y control automatizados de aberraciones y patrones inusuales.
- Trazabilidad y control de datos: Establecer el linaje de datos utilizados en la capacitación, las pruebas y la validación. La gestión de metadatos puede identificar eficazmente la fuente y el contexto.
- Protección de Datos: Crear datos simulados y sintéticos para entrenar y probar modelos de IA para superar las restricciones de uso de datos.
