Linkedin: https://www.linkedin.com/in/morena-luque-slapak/

 

1. Introducción.

La inteligencia artificial (IA) dejó de ser una tendencia emergente para convertirse en una capa estructural de la operación empresarial. Hoy está integrada en la toma de decisiones, la automatización de procesos y la interacción con clientes, muchas veces de forma prácticamente invisible. Y justamente por eso, su impacto es tan profundo como silencioso.

Para quienes trabajamos en Compliance, este contexto redefine el alcance de nuestro rol. Ya no se trata únicamente de asegurar el cumplimiento normativo vigente, sino de participar activamente en la gobernanza de la IA (AI Governance) y en la gestión de riesgos asociados a sistemas algorítmicos, en un entorno donde la regulación aún está en plena evolución.

Esto implica acompañar —e incluso anticipar— cómo la IA reconfigura el mapa de riesgos: desde la privacidad y la protección de datos, hasta el riesgo de sesgos algorítmicos, la falta de explicabilidad (black box models), la seguridad de los modelos y la creciente delegación de decisiones críticas a sistemas automatizados.

 

2. El cambio de rol.

El Compliance Officer ha dejado atrás un rol puramente auditor (y, en muchos casos, reactivo) para transformarse en un actor clave dentro del ciclo de vida de la IA (AI lifecycle): diseño, desarrollo, validación, despliegue y monitoreo continuo.

En la práctica, esto se ve en situaciones muy concretas del día a día:

• Evaluación de herramientas de IA generativa (GenAI).

Por ejemplo, cuando un equipo de marketing utiliza modelos como ChatGPT o copilots internos para generar contenido, Compliance no solo revisa el “uso”, sino que analiza el riesgo de fondo: Posible filtración de información confidencial o datos personales (GDPR / LGPD / LOPDP), riesgos de propiedad intelectual o uso no autorizado de contenido generado, cumplimiento de políticas internas de uso aceptable, especialmente en lo relativo a prompts y inputs.

Aquí, un escenario habitual es detectar que un colaborador pega información sensible en una herramienta externa “para ganar tiempo”, y ahí es donde entran controles como data loss prevention (DLP), políticas de uso de GenAI y la implementación de guardrails.

• Modelos de scoring y decisiones automatizadas.

En sectores financieros, los modelos de IA que determinan otorgamiento de crédito o pricing plantean desafíos regulatorios directos.

Desde Compliance trabajamos, por ejemplo, en:

• Evaluar la explicabilidad y transparencia de los modelos, conforme a obligaciones del EU AI Act para sistemas de alto riesgo.
• Verificar el cumplimiento de derechos de los titulares frente a decisiones automatizadas (GDPR Art. 22).
• Asegurar métricas de fairness y monitoreo de sesgos, alineados con el NIST AI Risk Management Framework.

Un caso típico: revisar si un modelo aparentemente neutro termina excluyendo indirectamente a ciertos segmentos por el uso de variables proxy (por ejemplo, código postal como sustituto socioeconómico).

• IA en monitoreo transaccional (AML/CTF).

Los sistemas de machine learning aplicados a detección de fraude o lavado de dinero ya son parte del estándar en muchas organizaciones. Aquí el trabajo de Compliance es muy tangible ya que involucra la validación de la calidad y representatividad de los datos de entrenamiento, el análisis de la tasa de falsos positivos y falsos negativos (y su impacto operativo y regulatorio), como también asegurar trazabilidad ante auditorías (FATF Recommendations, normativas locales de UIF/UAF). En la práctica diaria, esto puede implicar algo tan concreto como ajustar los thresholds de un modelo para evitar que el equipo de AML se vea saturado de alertas irrelevantes, sin perder sensibilidad regulatoria.

• Due diligence automatizada de terceros.

Cada vez más organizaciones utilizan IA para screening de proveedores, PEPs o listas de sanciones (OFAC, UE, ONU). Desde Compliance, nuestro foco está se basa en garantizar la actualización constante de fuentes y listas, reducir falsos negativos, que representan riesgo reputacional directo, documentar y justificar decisiones automatizadas para auditoría y evidencia regulatoria. Un ejemplo cotidiano: un sistema que “libera” automáticamente un proveedor porque no detecta coincidencias, cuando en realidad el nombre está mal transliterado o incompleto.

• IA en compliance monitoring y testing.

Otro uso cada vez más frecuente es la aplicación de IA para monitoreo de comunicaciones internas. A través de técnicas de NLP (natural language processing), es posible analizar grandes volúmenes de emails, chats o registros para detectar patrones asociados a insider trading, conflictos de interés, o comunicaciones indebidas. Un ejemplo práctico: identificar frases recurrentes o patrones lingüísticos que puedan sugerir coordinación no autorizada en operaciones de mercado.

Paradójicamente, la IA también está transformando nuestra propia función. Y esto se ve en varias dimensiones, un ejemplo de ello es la Automatización de controles y testing continuo, el uso de IA para analizar transacciones en tiempo real y validar controles clave bajo esquemas de continuous controls monitoring (CCM). Otro caso es el Análisis regulatorio inteligente (RegTech). Los modelos de lenguaje están cambiando la forma en que interpretamos regulación por ejemplo hoy permiten sintetizar marcos como el EU AI Act (2024), que introduce obligaciones específicas para sistemas de alto riesgo, modelos GPAI y requisitos de transparencia.

Además facilitan la interpretación del NIST AI RMF (2023) o los OECD AI Principles, bajando principios abstractos a controles concretos y Ayudan a mapear cambios normativos directamente a matrices internas de Compliance. Si algo o todo esto se suena, tu función ya ha sido atravesada por la IA. 

¡Y que decir de la enorme ayuda en las investigaciones internas! La IA aplicada a análisis forense (email mining, document review) son solo algunos ejemplos que nos permiten acelerar la identificación de posibles incumplimientos, el análisis de cadenas de comunicación y hasta la priorización de casos según nivel de riesgo. En muchos casos, lo que antes tomaba semanas, hoy puede hacerse en horas. Hoy en día, la IA tiene un enorme impacto en la gestión de riesgos emergentes ya que se comienza a utilizar para modelar escenarios de riesgo (risk scenario analysis) desde pedirle que nos realice un impacto reputacional de decisiones automatizadas o exposición regulatoria ante fallas de modelos o drift.

Respecto a la regulación, de a poco se van marcando tendencias como es el caso de:

• EU AI Act.

  Primer marco integral de IA a nivel global. Clasifica sistemas según nivel de riesgo e impone obligaciones como:

  • evaluaciones de conformidad,

  • gestión de riesgos,

  • documentación técnica y trazabilidad,

  • y supervisión humana obligatoria en sistemas de alto riesgo.

• GDPR. Especialmente relevante cuando la IA procesa datos personales:

  • Art. 22: derecho a no ser objeto de decisiones automatizadas sin intervención humana.
  • Principios de minimización y limitación de finalidad.

• NIST AI Risk Management Framework (AI RMF 1.0).

  
  Estructura la gestión de riesgos en torno a gobernanza, medición y mitigación, incorporando riesgos como bias, explainability y robustness.

• ISO/IEC 42001.

  
  Primer estándar internacional para sistemas de gestión de IA, altamente alineado con enfoques de Compliance corporativo.

• OECD y UNESCO AI Principles.

  
  Refuerzan pilares como transparencia, accountability e inclusión.

 

 

3. Y aquí, el verdadero desafío.

El debate ya no pasa por los conceptos, sino por su implementación efectiva. Hablar de “IA responsable” implica traducir principios en controles concretos, medibles y auditables: desde integrar evaluaciones de riesgo algorítmico en el onboarding de sistemas, hasta implementar frameworks de model risk management específicos para IA; exigir explicabilidad (por ejemplo, mediante reason codes en decisiones automatizadas); asegurar una supervisión humana real y efectiva (human-in-the-loop o human-on-the-loop); y documentar de forma rigurosa datasets, features y outputs para fines de trazabilidad y auditoría. Pero, sobre todo, este desafío excede lo técnico: requiere una cultura organizacional madura, donde la gobernanza de la IA no sea exclusiva de Compliance, sino el resultado de una articulación constante entre tecnología data science y negocio.

 

4. Conclusión.

La inteligencia artificial no reemplaza al Compliance; lo redefine y lo amplifica. Nos obliga a evolucionar hacia un enfoque más técnico, interdisciplinario y estratégico.

En este nuevo paradigma, nuestro rol es claro: habilitar la innovación con confianza, pero bajo marcos de gobernanza robustos que aseguren integridad, transparencia y cumplimiento.

Porque si algo no cambia —incluso en la era de la IA— es nuestra misión central: proteger a las organizaciones y a las personas, asegurando que la tecnología avance con ética, responsabilidad y propósito.

 

---

Este artículo es de propiedad de su autora María Morena Luque Slapak y como tal goza de la correspondiente protección de derecho de autor, de acuerdo a los términos de la Ley 11.723 de Propiedad Intelectual (ARG).  El contenido de este artículo es exclusiva responsabilidad de la autora y no refleja ni compromete la posición ni la opinión de la compañía para la cual trabaja ni las organizaciones que representa. 

Todocompliance.com reserva para sí el derecho a usar, copiar y reproducir total o parcialmente el contenido del presente, no obstante, no asume responsabilidad alguna por la veracidad, corrección y/o actualización del mismo. Queda prohibida su reproducción sin autorización previa y expresa de Todocompliance.com.