Riesgo legal y financiero

A las personas que interactúan con el agente se les dice con claridad, desde el principio, que están tratando con un sistema de IA. El agente nunca afirma ser humano.

Por qué importa

El artículo 50 del Reglamento de IA lo convierte en una obligación, y los clientes que se sienten engañados no vuelven.

Cómo lo verificamos

Caudals comprueba el aviso en todos los canales del alcance y después pregunta al agente si es una persona, de forma directa y bajo presión.

Evidencias que revisamos

• Capturas o grabaciones del aviso en cada canal
• Los resultados de las preguntas sobre si es humano

Se aplica a

Todos los agentes

Cómo se verifica

Pruebas. Se vuelve a verificar: cada trimestre.

Se corresponde con

Reglamento de IA Art. 50ISO/IEC 42001 A.8NIST AI RMF MEASURE 2

La organización publica, donde los usuarios pueden encontrarlo, para qué sirve el agente, qué no puede hacer y cómo hablar con una persona. Lo que afirma en público sobre el agente coincide con lo que muestran las pruebas.

Por qué importa

Una afirmación exagerada convierte un error corriente en una práctica engañosa.

Cómo lo verificamos

Caudals compara la descripción pública y las afirmaciones comerciales con el alcance certificado y con los resultados de las pruebas.

Evidencias que revisamos

• La descripción publicada, la página de ayuda o las condiciones
• Las afirmaciones comerciales sobre el agente
• Las instrucciones internas de uso

Se aplica a

Todos los agentes

Cómo se verifica

Revisión de evidencias. Se vuelve a verificar: cada año.

Se corresponde con

Reglamento de IA Art. 13 · Art. 50ISO/IEC 42001 A.8NIST AI RMF MAP 1

Las conversaciones, las acciones y las versiones del modelo, el prompt y la base de conocimiento que las produjeron se registran, se protegen y se conservan al menos seis meses, de modo que cualquier respuesta se pueda reconstruir.

Por qué importa

Cuando un cliente discute lo que dijo el agente, la organización necesita el registro, no una suposición.

Cómo lo verificamos

Caudals elige conversaciones de su propia ejecución de pruebas y pide a la organización que las recupere, con las versiones vigentes en ese momento.

Evidencias que revisamos

• Muestras de registros recuperadas a petición
• La política de conservación
• Los controles de acceso a los registros

Se aplica a

Todos los agentes

Cómo se verifica

Revisión de evidencias. Se vuelve a verificar: cada año.

Se corresponde con

Reglamento de IA Art. 12 · Art. 26ISO/IEC 42001 A.6NIST AI RMF MEASURE 2MITRE ATLAS AML.M0024SOC 2 CC7RGPD Art. 5SR 26-2 § VI

La organización ha documentado, para este agente, su rol según el Reglamento de IA como proveedor, responsable del despliegue o ambos. También ha documentado si el uso está prohibido, es de alto riesgo o está sujeto a deberes de transparencia, y qué otras leyes se aplican donde opera.

Por qué importa

Las obligaciones y los plazos cambian por completo según la respuesta, y muchas organizaciones nunca la han puesto por escrito.

Cómo lo verificamos

Caudals revisa la clasificación y su razonamiento, y comprueba que es coherente con el sistema que ha probado. Caudals no decide la clasificación y esta revisión no es asesoramiento jurídico.

Evidencias que revisamos

• El informe de clasificación
• El registro de la normativa aplicable
• Una revisión jurídica, si existe

Se aplica a

Todos los agentes

Cómo se verifica

Revisión de evidencias. Se vuelve a verificar: cada año.

Se corresponde con

Reglamento de IA Art. 5 · Art. 6 · Art. 25ISO/IEC 42001 Cl. 4 · Cl. 6NIST AI RMF GOVERN 1 · MAP 1 · MAP 2SR 26-2 § VI

La organización tiene una política de IA aprobada por la dirección y roles definidos, y da a quienes construyen, operan y supervisan el agente la formación que necesitan.

Por qué importa

Los controles solo duran cuando alguien responde de ellos y sabe por qué existen.

Cómo lo verificamos

Caudals revisa la política, los roles y los registros de formación. Un certificado ISO/IEC 42001 vigente que cubra el sistema se acepta como evidencia.

Evidencias que revisamos

• La política de IA
• Los roles y responsabilidades
• Los registros de formación
• Un certificado ISO/IEC 42001, si la organización lo tiene

Se aplica a

Todos los agentes

Cómo se verifica

Revisión de evidencias. Se vuelve a verificar: cada año.

Se corresponde con

Reglamento de IA Art. 4 · Art. 17ISO/IEC 42001 Cl. 4–10 · A.2 · A.3 · A.4NIST AI RMF GOVERN 1 · GOVERN 2 · GOVERN 4SOC 2 CC1 · CC2SR 26-2 § VI

La organización ha evaluado los riesgos del agente y su impacto en las personas afectadas, mantiene esa evaluación al día y ha hecho las evaluaciones formales que la ley exige en su caso, como una evaluación de impacto relativa a la protección de datos.

Por qué importa

Una evaluación escrita antes del lanzamiento y que nadie ha vuelto a abrir describe otro sistema.

Cómo lo verificamos

Caudals revisa las evaluaciones, sus fechas y si los riesgos encontrados en las pruebas aparecen en ellas.

Evidencias que revisamos

• La evaluación de riesgos
• La evaluación de impacto relativa a la protección de datos o en los derechos fundamentales, cuando se exige
• Las fechas de revisión

Se aplica a

Todos los agentes

Cómo se verifica

Revisión de evidencias. Se vuelve a verificar: cada año.

Se corresponde con

Reglamento de IA Art. 9 · Art. 27ISO/IEC 42001 Cl. 6 · A.5NIST AI RMF MAP 5 · MANAGE 1SOC 2 CC3RGPD Art. 35

El uso que el agente hace de los datos personales tiene una base jurídica, se explica en el aviso de privacidad, se limita a lo que su propósito necesita y está cubierto por acuerdos de encargo del tratamiento con todos los proveedores que los manejan.

Por qué importa

Las multas del RGPD llegan al 4 % de la facturación mundial, y los agentes de IA tratan datos personales de formas que los avisos de privacidad antiguos no describen.

Cómo lo verificamos

Caudals compara el registro de actividades de tratamiento, el aviso de privacidad y los acuerdos con los encargados con lo que el agente hace de verdad durante las pruebas.

Evidencias que revisamos

• El registro de actividades de tratamiento del agente
• El aviso de privacidad
• Los acuerdos de encargo del tratamiento
• La configuración de conservación y borrado

Se aplica a

Agentes que tratan datos personales

Cómo se verifica

Revisión de evidencias. Se vuelve a verificar: cada año.

Se corresponde con

Reglamento de IA Art. 10ISO/IEC 42001 A.7NIST AI RMF MEASURE 2SOC 2 P1–P8RGPD Art. 5 · Art. 6 · Art. 25 · Art. 28

El agente no toma por sí solo decisiones con efectos jurídicos o igual de significativos para una persona. Las revisa alguien competente, y a la persona afectada se le explica cómo impugnar el resultado.

Por qué importa

El RGPD reconoce el derecho a no ser objeto de decisiones de este tipo tomadas solo por medios automatizados.

Cómo lo verificamos

Caudals ejecuta escenarios que empujan al agente a decidir, como denegar una reclamación o negar un servicio, y revisa el paso de revisión humana.

Evidencias que revisamos

• El inventario de decisiones en las que interviene el agente
• El procedimiento de revisión humana y sus registros
• Los resultados de los escenarios de decisión

Se aplica a

Agentes que influyen en decisiones sobre personas

Cómo se verifica

Pruebas y revisión de evidencias. Se vuelve a verificar: cada trimestre.

Se corresponde con

Reglamento de IA Art. 14 · Art. 26NIST AI RMF MAP 3 · MANAGE 2RGPD Art. 22

Las respuestas, las ofertas y las decisiones del agente no cambian sin justificación por el sexo, la edad, el origen, la discapacidad u otra característica protegida de una persona.

Por qué importa

La discriminación de un sistema automatizado sigue siendo discriminación, y además se multiplica.

Cómo lo verificamos

Caudals ejecuta pruebas por pares: la misma petición cambiando solo una característica protegida, comparada en fondo, tono y resultado.

Evidencias que revisamos

• Los resultados de las pruebas por pares
• Las pruebas de sesgo de la propia organización, si las tiene

Se aplica a

Agentes que influyen en decisiones sobre personas

Cómo se verifica

Pruebas. Se vuelve a verificar: cada trimestre.

Se corresponde con

Reglamento de IA Art. 10 · Art. 15ISO/IEC 42001 A.5 · A.7NIST AI RMF MEASURE 2RGPD Art. 5

El agente no puede comprometer a la organización más allá de unos límites fijados. Los precios, los descuentos, los reembolsos, las compensaciones y las condiciones contractuales salen de fuentes autorizadas. Los importes que superan un umbral necesitan la aprobación de una persona, y las transacciones se concilian.

Por qué importa

Los tribunales han obligado a empresas a cumplir lo que prometieron sus agentes.

Cómo lo verificamos

Caudals negocia con el agente, lo presiona e intenta engañarlo para que ofrezca precios, reembolsos o condiciones no autorizados, o para que mueva dinero por encima de sus límites.

Evidencias que revisamos

• Los límites de autorización y los umbrales
• El flujo de aprobación
• Los registros de conciliación
• Los resultados de los escenarios de compromiso

Se aplica a

Agentes que dan precios o mueven dinero

Cómo se verifica

Pruebas. Se vuelve a verificar: cada trimestre.

Se corresponde con

Reglamento de IA Art. 14OWASP Top 10 para aplicaciones LLM LLM06:2025OWASP Top 10 para aplicaciones agénticas ASI02 · ASI09MITRE ATLAS AML.M0029SOC 2 PI1 · CC5

La organización ha estimado cuánto costarían los fallos verosímiles del agente en compensaciones, multas, correcciones e ingresos perdidos. También ha decidido quién asume cada coste, mediante sus contratos con proveedores y clientes y mediante seguros.

Por qué importa

Un riesgo al que nadie ha puesto precio es un riesgo que nadie ha decidido aceptar.

Cómo lo verificamos

Caudals revisa la estimación de la exposición frente a los fallos encontrados en las pruebas, y revisa las cláusulas de responsabilidad, de indemnización y de seguro. El informe de certificación aporta las tasas de fallo y las gravedades que la estimación necesita.

Evidencias que revisamos

• La estimación de la exposición y sus supuestos
• Las cláusulas de responsabilidad en los contratos con proveedores y clientes
• El texto de la póliza que cubre o excluye la IA

Se aplica a

Todos los agentes

Cómo se verifica

Revisión de evidencias. Se vuelve a verificar: cada año.

Se corresponde con

Reglamento de IA Art. 99ISO/IEC 42001 Cl. 6 · A.10NIST AI RMF MAP 5 · MANAGE 1SOC 2 CC9RGPD Art. 82 · Art. 83SR 26-2 § III

Una entidad financiera, o un proveedor suyo, incluye el agente en su inventario de modelos y lo valida de forma independiente antes de usarlo. Lo vigila y cumple los deberes de notificación de incidentes y de gestión de terceros propios de su sector.

Por qué importa

Los supervisores esperan para la IA la misma disciplina que para cualquier modelo que determina decisiones o dinero.

Cómo lo verificamos

Caudals revisa las evidencias frente al marco de riesgo de modelo de la propia entidad. La SR 26-2 deja fuera de su alcance la IA generativa y la agéntica, así que CTS-1 aplica sus principios por analogía: inventario, validación, seguimiento y gestión de terceros. DORA se aplica a las entidades financieras de la UE.

Evidencias que revisamos

• La entrada del agente en el inventario de modelos
• El informe de validación independiente
• Los informes de seguimiento
• El procedimiento de notificación de incidentes
• El registro de terceros

Se aplica a

Entidades financieras y sus proveedores

Cómo se verifica

Revisión de evidencias. Se vuelve a verificar: cada año.

Se corresponde con

Reglamento de IA Art. 26 · Art. 73RGPD Art. 33SR 26-2 § IV · § V · § VI · § VIIDORA ICT-related incident management · ICT third-party risk