Registro de evidencias para respuestas de IA

Una respuesta de IA generativa puede mezclar datos correctos, inferencias y errores y presentarlos con seguridad. El NIST denomina «confabulación» a la generación de contenido erróneo o falso que se presenta con confianza. También indica que el AI RMF 1.0 está en revisión, por lo que debe consultarse su versión vigente si se adopta como referencia de trabajo. Para revisar una respuesta no basta con guardarla: conviene separar cada afirmación comprobable, localizar la fuente que la respalda y dejar constancia de quién la revisó y cuándo. El perfil del NIST para IA generativa describe el riesgo y explica por qué un tono convincente no verifica el contenido.

Esta guía propone un registro sencillo para equipos, estudiantes y personas que reutilizan respuestas de IA en documentos o decisiones. Es una plantilla de trabajo editorial: no es un requisito legal universal ni certifica que el sistema sea fiable. Las imágenes que la acompañan son ilustraciones generadas con IA y representan situaciones ficticias; no muestran documentos ni procesos reales.

Por qué guardar evidencias y no solo respuestas

Una respuesta puede resumir bien un documento y, aun así, atribuirle una conclusión que no aparece en él. Si se conserva únicamente la respuesta final, después cuesta saber qué afirmaciones se comprobaron, qué fuente se consultó o qué parte era una interpretación. Un registro permite volver desde una frase hasta el pasaje que la sostiene y detectar cambios en la fuente. Para profundizar en la diferencia entre optimizar una respuesta por preferencias y demostrar que es cierta, consulta la guía de Gaia sobre por qué una preferencia no prueba la verdad.

El marco de gestión de riesgos de IA del NIST es voluntario y organiza el trabajo alrededor de gobernar, mapear, medir y gestionar riesgos. En su función MAP recomienda documentar, entre otros aspectos, los límites de conocimiento del sistema y cómo pueden utilizarse sus resultados; el núcleo del NIST AI RMF reúne estas prácticas. No prescribe una hoja concreta para cada respuesta ni convierte un registro interno en una certificación.

También conviene distinguir esta propuesta de la obligación de alfabetización en IA de la Unión Europea. El artículo 4 de la AI Act, en su texto consolidado, pide a proveedores y responsables del despliegue que adopten medidas para apoyar la alfabetización de las personas que usan u operan sus sistemas por cuenta de la organización. La Comisión Europea aclara que ese artículo no obliga a medir el conocimiento individual ni a garantizar un nivel concreto. La plantilla de este artículo no es una prueba de cumplimiento del reglamento.

Una fila por cada afirmación verificable

No intentes evaluar una respuesta entera como si fuera una sola afirmación. Divídela en frases pequeñas que puedan comprobarse por separado: una fecha, una condición, una cifra, una atribución o una explicación causal. Así, si una fuente solo respalda una parte, la limitación queda visible en vez de quedar escondida bajo una conclusión general.

Un registro útil puede incluir estos campos:

• ID y ubicación: número de control y documento, respuesta o versión de la que procede.
• Afirmación: una frase concreta, redactada sin adornos ni conclusiones adicionales.
• Fuente y localizador: enlace al documento original, apartado, página o fecha; conserva solo el fragmento breve necesario para encontrarlo.
• Ámbito y vigencia: país, población, producto, periodo o versión a los que se refiere la fuente.
• Comprobación: qué contrastó la persona revisora, cuándo lo hizo y qué límites encontró.
• Estado y confianza en la evidencia: si está confirmada, parcialmente respaldada, contradicha o aún sin revisar; añade el motivo de esa valoración.
• Decisión y seguimiento: cómo se usará la afirmación, quién debe resolver una duda y cuándo conviene volver a comprobarla.

Si las afirmaciones son breves, basta una hoja de cálculo. Para material sensible o un proceso con varias personas, puede ser preferible un repositorio con control de acceso y un identificador que enlace al documento protegido. Evita duplicar archivos completos si un enlace interno seguro y un localizador permiten volver a la fuente.

La confianza debe referirse a la evidencia

El número o la etiqueta de confianza que muestra un modelo no demuestra que su respuesta sea correcta. En el registro, la confianza debe describir la calidad del respaldo humano y documental, no la seguridad verbal del modelo ni una probabilidad calculada sin método validado.

• Respaldo alto: una fuente primaria y vigente sostiene directamente la afirmación en el mismo ámbito; una persona ha comprobado el pasaje.
• Respaldo parcial: la fuente apoya solo una parte, depende de una interpretación o tiene límites que deben aparecer junto a la afirmación.
• No verificada: no se ha localizado el pasaje, la fuente es secundaria o la afirmación depende solo de lo que respondió el modelo.
• Contradicha: la fuente consultada dice algo incompatible; no se debe usar la afirmación hasta resolver la discrepancia.

Estos estados son una escala editorial propuesta para facilitar decisiones; no son categorías oficiales de la AI Act ni del NIST. Si se necesita una puntuación numérica, hay que definir antes qué significa, quién la asigna y cómo se valida. Poner «92 %» porque el modelo lo sugiere crea una precisión aparente.

Ejemplo: revisar qué dice el artículo 4 de la AI Act

La siguiente fila es un ejemplo documental; no describe una organización concreta ni constituye asesoramiento jurídico:

La segunda fuente ayuda a interpretar la obligación; el texto legal es el punto de partida. Si una página informativa y la norma parecen discrepar, registra la diferencia y consulta el texto vigente o asesoramiento especializado antes de tomar una decisión.

Cómo revisar una respuesta paso a paso

1. Guarda una referencia mínima. Anota la fecha, herramienta o versión si se conoce, y el documento de trabajo. No copies información personal innecesaria.
2. Extrae las afirmaciones que importan. Prioriza las que puedan alterar una decisión, un dato público o una recomendación. Las frases de transición no necesitan una fila.
3. Divide las frases compuestas. “La norma exige X en España desde tal fecha” contiene, al menos, una obligación, un ámbito y una fecha. Verifica cada parte.
4. Busca la fuente más cercana al hecho. Para una norma, consulta la norma; para una función de producto, su documentación oficial; para una estadística, la tabla y metodología originales. Una cita del modelo es una pista, no una validación.
5. Comprueba el pasaje y su contexto. Lee lo anterior y lo posterior, identifica excepciones, fecha y territorio. Confirma que la fuente respalda la frase exacta, no solo un tema parecido.
6. Registra límites y desacuerdos. Si dos fuentes fiables difieren, conserva ambas referencias, explica qué no se ha resuelto y evita elegir la que más convenga.
7. Decide qué hacer. Publicar con matiz, corregir, pedir una segunda revisión o retirar la afirmación son resultados válidos. No marques “confirmada” por haber encontrado una URL.
8. Define una revisión futura cuando proceda. Las normas, precios, versiones y condiciones pueden cambiar. Señala un responsable o un desencadenante de revisión en lugar de repetir comprobaciones sin propósito.

Para aprender a seguir una referencia hasta el fragmento que la sustenta, puede servir esta guía sobre citas y localización de pasajes en Claude API. Si el texto procede de una reunión, consulta también cómo comprobar que una transcripción no inventa acuerdos. Y si trabajas con una colección de archivos, la guía para crear un asistente de investigación con documentos explica cómo organizar ese contexto; el registro sigue siendo una verificación separada.

Protege los datos y los documentos de origen

Un registro de evidencias puede reproducir el mismo problema que intenta controlar si almacena prompts, expedientes o datos personales completos. La Comisión Europea resume que el principio de minimización del RGPD limita los datos personales a los adecuados, pertinentes y necesarios para el propósito. En la práctica, conserva el pasaje mínimo, evita nombres si no son imprescindibles y limita el acceso al material que no deba circular.

La Agencia Española de Protección de Datos advierte que un prompt puede contener datos personales o información confidencial, incluso cuando se introduce como una petición corriente para resumir o analizar un documento. Antes de copiar una respuesta a una hoja compartida, revisa también sus entradas, adjuntos y metadatos: quitar un nombre no siempre anonimiza un documento.

El registro tampoco sustituye al análisis de protección de datos, a la gestión de secretos empresariales, a los controles de acceso o a los registros que una actividad concreta pueda exigir. Si el caso trata datos personales o información sometida a confidencialidad, consulta las políticas de la organización y a la persona responsable antes de trasladar el material a una herramienta externa.

Plantilla mínima para empezar

Puedes copiar estos encabezados y añadir campos conforme el proceso los necesite:

ID | Documento/versión | Afirmación | Fuente primaria | Apartado/página | Fecha de consulta | País/periodo/versión | Comprobación humana | Estado | Motivo del respaldo | Decisión | Responsable y revisión

Empieza con las afirmaciones de mayor impacto y con una plantilla que el equipo realmente pueda mantener. El objetivo no es crear más burocracia: es que otra persona pueda reconstruir por qué se aceptó, matizó o retiró una afirmación y qué debe volver a comprobarse si cambia la fuente.

Fuentes y agradecimientos

La guía se apoya en el texto consolidado del Reglamento (UE) 2024/1689 y en las explicaciones de la Comisión Europea sobre el artículo 4; en el AI Risk Management Framework del NIST, de uso voluntario, su núcleo y el perfil para IA generativa; y en los principios del RGPD explicados por la Comisión Europea.

Para los riesgos de privacidad en los prompts, consultamos el artículo divulgativo de la Agencia Española de Protección de Datos sobre datos personales y confidencialidad. Las fuentes se consultaron el 1 de noviembre de 2026. Agradecemos a estas instituciones que publiquen normas, explicaciones y orientaciones accesibles. La plantilla y los criterios editoriales son una propuesta de Gaia Genius Hub, sin su aprobación.