∞Respuesta directa
Respuesta directa
Un rastro de auditoría permite a una persona revisar una nota de investigación con IA paso a paso. Guarda la afirmación, fuente inicial, prompt, herramienta, salida, revisión y cambios. Úsalo para comprobar una afirmación. No prueba que una operación sea buena. NIST advierte que la IA generativa puede crear contenido y citas falsos. [1]
Empieza con una ficha por afirmación
Empieza con una afirmación que pueda cambiar la operación. Puede tratar sobre un cliente, caja, propiedad o término clave. No guardes una nota amplia como buena tracción.
Da a cada afirmación su propia ficha. Guarda el texto exacto, el tipo y el estado actual. Marca si es hecho, previsión, opinión o pregunta abierta.
Nombra la fuente inicial. Añade archivo o URL, página o celda, fecha de fuente y fecha de revisión. Un resumen de IA es una pista. No es la fuente.
NIST indica que la IA generativa puede presentar contenido y citas falsos con seguridad. Abre la fuente citada antes de usar el dato. [1]
- ID de afirmación: un nombre corto y estable.
- Evidencia: fuente, lugar, fecha y cita breve.
- Estado: confirmado, abierto, en conflicto o rechazado.
- Responsable: persona que debe cerrar o elevar el punto.
Guarda la ejecución de IA, no solo la nota final
Guarda la pregunta antes de ejecutar la herramienta. Conserva el prompt, nombre de herramienta, versión del modelo si se conoce, fecha y archivos o enlaces permitidos.
Conserva la primera salida. No la sustituyas por un memo más limpio. Un revisor debe ver lo que dijo la herramienta antes de la edición humana.
Enlaza cada punto de la salida con una ficha. Si la herramienta no puede nombrar una fuente, marca el punto como desconocido. No dejes que una frase clara tape una falta.
NIST recomienda revisar y verificar las fuentes y citas en las salidas de IA generativa. [1]
- Pregunta: tarea limitada de la ejecución.
- Entradas: archivos, URL y fecha de corte aprobados.
- Registro: herramienta, versión si se conoce y hora.
- Salida: respuesta guardada y enlaces a fichas.
Haz visible la revisión humana
La persona revisora debe abrir la fuente importante. Debe comprobar la afirmación, su fecha y lo que la fuente no muestra. Después puede confirmar, cambiar o rechazar el punto.
Registra nombre, fecha y razón de cada cambio importante. Mantén una nota distinta para un conflicto, archivo ausente o pregunta enviada a la empresa.
No uses a la persona revisora como sello. Debe tener tiempo y poder para impedir que un resultado débil entre en el memo.
Para firmas dentro de su ámbito de servicios de inversión, ESMA dice que los registros deben cubrir uso de IA, procesos de decisión, fuentes de datos, algoritmos y cambios. [3]
- Acción: confirmar, cambiar, rechazar o elevar.
- Nota de cambio: qué cambió y por qué.
- Punto abierto: prueba ausente y siguiente paso.
- Escalado: quién decide si el punto cambia la operación.
Guarda un registro que se pueda recuperar
Mantén junta la ficha, copia o referencia de fuente, ejecución de IA y nota de revisión. Da al registro un ID de operación y una ruta clara de carpeta o sistema.
Define el acceso antes de incluir archivos sensibles. Nombra a una persona responsable. Consulta a personal legal o de cumplimiento sobre retención, privacidad y suspensión de borrado.
Los asesores de Estados Unidos registrados o que deben registrarse tienen deberes específicos de registros. La regla de la SEC permite almacenamiento electrónico, con acceso, recuperación, salvaguardas y copia separada según sus términos. [2]
IOSCO menciona entradas, salidas, lógica del sistema y registros de decisión y uso como evidencia de auditoría que supervisores pueden revisar. [4] El conjunto correcto depende de firma, lugar y uso.
- Ruta: ID de operación y una ubicación de consulta.
- Acceso: personas que pueden ver o cambiar el registro.
- Retención: responsable, fecha de revisión y regla de borrado.
- Incidente: error, impacto, corrección y revisión posterior.
FAQ
Preguntas frecuentes
¿Qué debe incluir un rastro de auditoría de investigación con IA?
Guarda afirmación, fuente inicial, lugar exacto, prompt, entradas, herramienta, salida, revisor, cambios y puntos abiertos. Un revisor posterior debe poder seguir el camino.
¿Un enlace de fuente prueba una afirmación de IA?
No. Abre la fuente. Comprueba palabras, fecha, alcance y vínculo con la afirmación. NIST indica que la IA generativa puede crear contenido y citas falsos. [1]
¿Debemos guardar el prompt y la salida original?
Sí. Muestran cómo empezó la nota. Guárdalos con las entradas aprobadas y los cambios humanos. Así una revisión posterior sirve más.
¿Este registro cumple toda regla legal?
No. Las reglas dependen de firma, servicio, lugar y tipo de registro. La regla de la SEC tiene un ámbito definido para asesores. Consulta a personal legal o de cumplimiento cualificado sobre tus deberes. [2]
REF
Fuentes
- 1
National Institute of Standards and Technology
Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile ↗ - 2
Electronic Code of Federal Regulations
17 CFR 275.204-2 — Books and records to be maintained by investment advisers ↗ - 3
European Securities and Markets Authority
Public Statement on Artificial Intelligence and Investment Services ↗ - 4
International Organization of Securities Commissions
Supervisory Toolkit for AI Use in Capital Markets ↗