∞Respuesta directa
Respuesta directa
Usa la IA para ordenar trabajo, no para aprobar una operación. Pon cada afirmación importante en una cola con fuente, fecha, falta, riesgo y responsable. La persona revisora debe poder cambiar el resultado. NIST dice que la documentación puede apoyar la revisión humana y la responsabilidad. [1] La ICO dice que una revisión útil requiere autoridad y capacidad para cambiar una decisión. [2]
Define primero el límite de la cola
La diligencia debida son comprobaciones antes de invertir. Una herramienta de IA puede hallar afirmaciones y agrupar archivos. No debe convertir una afirmación débil en un hecho confirmado.
Escribe lo que la cola puede hacer. Puede ordenar afirmaciones, detectar repeticiones y señalar pruebas ausentes. Una persona debe decidir si una afirmación está confirmada, abierta o rechazada.
Pon una puerta humana antes de un memo, una petición a la empresa o una decisión de inversión. Así un resumen claro de IA no se vuelve la última palabra.
NIST pide roles claros para la supervisión entre personas e IA. También pide procesos y revisiones definidos para gestionar riesgos. [1]
- Tarea de IA: ordenar, extraer, comparar o señalar.
- Tarea humana: comprobar evidencia y elegir el siguiente paso.
- Puerta: ningún punto importante avanza sin una persona revisora.
- Alcance: indica la etapa y los archivos cubiertos.
Da a cada punto una ficha de evidencia
Crea un elemento de cola para una afirmación. No pongas toda la revisión de una empresa en una ficha larga. Los puntos pequeños son más fáciles de comprobar y asignar.
Empieza con la afirmación en palabras simples. Añade la fuente original, fecha de fuente y fecha de comprobación. Guarda la salida de IA junto a la fuente, no en su lugar.
Di lo que falta. Un vacío puede indicar una empresa nueva, privada o no revisada. No prueba que la operación sea mala.
NIST dice que la transparencia puede cubrir datos, uso previsto y quién tomó una decisión. También dice que la documentación puede mejorar la revisión humana. [1]
- Afirmación: punto exacto que puede cambiar la revisión.
- Evidencia: enlace o archivo, lugar y fecha de fuente.
- Estado: comprobado, abierto, en conflicto o rechazado.
- Nota de IA: extracción, comparación o pregunta.
- Responsable y fecha: una persona y la próxima comprobación.
Envía la duda a la persona adecuada
Usa pocas vías claras. Envía un punto a comprobar fuente cuando falta prueba. Envíalo a comprobar conflicto cuando dos fuentes discrepan. Envíalo a quien decide cuando puede cambiar el encaje con el mandato o un término.
No uses solo una puntuación para decidir la vía. Una puntuación alta puede ocultar evidencia antigua, un conflicto o un documento ausente. Muestra por qué el punto llegó allí.
Da tres opciones reales a quien revisa: confirmar, cambiar o pausar. Una pausa debe indicar la prueba que falta y el siguiente paso. Un descarte debe tener una razón breve.
La ICO advierte que una persona no debe limitarse a validar un resultado automático. Su guía dice que debe valorar la recomendación, considerar datos y tener influencia real. [2]
- Comprobación de fuente: probar o corregir una afirmación.
- Comprobación de conflicto: comparar fuentes y guardar el motivo.
- Comprobación de decisión: revisar un punto que cambia el mandato o la operación.
- Escalado: nombrar a quien puede aceptar una falta restante.
Haz que la persona revisora pueda actuar
La persona revisora necesita acceso a la fuente, tiempo para leerla y poder para cambiar el punto. Un nombre en un registro no basta.
Muestra el historial. Guarda quién cambió el estado, cuándo y por qué. Conserva un enlace a la evidencia que causó el cambio.
Si la salida de IA parece errónea, permite quitarla, corregirla o devolverla para más trabajo. No obligues a la persona revisora a defender primero la herramienta.
Para sistemas de IA de alto riesgo dentro de su ámbito, la Ley de IA de la UE describe supervisión que puede orientar una intervención y, cuando corresponde, anular o detener el sistema. [3] Este flujo de inversión no afirma que una herramienta de diligencia esté en esa categoría legal.
- Revisor: nombre, función y autoridad.
- Acción: confirmar, cambiar, pausar, rechazar o escalar.
- Razón: nota breve ligada a evidencia.
- Registro: fecha, estado anterior, estado nuevo y enlace.
Prueba la cola tras usarla
Revisa una muestra pequeña y fija cada mes o trimestre. Compara la nota de IA con la fuente y la decisión humana. Busca puntos aprobados por error, pausados por error o enviados a la vía equivocada.
Cuenta cosas simples. Cuenta faltas de fuente, conflictos, cambios humanos y puntos vencidos. Estas cifras muestran problemas de proceso. No muestran rentabilidades futuras ni prueban una buena inversión.
Cambia la regla cuando aparezca un problema repetido. Guarda el cambio y su fecha. Explica el cambio antes de que el equipo use la nueva regla.
NIST dice que el uso de IA generativa puede requerir más revisión humana, seguimiento, documentación y supervisión de dirección. [4] Usa controles acordes con la tarea y el riesgo.
- Muestra: fecha, tamaño y persona revisora.
- Error: afirmación errónea, fuente antigua, fuente ausente o vía errónea.
- Cambio: regla, responsable y fecha de inicio.
- Seguimiento: comprobar si el cambio resolvió el problema.
FAQ
Preguntas frecuentes
¿Qué debe incluir una cola de revisión de diligencia con IA?
Incluye una afirmación importante por punto. Añade fuente, fechas, nota de IA, falta, riesgo, responsable y siguiente acción. Guarda la decisión humana y el motivo con el punto. Así una revisión posterior es posible.
¿Puede la IA aprobar un punto de diligencia debida?
Trata una respuesta de IA como una pista, no como aprobación. Una persona revisora debe leer la fuente clave y elegir el estado. NIST dice que la documentación puede apoyar la revisión humana y la responsabilidad. [1]
¿Qué hace útil una revisión humana?
La persona revisora necesita datos relevantes, capacidad para evaluarlos y autoridad para cambiar el resultado. No debe aplicar por rutina una respuesta de IA. La ICO ofrece esta guía para apoyo a decisiones con IA. [2]
¿Con qué frecuencia debe un inversor probar la cola?
Elige un ciclo fijo que se ajuste al volumen y al riesgo. Revisa una muestra pequeña tras trabajo real. Sigue los problemas repetidos y cambia la regla cuando sea necesario. NIST incluye supervisión y revisión periódica en la gestión de riesgos de IA. [1]
REF
Fuentes
- 1
National Institute of Standards and Technology
Artificial Intelligence Risk Management Framework (AI RMF 1.0) ↗ - 2
Information Commissioner's Office
How do we ensure individual rights in our AI systems? ↗ - 3
- 4
National Institute of Standards and Technology
Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile ↗