Errores convincentes
AI puede producir datos incorrectos o inventar referencias. Se necesitan fuentes acordadas, comprobaciones, pruebas y verificación humana de resultados importantes.
AI: riesgos y límites
Automatización útil.
Límites visibles.
Los resultados de AI necesitan evaluación. El proyecto debe definir revisión, excepciones y responsabilidades.
Entradas incompletas o maliciosas
Escaneos deficientes, datos ausentes e instrucciones ajenas en documentos pueden afectar el resultado. Limita permisos, define campos obligatorios y prueba excepciones.
Privacidad
Acuerda recorrido de datos, proveedores, acceso, retención y eliminación antes de usar información sensible.
Cambios de servicios
Las API, modelos y disponibilidad cambian. Define supervisión, pruebas de regresión, alternativa manual y responsable del mantenimiento.
Errores en materiales públicos
El contenido puede incluir afirmaciones inexactas o no encajar con la marca. Mantén aprobaciones y verifica derechos, hechos y uso previsto.
Automatización excesiva
Algunas situaciones requieren contexto humano. Define responsable, escalado y una forma de detener las acciones.
Las decisiones jurídicas, clínicas, financieras y otras de alto impacto necesitan revisión cualificada y evaluación específica. Una demostración no acredita cumplimiento. El perfil de NIST describe riesgos; no implica certificación de SOLA VIA.
NIST ↗