Use one practical route from a low-stakes AI task to an agent acting in production. Learn what can go wrong, choose proportionate controls, and leave evidence another person can review.Usa una ruta práctica desde una tarea de IA de bajo riesgo hasta un agente que actúa en producción. Aprende qué puede fallar, elige controles proporcionales y deja evidencia que otra persona pueda revisar.
This route is optional depth, not a sixth course stage. Open it whenever data, affected people, connected tools, autonomy, or production exposure raise the cost of being wrong.Esta ruta es profundidad opcional, no una sexta etapa. Ábrela cuando los datos, las personas afectadas, las herramientas conectadas, la autonomía o producción eleven el coste de equivocarse.
Choose the closest lane. This tool stores nothing and asks for no project details; it only shows the minimum review posture.Elige el nivel más cercano. Esta herramienta no guarda nada ni pide detalles del proyecto; solo muestra la postura mínima de revisión.
NIST AI RMF gives a durable structure: Govern is cross-cutting; Map, Measure, and Manage repeat as the system changes. It is a voluntary risk-management framework, not a compliance badge.NIST AI RMF ofrece una estructura duradera: Govern es transversal; Map, Measure y Manage se repiten al cambiar el sistema. Es un marco voluntario de gestión de riesgos, no un sello de cumplimiento.
Define the use-case owner, affected people, acceptable use, review authority, escalation path, and evidence that must survive the release.Define responsable, personas afectadas, uso aceptable, autoridad de revisión, escalamiento y evidencia que debe sobrevivir al lanzamiento.
Map data sources, model and vendor boundaries, users, non-users affected, tools, permissions, dependencies, misuse, and plausible failure.Mapea fuentes de datos, límites de modelo y proveedor, usuarios, personas afectadas, herramientas, permisos, dependencias, abuso y fallos plausibles.
Evaluate useful tasks, dangerous inputs, privacy leakage, harmful bias, output quality, tool boundaries, resilience, and change over time.Evalúa tareas útiles, entradas peligrosas, filtración de privacidad, sesgo dañino, calidad, límites de herramientas, resiliencia y cambios con el tiempo.
Choose treatment, approve or defer, monitor the real system, respond to incidents, reassess vendors and models, and record accepted residual risk.Elige tratamiento, aprueba o aplaza, supervisa el sistema real, responde a incidentes, reevalúa proveedores y modelos y registra el riesgo residual aceptado.
Current-source note: NIST says AI RMF 1.0 is being revised. Use the functions as a stable operating loop and check the official source before setting policy.Nota de actualidad: NIST indica que AI RMF 1.0 está en revisión. Usa las funciones como ciclo operativo estable y comprueba la fuente oficial antes de fijar políticas.
Privacy is broader than secrecy. Ask what data is needed, whose data it is, how it flows, who can use it, how long it remains, and what happens when someone exercises a right or asks for deletion.La privacidad es más amplia que el secreto. Pregunta qué datos hacen falta, de quién son, cómo fluyen, quién los usa, cuánto duran y qué ocurre ante un derecho o solicitud de borrado.
Identify personal, confidential, regulated, copyrighted, customer, credential, and public data before it reaches a prompt, index, log, memory, or evaluation set.Identifica datos personales, confidenciales, regulados, con copyright, de clientes, credenciales y públicos antes de un prompt, índice, log, memoria o evaluación.
Remove fields, redact identifiers, aggregate where possible, keep test and production data apart, and do not grant a model an entire corpus for one narrow job.Elimina campos, redacta identificadores, agrega cuando sea posible, separa pruebas y producción y no entregues un corpus completo para una tarea estrecha.
Document collection, purpose, access, vendor sharing, training settings, residency, retention, deletion, backups, logs, and downstream copies.Documenta recopilación, propósito, acceso, proveedores, ajustes de entrenamiento, residencia, retención, borrado, copias de seguridad, logs y copias derivadas.
Make automation visible when it matters, offer a route to question or correct consequential output, and test whether failure burdens some people more than others.Haz visible la automatización cuando importe, ofrece una vía para cuestionar o corregir resultados importantes y prueba si el fallo afecta más a ciertas personas.
New paid Gemini API projects created from October 26 store Generate Content requests by default. Existing projects keep their prior setting. Inspect AI Studio Logs and Datasets; set store=false per request with a supported SDK or disable project logging when that matches your data policy.Los nuevos proyectos Gemini API de pago creados desde el 26 de octubre guardan solicitudes Generate Content por defecto. Los anteriores conservan su ajuste. Inspecciona Logs and Datasets de AI Studio; usa store=false por solicitud con un SDK compatible o desactiva logs del proyecto según tu política.
For persistent agents, revoking a connector and erasing learned memory are different operations. Claude Duet, for example, stops new access after disconnecting an app but retains what it learned until memory is reset. Include both steps in an offboarding test.En agentes persistentes, revocar un conector y borrar memoria aprendida son operaciones distintas. Claude Duet detiene acceso nuevo tras desconectar una app, pero conserva lo aprendido hasta restablecer memoria. Incluye ambos pasos en una prueba de baja.
Gemini API storage ↗Almacenamiento Gemini API ↗ · Duet memory controls ↗Controles de memoria Duet ↗OWASP supplies current threat taxonomies and practical guidance. It complements governance: NIST helps run the risk process; OWASP helps expose attack and failure paths.OWASP aporta taxonomías actuales y guía práctica. Complementa la gobernanza: NIST ayuda a ejecutar el proceso; OWASP revela rutas de ataque y fallo.
The 2026 LLM Top 10 updates incident-informed failure paths. The new Agent Control Standard adds portable hooks for agent identity, permissions, telemetry, policy, and runtime enforcement. Use the Top 10 to find plausible failures; use ACS to define and enforce what an agent may do.El Top 10 de LLM 2026 actualiza rutas de fallo basadas en incidentes. El nuevo Agent Control Standard añade puntos de control portátiles para identidad, permisos, telemetría, política y aplicación en ejecución. Usa el Top 10 para encontrar fallos plausibles; usa ACS para definir y hacer cumplir lo que puede hacer un agente.
Anthropic’s October report documents unintended actions during evaluations and internal use, including under ambiguous or impossible tasks. Our practice: give an agent an unreachable dependency and confirm that it reports the blocker instead of bypassing permissions or sending data elsewhere. Enforce access outside the prompt, retain tool-call evidence, and provide a way to stop the run.El informe de octubre de Anthropic documenta acciones no previstas en evaluaciones y uso interno, incluso ante tareas ambiguas o imposibles. Nuestra práctica: da al agente una dependencia inaccesible y confirma que reporta el bloqueo en vez de saltarse permisos o enviar datos a otro lugar. Aplica el acceso fuera del prompt, conserva evidencia de herramientas y permite detener la ejecución. Read the investigation ↗Leer la investigación ↗
Threat-model inputs, data, models, dependencies, outputs, resources, and the application consuming them.Modela entradas, datos, modelos, dependencias, salidas, recursos y la aplicación que los consume.
Add identity, permissions, state, tool servers, delegated goals, and cascading actions to the threat model.Añade identidad, permisos, estado, servidores de herramientas, objetivos delegados y acciones en cascada.
No single guardrail solves AI risk. Combine system design, access limits, evaluation, runtime enforcement, human gates, telemetry, and recovery.Ninguna barrera resuelve por sí sola el riesgo de IA. Combina diseño, límites de acceso, evaluación, control en ejecución, puertas humanas, telemetría y recuperación.
Verify source and maintainer; inspect tools and descriptions; limit filesystem, network, account, and tenant scope; prefer short-lived credentials; test malicious resource content and tool output; log meaningful actions; rehearse disconnect and credential revocation; re-review after server or host updates.Verifica fuente y responsable; inspecciona herramientas y descripciones; limita archivos, red, cuenta y usuario; prefiere credenciales breves; prueba recursos maliciosos y salidas; registra acciones; ensaya desconexión y revocación; vuelve a revisar tras actualizaciones.
Show the proposed action, target, data, consequence, evidence, and alternative before approval. Make rejection safe. Do not ask a person to approve a vague plan, hundreds of bundled actions, or an output they cannot inspect.Muestra acción, objetivo, datos, consecuencia, evidencia y alternativa antes de aprobar. Haz seguro rechazar. No pidas aprobar un plan vago, cientos de acciones agrupadas o una salida imposible de inspeccionar.
A compact contract connects governance to engineering. Copy it into your own approved system; this site does not store your answers.Un contrato compacto conecta gobernanza e ingeniería. Cópialo a tu sistema aprobado; este sitio no guarda tus respuestas.
OWASP’s GenAI Red Teaming Manual 1.0 adds a structured methodology from planning and attack-surface mapping through reporting and remediation. In an authorized test environment, choose one failure path, record the input, tool calls and observed impact, then fix and rerun it.El GenAI Red Teaming Manual 1.0 de OWASP añade una metodología desde planificación y mapa de ataque hasta informe y corrección. En un entorno de prueba autorizado, elige un fallo, registra entrada, llamadas e impacto observado, corrige y repite.
Keep the case as a regression check. Test tool denial, data leakage, repeated actions and stopping behavior; report incomplete scans as incomplete. The October Exploit Generation Guide also shows why benchmark results and autonomous activity need operational context.Conserva el caso como prueba de regresión. Comprueba denegación de herramientas, fuga de datos, acciones repetidas y parada; informa escaneos incompletos como incompletos. La guía de generación de exploits de octubre muestra por qué los benchmarks y la actividad autónoma necesitan contexto operativo.
OWASP manual ↗Manual OWASP ↗ · October research ↗Investigación de octubre ↗An AI incident may be a security event, privacy breach, harmful decision, quality failure, runaway agent, unexpected spend, or silent loss of trust. The first minutes should not depend on invention.Un incidente de IA puede ser seguridad, privacidad, decisión dañina, fallo de calidad, agente fuera de control, gasto inesperado o pérdida silenciosa de confianza. Los primeros minutos no deben improvisarse.
Frameworks and threat lists change. These official sources were checked October 28, 2026; use them for the latest definitions and releases.Los marcos y listas cambian. Estas fuentes oficiales se comprobaron el 28 de octubre de 2026; úsalas para definiciones y versiones actuales.
Govern & Protect crosses the learning map. Continue at the depth your job needs.Gobernar y proteger cruza todo el mapa. Continúa a la profundidad que tu trabajo necesita.