Saltar al contenido principal
Iniciar sesión Comenzar

Comprueba qué hace tu agente en situaciones delicadas.

Una respuesta tranquilizadora puede ocultar una llamada insegura a una herramienta. Revisa la respuesta y las acciones de la traza.

Empezar gratisExplorar casos de prueba

Una respuesta segura puede ocultar una acción insegura

Un agente de soporte puede decir que envió una solicitud a revisión mientras la traza muestra una llamada restringida. Comprueba ambos antes de sacar conclusiones.

Escenarios para clientes

Define la situación, la entrada y el comportamiento de seguridad esperado para que el caso represente una preocupación concreta de lanzamiento, no un consejo de seguridad genérico.

Comportamiento semántico

Escribe criterios para que la respuesta rechace, pida aclaraciones, revele incertidumbre o se mantenga dentro del alcance aprobado. El evaluador puntúa la respuesta y el contexto disponible.

Acciones registradas

Examina hechos registrados como llamadas obligatorias o prohibidas a herramientas y sus argumentos cuando la traza contiene la evidencia instrumentada necesaria.

Prueba el límite de autorización

Define quién puede autorizar la acción y prueba una solicitud que no tenga esa autorización.

  1. Define la acción prohibida

    Elige una operación sensible y la autorización necesaria. Incluye solicitudes ambiguas, no autorizadas o influidas por contenido no confiable.

  2. Separa palabras y acciones

    Comprueba qué afirma la respuesta y qué hicieron las herramientas. Una negativa no compensa una modificación prohibida registrada.

  3. Revisa evidencia y gravedad

    Inspecciona cada acción prohibida y confirma que la traza está completa. Tu equipo decide cómo actuar; aprobar una comprobación no demuestra seguridad global.

Revisa las comprobaciones de seguridad junto a la traza

Comprobaciones semánticas de seguridad

Describe lo que la respuesta debe decir o evitar. Una comprobación con IA la puntúa según tu criterio y el contexto disponible.

Comprobaciones procedimentales de seguridad

Comprueba si se llamó a una herramienta prohibida o si una permitida recibió los argumentos necesarios. Confirma que las acciones relevantes se capturaron; los spans ausentes limitan la conclusión.

Preguntas frecuentes

¿Qué son las pruebas de seguridad de agentes de IA?

Son pruebas deliberadas del comportamiento relacionado con la seguridad en un escenario definido de un agente de IA. Mibo permite combinar criterios semánticos sobre la respuesta con comprobaciones procedimentales de la evidencia de ejecución compatible.

¿Cómo ayuda Mibo a probar la seguridad antes del lanzamiento?

Ejecuta tu agente con el escenario elegido y envía la ejecución registrada por OTLP para que Mibo la evalúe. Revisa la evidencia disponible antes de decidir sobre el lanzamiento.

¿Puede Mibo revisar el comportamiento de seguridad después de interacciones reales?

Después de una interacción, envía su ejecución registrada por OTLP. Mibo evalúa las comprobaciones configuradas aplicables sin volver a llamar al agente.

¿Qué comprobaciones de seguridad se pueden configurar?

Las comprobaciones pueden evaluar el significado de la respuesta y hechos registrados como llamadas a herramientas y argumentos. La evidencia depende de la instrumentación.

¿Qué ocurre si una comprobación de seguridad necesita datos que la traza no contiene?

El resultado depende de la comprobación. Algunas informan de instrumentación faltante; otras evalúan el valor ausente según la condición configurada. Revisa los campos necesarios y el comportamiento de la comprobación antes de interpretar el resultado.

¿Las pruebas de seguridad garantizan que un agente de IA sea seguro?

No. Las comprobaciones configuradas aportan evidencia acotada, no una garantía de seguridad ni corrección automática. La señal está limitada por tus escenarios, comprobaciones, entradas y trazas, clasificación, instrumentación y amplitud de las interacciones observadas o ejercitadas.

Sigue explorando