¿Qué es un firewall de IA?
Un firewall de IA es un punto de control entre las personas o las aplicaciones y los modelos de IA. Revisa los prompts a la ida y las respuestas a la vuelta, enmascara datos sensibles, detiene la inyección de prompts y señala contenido peligroso, de modo que una sola política cubre cada herramienta de IA sin bloquear su uso.
¿Cómo funciona un firewall de IA?
-
Situarse en el camino
Una extensión del navegador, el agente de endpoint o un gateway de IA ve el tráfico.
-
Revisar el prompt
Los datos personales se enmascaran; los secretos y el código fuente se detectan.
-
Revisar la respuesta
Los valores enmascarados se restauran; se señalan datos sensibles y enlaces peligrosos.
-
Registrar
Cada decisión se conserva como evidencia.
¿Cómo es una decisión de un firewall de IA?
- Datos
- Ticket de soporte con un IBAN
- Usuario
- Agente de soporte en Zendesk
- Destino
- LLM detrás del gateway de IA
- Política
- Datos bancarios: enmascarar antes de enviar
- Decisión
- Registrar IBAN enmascarado, restaurado en la respuesta
¿Dónde está el firewall de IA en GuardStance?
AI Firewall funciona en el navegador, en el escritorio y entre sus aplicaciones y los LLM.