Positive Technologies añade a PT Application Firewall un módulo para proteger IA y LLM
Positive Technologies ha desarrollado LLM Firewall, un módulo de su solución PT Application Firewall que analiza las peticiones y respuestas de LLM. Detecta ataques, envenenamiento de prompts, intentos de filtrar datos confidenciales e incumplimientos de reglas de seguridad. Está dirigido principalmente a bancos, retailers, marketplaces, operadores de telecomunicaciones y empresas de TI, donde los asistentes virtuales acceden a datos personales y documentos corporativos. El texto explica que los cortafuegos web tradicionales no reconocen los ataques de inyección de prompts porque tienen aspecto de texto normal.
Qué significa
Las empresas que usan chatbots con acceso a datos de clientes tendrían una capa de filtrado específica para LLM, en lugar de depender solo de la protección web tradicional.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- CNews (RU)Leer la noticia completa en CNews (RU)