Cómo superar los límites de RAG y la búsqueda vectorial con LLM: el caso de SentinelOne
El artículo afirma que SentinelOne redujo de 4 a 6 semanas a 8 horas la ingeniería inversa de malware con Daybreak, un sistema basado en LLM. Plantea que la búsqueda vectorial pierde precisión con documentos complejos y presenta PageIndex, una búsqueda sin vectores que recorre un índice en árbol como un índice de contenidos. Indica que un filtro por lista de bloqueo detectó el 46,7% de los ataques en un caso de RAG industrial. Propone una defensa en tres capas, empezando por un filtro de expresiones regulares y enviando al LLM solo lo que pase ese filtro.
Qué significa
Quien desarrolle RAG o filtros de seguridad puede usar un filtro previo con expresiones regulares y reservar el LLM para las consultas que lo superen, para equilibrar coste y precisión. El texto presenta estas cifras sin indicar su fuente.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- #LLMタグLeer la noticia completa en #LLMタグ