Llama.cpp en una PS5 con jailbreak: ejecutar cualquier modelo GGUF de forma nativa en la consola
PS5LM ejecuta modelos GGUF en la GPU de la PS5 usando llama.cpp con backend Vulkan, con 11,4 GB de memoria compartida para el modelo y su contexto. El servidor expone las APIs de OpenAI y Anthropic en la red local, sin nube ni cuenta, y también modelos de decisión compatibles con la API /v1/systemone. La demostración muestra Qwen 3.5 9B respondiendo a peticiones desde un portátil.
Qué significa
Quien tenga una PS5 con jailbreak puede usarla como servidor de modelos de lenguaje privado en casa, accesible desde el portátil, el móvil o herramientas de programación de la red local, sin PC encendido ni cuenta en la nube.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- Hacker News (historias con mas de 100 puntos)Leer la noticia completa en Hacker News (historias con mas de 100 puntos)