Usuario construye tres estaciones con 4 GPU R9700 y 384 GB de VRAM para inferencia local
Un usuario de Reddit describe tres equipos con cuatro AMD Radeon AI PRO R9700 cada uno (128 GB de VRAM por equipo), con un coste de unos 10.700 $ por equipo, que ejecutan Qwen3.8-27B en FP8 mediante vLLM para extraer datos de un negocio. Según sus pruebas, FP8 obtuvo 98,0/100 de aciertos frente a 95,3/100 de MXFP4 en su banco de evaluación, con un rendimiento un 2-7% menor. Los equipos también ejecutan su CI/CD, y el autor compara su coste con un conjunto de seis Mac Studio, que alcanzó 99/100 de aciertos pero con menor rendimiento total. Es un caso práctico de un único autor, sin verificación independiente.
Fuentes
- Reddit r/LocalLLaMA4x R9700 builds with $127 used EPYCs: $10.7k all-in per machine. I built three (384GB VRAM)