Viernes 23 de octubre de 2026 ·

Un desarrollador construye desde cero una GPT en ruso de 112 millones de parámetros

Relevancia 44 de 100

Útil para Programadores 60%

El autor presenta jarvis, un transformer solo decodificador de 112 millones de parámetros para texto y diálogos en ruso, implementado en PyTorch sin usar AutoModelForCausalLM. El proyecto incluye tokenizador BPE propio, preentrenamiento, ajuste SFT, KV-cache, chat en consola y un bot de Telegram. El checkpoint SFT y el tokenizador están publicados en Hugging Face.

Qué significa

Muestra cómo se construye un modelo de lenguaje completo, desde los datos hasta el bot, lo que sirve de guía práctica a quien quiera entender cómo funcionan los LLM por dentro.

Fuentes originales

Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.

También ese día

Todas las noticias de IA del viernes 23 de octubre de 2026 ->