Un estudio de Google DeepMind detecta sesgos en el azar que generan los modelos de IA
Un estudio de Google DeepMind y la National University of Singapore concluye que los modelos de lenguaje calculan probabilidades, pero no generan por sí solos muestras aleatorias fiables. Las pruebas estadísticas hallaron desviaciones frente a distribuciones uniformes y gaussianas, y preferencias por números como 7 y 42. En escenarios de juego, esa limitación coincidió con una subida del éxito de ciertos ataques del 75 % a entre el 96,6 % y el 99,9 %, y los modelos mejoraron al recibir números aleatorios generados externamente.
Qué significa
Los sistemas que dependen de números aleatorios generados por IA, como juegos o sorteos, pueden dar resultados sesgados. El estudio indica que recibir ese azar desde fuera mejora la precisión.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- Tecnología - DiarioBitcoin.comLeer la noticia completa en Tecnología - DiarioBitcoin.com