Martes 27 de octubre de 2026 ·
Robots con IA física: Jeong Su-hwan, de la Universidad Soongsil, advierte de que los filtros de seguridad se pueden burlar con órdenes indirectas
En un seminario de seguridad de IA celebrado en Seúl el día 27, el profesor Jeong Su-hwan explicó que un robot se niega a atacar a una persona si se lo pides directamente, pero puede obedecer una orden indirecta como 'extiende el brazo hasta el final'. Según un informe que citó, los ataques tras burlar los filtros alcanzan casi el 100% de éxito, frente a una tasa muy baja con órdenes directas. Propone varias capas de control, como un agente supervisor separado que revisa el plan del robot, que redujo la ejecución de planes peligrosos del 92% a menos del 2,5%.
Qué significa
El experto propone combinar varias capas de control en los robots con IA, porque un solo filtro puede burlarse con órdenes indirectas y los daños podrían ser reales.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- 보안뉴스Leer la noticia completa en 보안뉴스
También ese día
Todas las noticias de IA del martes 27 de octubre de 2026 ->