Mostrando las entradas con la etiqueta verificación formal. Mostrar todas las entradas
Mostrando las entradas con la etiqueta verificación formal. Mostrar todas las entradas

lunes, 24 de agosto de 2026

AAMAS 2026 premia modelos mundiales fiables para agentes adaptativos

Florent Delgrange recibió el Best Blue Sky Paper Award de AAMAS 2026 por una propuesta de investigación titulada Foundation World Models for Agents that Learn, Verify, and Adapt Reliably Beyond Static Environments. El trabajo plantea cómo permitir que los agentes autónomos sigan aprendiendo cuando cambian las condiciones, sin dejar de comprobar si sus decisiones cumplen requisitos de seguridad y comportamiento.

La idea central es unir aprendizaje por refuerzo, modelos del mundo y verificación formal en un ciclo continuo. Es una agenda de investigación, no un producto ya desplegado: el objetivo es que un agente aprenda, evalúe la fiabilidad de su modelo y revise su estrategia cuando el entorno deja de coincidir con lo que conocía.

Agente de inteligencia artificial adaptándose a un almacén cambiante con mapas y rutas verificadas

Qué es un modelo del mundo

Un modelo del mundo es una representación que ayuda a un agente a anticipar cómo puede cambiar su entorno después de una acción. Por ejemplo, un robot de almacén puede estimar qué ocurre al tomar una ruta, acercarse a una carretilla o mover un paquete.

Delgrange propone que estos modelos sean reutilizables entre tareas y que incluyan información sobre cuándo sus predicciones son confiables. Así, el sistema no solo predeciría resultados, sino que podría identificar qué partes del entorno conoce bien y dónde necesita reunir más datos.