Google DeepMind ha presentado el DeepMind Institute, un nuevo foro de investigación sobre cómo la AGI podría afectar a la economía, el trabajo científico y la sociedad en general.
En lugar de centrarse solo en la creación de modelos, el instituto se articula en torno al trabajo interdisciplinario con personas de DeepMind, Google y el ámbito académico externo. Sus publicaciones iniciales abarcan política económica, interpretabilidad, bienestar humano y formas de evaluar sistemas de frontera.
El lanzamiento también apunta a una agenda de gobernanza más estricta. En un marco para IA de frontera, Demis Hassabis defendió un organismo liderado por EE. UU. que evaluaría modelos avanzados antes de su lanzamiento, con la posibilidad de que superar esas comprobaciones se vuelva necesario para su despliegue.
Esto importa más allá de los círculos de políticas públicas. Si la supervisión de los modelos de frontera se consolida en estándares, los equipos que crean agentes podrían necesitar registros de evaluación más claros, rutas de escalado humano mejor definidas y dependencias de modelos menos frágiles para que los flujos resistan controles de lanzamiento más estrictos.