Google DeepMind a présenté le DeepMind Institute, un nouveau forum de recherche sur la manière dont l’AGI pourrait affecter l’économie, le travail scientifique et la société au sens large.
Plutôt que de se concentrer uniquement sur la création de modèles, l’institut s’appuie sur des travaux interdisciplinaires menés avec des personnes de DeepMind, Google et du monde académique extérieur. Ses premières publications couvrent les politiques économiques, l’interprétabilité, l’épanouissement humain et les moyens d’évaluer les systèmes de pointe.
Ce lancement s’inscrit aussi dans une perspective de gouvernance plus stricte. Dans un cadre pour l’IA de pointe, Demis Hassabis a plaidé pour un organisme dirigé par les États-Unis qui évaluerait les modèles avancés avant leur lancement, avec la possibilité que la réussite de ces contrôles devienne nécessaire au déploiement.
L’enjeu dépasse les cercles politiques. Si la supervision des modèles de pointe se transforme en normes, les équipes qui créent des agents pourraient avoir besoin de registres d’évaluation plus rigoureux, de voies d’escalade humaine plus claires et de dépendances aux modèles moins fragiles afin que les workflows puissent résister à des conditions de lancement plus strictes.