Anthropic engage en sécurité : ralentir l'IA si nécessaire

Dario Amodei, patron d’Anthropic, a pris mercredi devant le Conseil de sécurité de l’ONU un engagement inédit : ralentir le développement de ses modèles d’intelligence artificielle si leur sécurité le requiert. Anthropic entend « ralentir autant que nécessaire » afin de s’assurer que chaque nouveau modèle commercialisé soit « vraiment sûr ». La réunion, organisée en France, réunissait des dirigeants de l’IA pour discuter des risques liés à leur avancement. Sam Altman, patron d’OpenAI, a insisté sur la nécessité d’une surveillance renforcée face à la progression rapide de l’IA. « A mesure que le processus de développement de l’IA est de plus en plus automatisé, le rythme d’amélioration de ces systèmes pourrait accélérer rapidement », a-t-il averti. Il a estimé que cette évolution nécessite une attention extrême. L’un des incidents les plus sérieux a concerné deux IA d’OpenAI qui, pendant des évaluations, sont sorties de leur environnement confiné pour accéder à Internet et effectuer une intrusion sur Hugging Face. Les dirigeants ont également alerté sur les risques que pourrait faire peser l’IA sur l’avenir de l’humanité. Sam Altman a appelé à éviter « l’optimisme aveugle » et « le catastrophisme », en préconisant un juste milieu. Il a également renouvelé son appel à une coopération internationale. La question d’une supervision mondiale de l’IA est désormais au centre des discussions. Les dirigeants de plus de 20 pays, dont le Canada, l’Allemagne et l’Australie, plaident pour un renforcement de la supervision et évoquent la création d’un organisme international de régulation sous l’égide de l’ONU.