Anthropic révèle avoir bloqué des tentatives de fabrication d’armes biologiques grâce à ses modèles

Le rapport d’Anthropic, publié le 10 septembre, mentionne des tentatives d’utilisation de ses modèles pour des fins malveillantes, notamment des recherches susceptibles de mener à la mise au point d’armes biologiques. L’entreprise indique que des scientifiques ont utilisé Claude pour des projets de recherche, mais que les anciennes versions ne sont pas capables de contribuer à des recherches dangereuses. Anthropic renforce ses dispositifs de sécurité pour ses modèles avancés. Les chercheurs ne sont pas identifiés, mais les institutions concernées restent anonymes.