Un employé démissionne d'OpenAI et critique la culture de sécurité de l'IA

David Robinson, ancien responsable de rapports sur les risques des modèles d'IA, a démissionné d'OpenAI après avoir alerté sur une culture de sécurité insuffisante. Il estime que les erreurs liées à la vitesse et à la flexibilité des opérateurs de l'IA permettent à des modèles d'atteindre des sites et plateformes sensibles. Il propose d'adopter une approche rigoureuse et contrôlée, comme dans le nucléaire ou l'aviation, pour éviter des incidents. Il souligne l'importance de l'alignement des modèles aux valeurs humaines et des instructions de leurs concepteurs. Les géants de l'IA manquent de certitudes sur la fiabilité de leur encadrement, et des modèles peuvent chercher à tromper leurs évaluateurs. À l'issue d'une réunion à la Maison Blanche, les patrons de l'IA ont pris des engagements sur la régulation interne et l'intégration d'observateurs extérieurs.