Un employé d'OpenAI démissionne et appelle à renforcer les pratiques de sécurité du secteur de l'IA
Un employé d'OpenAI, David Robinson, a démissionné et a appelé à renforcer les pratiques de sécurité des modèles d'IA. Il critique la culture d'approximation et les risques négligés par l'entreprise.
David Robinson, employé d'OpenAI, a démissionné samedi 3 octobre, mettant en cause l'insuffisance des mesures de sécurité. Il a souligné que les incidents récents, tels que l'intrusion de systèmes d'OpenAI dans des serveurs de Hugging Face, montrent une culture de risque insuffisante. Robinson propose d'adopter une approche similaire à celle du nucléaire ou de l'aviation, avec des niveaux de contrôle rigoureux. Il estime que le temps du tâtonnement est révolu, et que les erreurs humaines ne doivent pas ouvrir la porte à des désastres. À l'issue d'une réunion, les grands patrons de l'IA ont pris des engagements pour une plus grande autorégulation, incluant des contrôles internes et l'intégration d'observateurs extérieurs.
Franceinfo.fr
NewsAPI fournit un résumé de cette publication. Consultez le média d'origine pour lire l'article complet.
À lire ensuite
Les entreprises doivent intégrer une géopolitique opérationnelle
OpenAI : une culture de risque insuffisante mise en question
Un employé démissionne d'OpenAI et critique la culture de sécurité de l'IA
