OpenAI recrute Zico Kolter, un "génie" de la sécurité de l'IA
- 👨 William Teixeira
- Il y a 4 mois
- 💬 Réagir
Son travail sera particulièrement précieux pour l'avenir de ChatGPT
OpenAI a récemment annoncé l'intégration de Zico Kolter, une figure éminente dans le domaine de la sécurité de l'intelligence artificielle, à son conseil d'administration. En plus de cette nomination stratégique, Kolter rejoindra également le comité de sécurité et de sûreté de l'entreprise, un groupe qui joue un rôle crucial dans la gouvernance et la direction technique d'OpenAI. Cette décision survient à un moment où la sécurité de l'IA est devenue un enjeu central pour OpenAI.
Kolter est actuellement professeur et directeur du département d'apprentissage automatique à la prestigieuse université Carnegie Mellon, où il se spécialise dans la sécurité de l'IA depuis plusieurs années. Son expertise en matière de sécurité des systèmes d'IA est largement reconnue dans le milieu académique, mais aussi dans le secteur industriel. Kolter a obtenu son doctorat en informatique à Stanford en 2010, avant de poursuivre une bourse postdoctorale au MIT entre 2010 et 2012.
OpenAI a qualifié Kolter de "directeur technique inestimable pour la gouvernance", mentionnant l'importance de sa nomination dans le contexte de la sécurité de l'IA. Ce domaine est devenu une priorité pour OpenAI, surtout après une série de départs de dirigeants et d'employés clés, dont le cofondateur Ilya Sutskever. L'équipe "Superalignment" de Sutskever, qui se consacrait à la sécurisation des systèmes d'IA, a quitté OpenAI après que l'entreprise n'a pas honoré une promesse cruciale concernant les ressources informatiques.
Kolter se concentre depuis longtemps sur les problématiques de sécurité
La recherche de Kolter se concentre sur des questions critiques pour l'avenir de l'IA, notamment la possibilité de contourner les garanties existantes avec des techniques d'optimisation automatisées. Son rôle chez OpenAI, à la fois en tant que membre du conseil d'administration et du comité de sécurité, sera déterminant pour naviguer les défis complexes que pose la sécurisation de systèmes d'IA de plus en plus puissants.
En tant que leader dans le domaine de l'IA, OpenAI continue de se renforcer en attirant des talents comme Zico Kolter, dont l'expertise pourrait bien être essentielle pour surmonter les défis croissants liés à la sécurité des systèmes d'IA.
Source
Télécharger l'app gratuite ChatGPT