OpenAI supprime son département d’analyse des risques IA.

La société technologique OpenAI, connue pour la création du populaire ChatGPT, a décidé de supprimer le département chargé d’analyser les risques futurs de l’Intelligence Artificielle (IA) juste un an après sa création, selon ce qu’ont rapporté les médias spécialisés américains ce vendredi.

Réorganisation interne

Le département, connu sous le nom de Superalignment, devait recevoir jusqu’à 20 % de la puissance de calcul d’OpenAI au cours des quatre prochaines années pour rechercher et évaluer les dangers potentiels pouvant survenir avec les progrès de l’IA. Cependant, il a été rapporté que les employés de cette division sont en cours de réaffectation dans d’autres domaines au sein de la société.

Départs clés

La nouvelle de la suppression du département arrive quelques jours après que Ilya Sutskever, cofondateur d’OpenAI, et Jan Leike, codirecteur de Superalignment, ont annoncé leur départ de l’entreprise. Les deux ont argué qu’OpenAI devrait se concentrer davantage sur la sécurité, la surveillance, la préparation et l’impact social de ses technologies.

« Construire des machines plus intelligentes que les humains est une entreprise intrinsèquement dangereuse. OpenAI assume une énorme responsabilité au nom de toute l’humanité. Mais ces dernières années, la culture et les processus de sécurité ont été relégués au second plan par rapport aux produits innovants », a écrit Leike sur le réseau social X après son départ.

Changements dans la direction

En novembre, le conseil d’OpenAI a destitué le cofondateur et CEO, Sam Altman, citant un manque présumé d’honnêteté, ce qui a généré une grande incertitude parmi les investisseurs et les employés. Cependant, une semaine plus tard, Altman est revenu dans l’entreprise, et les membres du conseil qui avaient voté pour sa destitution, comme le propre Sutskever, ont été écartés de leurs postes au conseil d’administration, bien que Sutskever ait continué dans l’entreprise dans un autre rôle.

Innovation vs sécurité

Des rapports de médias tels que The Wall Street Journal ont indiqué un conflit interne entre Altman et Sutskever. Sutskever, qui était plus concentré sur l’impact de l’IA sur l’humanité, était en désaccord avec Altman, dont l’objectif principal était de continuer avec l’innovation.

Nouveaux lancements

Cette semaine, OpenAI a lancé un nouveau modèle IA, GPT-4o, ainsi qu’une version de bureau de ChatGPT et une interface mise à jour, dans le but de faciliter la communication vidéo des utilisateurs avec son bot conversationnel.

La décision d’éliminer le département d’analyse des risques soulève des questions sur l’orientation future d’OpenAI en termes de sécurité et de gestion des risques associés à l’intelligence artificielle, à un moment où la technologie avance rapidement et son impact sur la société est de plus en plus significatif.

Source : Noticias Inteligencia Artificial

Scroll al inicio