Miles Brundage quitte OpenAI pour des recherches indépendantes en IA

OpenAI connaît un bouleversement majeur avec le départ de Miles Brundage

OpenAI, une organisation de premier plan dans le développement de l'intelligence artificielle, a récemment annoncé le départ de son chercheur en sécurité de longue date, Miles Brundage. Il a démissionné de son poste de responsable de l'équipe 'AGI Readiness' le 23 octobre 2023, marquant un changement significatif dans la gestion de la sécurité de l'entreprise. Brundage est avec OpenAI depuis 2018, se concentrant sur des aspects cruciaux de la sécurité de l'IA au sein de la mission de l'entreprise.

Dissolution de l'équipe AGI Readiness

Avec la démission de Brundage, il y a des implications importantes pour les protocoles de sécurité chez OpenAI. Il a révélé dans un post Substack que l'équipe 'AGI Readiness' serait dissoute, ce qui pourrait conduire à un manque de supervision de la sécurité alors que l'organisation navigue dans son développement vers l'intelligence générale artificielle (AGI). L'AGI représente une étape théorique dans l'IA, où un modèle exhibe des capacités comparables à l'intelligence humaine à travers diverses tâches.

Les plans futurs de Brundage

À la lumière de son départ, Brundage a exprimé le désir de se concentrer sur la recherche indépendante. Il vise à créer ou rejoindre une organisation à but non lucratif, dirigeant ses efforts vers la recherche et la défense des politiques en matière d'IA. Brundage a déclaré : "Je prévois de créer un nouveau sans but lucratif (et/ou de rejoindre un sans but lucratif existant) et je travaillerai sur la recherche et la défense des politiques en matière d'IA. Je ferai probablement un mélange de recherche et de défense, mais les détails et les ratios sont à déterminer." Son intention reflète une tendance croissante parmi les chercheurs en IA qui valorisent les efforts indépendants susceptibles de contribuer à des impacts sociétaux plus larges.

Implications pour OpenAI et la sécurité de l'AGI

Le départ de Brundage soulève des questions pressantes concernant l'avenir du paysage de la sécurité de l'AGI au sein d'OpenAI. L'entreprise a déjà connu une série de départs très médiatisés, y compris celui du cofondateur et scientifique en chef Andrej Karpathy en février, et John Schulman en août, qui a rejoint le concurrent Anthropic. Un autre départ notable a été celui de Mira Murati, l'ancienne directrice de la technologie, qui cherche apparemment à financer sa propre entreprise d'IA.

Après l'annonce de Brundage, OpenAI a exprimé son soutien à sa décision. Un porte-parole de l'entreprise a déclaré : "Nous soutenons pleinement la décision de Miles de poursuivre sa recherche de politique en dehors de l'industrie et nous lui sommes profondément reconnaissants pour ses contributions. Son projet de se lancer pleinement dans la recherche indépendante sur la politique de l'IA lui donne l'occasion d'avoir un impact à plus grande échelle, et nous sommes impatients d'apprendre de son travail et de suivre son impact." Cependant, l'organisation n'a pas précisé l'avenir de l'équipe AGI Readiness.

Contexte industriel et perspectives d'avenir

La transition loin d'une supervision centralisée de l'AGI chez OpenAI reflète des tendances plus larges dans l'industrie de l'IA, où des conflits internes ont conduit à des changements de personnel significatifs. Avec des équipes cofondées comme 'Superalignment' qui sont dissoutes et des cofondateurs qui partent pour établir des entreprises concurrentes, le paysage de la politique et de la gouvernance de l'IA évolue rapidement.

Alors que le domaine de l'intelligence artificielle continue de progresser, les implications de tels changements de leadership et de direction stratégique deviendront de plus en plus pertinentes. Les parties prenantes et le public suivront de près voir comment ces changements affectent l'engagement de l'entreprise envers la sécurité et le développement éthique de l'IA.

Conclusion

Le départ de Miles Brundage d'OpenAI ne signifie pas seulement un changement personnel, mais représente également une réorganisation plus large dans la gestion de la sécurité de l'IA. Ses futures initiatives en recherche et défense à but non lucratif pourraient influencer la direction des politiques en matière d'IA, notamment au lendemain de discussions croissantes sur l'AGI et ses implications pour la société. Alors qu'OpenAI opère sa transition, l'industrie dans son ensemble s'adaptera et répondra aux récits évolutifs au sein de la gouvernance de l'IA.