Miles Brundage verlässt OpenAI für unabhängige KI-Forschung

OpenAI erlebt große Veränderungen durch den Abgang von Miles Brundage

OpenAI, eine führende Organisation in der Entwicklung künstlicher Intelligenz, hat kürzlich den Abgang des langjährigen Sicherheitsforschers Miles Brundage bekannt gegeben. Er hat am 23. Oktober 2023 seine Position als Leiter des Teams 'AGI Bereitstellung' niedergelegt, was einen bedeutenden Wandel im Sicherheitsmanagement des Unternehmens markiert. Brundage ist seit 2018 bei OpenAI und konzentriert sich auf wesentliche Aspekte der KI-Sicherheit innerhalb der Unternehmensmission.

Auflösung des AGI Bereitstellungsteams

Mit Brundages Rücktritt gibt es bedeutende Implikationen für die Sicherheitsprotokolle bei OpenAI. Er gab in einem Substack-Beitrag bekannt, dass das Team 'AGI Bereitstellung' aufgelöst wird, was zu einem Mangel an dedizierter Sicherheitsaufsicht führen könnte, während die Organisation ihre Entwicklung hin zur künstlichen allgemeinen Intelligenz (AGI) vorantreibt. AGI stellt einen theoretischen Meilenstein in der KI dar, bei dem ein Modell Fähigkeiten zeigt, die mit menschlicher Intelligenz in verschiedenen Aufgaben vergleichbar sind.

Brundages zukünftige Pläne

Angesichts seines Abgangs äußerte Brundage den Wunsch, sich auf unabhängige Forschung zu konzentrieren. Er plant, eine gemeinnützige Organisation zu gründen oder sich einer bestehenden anzuschließen und seine Bemühungen in die Forschung und Förderung von KI-Politik zu lenken. Brundage erklärte: "Ich plane, eine neue gemeinnützige Organisation zu gründen (und/oder mich einer bestehenden anzuschließen) und an der Forschung und Förderung von KI-Politik zu arbeiten. Ich werde wahrscheinlich eine Mischung aus Forschung und Advocacy machen, aber die Details und Verhältnisse sind noch offen." Seine Absicht spiegelt einen wachsenden Trend unter KI-Forschern wider, die unabhängige Bemühungen schätzen, die zu breiteren gesellschaftlichen Auswirkungen beitragen können.

Implikationen für OpenAI und AGI-Sicherheit

Brundages Abgang wirft drängende Fragen über die Zukunft der AGI-Sicherheitslandschaft innerhalb von OpenAI auf. Das Unternehmen hat in der Vergangenheit eine Reihe von hochkarätigen Abgängen erlebt, darunter den Mitbegründer und Chef-Wissenschaftler Andrej Karpathy im Februar und John Schulman im August, der zu dem Konkurrenten Anthropic wechselte. Ein weiterer bemerkenswerter Abgang war der von Mira Murati, der ehemaligen Chief Technology Officer, die Berichten zufolge versucht, ihr eigenes KI-Unternehmen zu finanzieren.

Nach Brundages Ankündigung äußerte OpenAI seine Unterstützung für seine Entscheidung. Ein Unternehmenssprecher erklärte: "Wir unterstützen vollständig Miles' Entscheidung, seine Politikwissenschaft außerhalb der Industrie zu verfolgen, und sind ihm für seine Beiträge zutiefst dankbar. Sein Plan, sich voll und ganz der unabhängigen Forschung zu KI-Politik zu widmen, gibt ihm die Möglichkeit, einen breiteren Einfluss zu haben, und wir sind gespannt, von seiner Arbeit zu lernen und deren Auswirkungen zu verfolgen." Das Unternehmen gab jedoch keine Klarheit über die Zukunft des AGI-Bereitstellungsteams.

Branchensituation und Ausblick

Der Übergang von einer zentralisierten AGI-Aufsicht bei OpenAI spiegelt breitere Trends in der KI-Industrie wider, in denen interne Konflikte zu signifikanten Personalveränderungen geführt haben. Mit der Auflösung von Mitgründerteams wie 'Superalignment' und dem Verlassen von Mitgründern, um rivalisierende Unternehmen zu gründen, entwickelt sich die Landschaft der KI-Politik und -Governance schnell.

Während das Feld der künstlichen Intelligenz weiterhin voranschreitet, werden die Implikationen solcher Veränderungen in der Leitung und strategischen Ausrichtung zunehmend relevant. Interessenvertreter und die Öffentlichkeit werden genau beobachten, wie sich diese Veränderungen auf das Engagement des Unternehmens für Sicherheit und ethische Entwicklung von KI auswirken.

Fazit

Der Abgang von Miles Brundage aus OpenAI bedeutet nicht nur eine persönliche Veränderung, sondern stellt auch eine breitere Neuausrichtung im Management der KI-Sicherheit dar. Seine zukünftigen Bemühungen in der gemeinnützigen Forschung und Advocacy könnten die Richtung der KI-Politik beeinflussen, insbesondere im Hinblick auf die sich verstärkenden Diskussionen über AGI und deren Auswirkungen auf die Gesellschaft. Während OpenAI sich verändert, wird sich die Branche als Ganzes anpassen und auf die sich entwickelnden Narrative innerhalb der KI-Governance reagieren.