OpenAI und die Kultur des Risikos und der Vergeltung

‍

Einleitung

In den letzten Jahren hat sich OpenAI als einer der führenden Akteure im Bereich der Künstlichen Intelligenz (KI) etabliert. Doch hinter den Kulissen des Unternehmens gibt es zunehmende Bedenken hinsichtlich einer Kultur der Geheimhaltung und des Risikos. Eine Gruppe von aktuellen und ehemaligen Mitarbeitern hat sich zusammengeschlossen, um auf diese Probleme aufmerksam zu machen und fordert Veränderungen.

Der Aufruf zur Transparenz

Daniel Kokotajlo, ein ehemaliger Forscher in der Governance-Abteilung von OpenAI, ist einer der Organisatoren einer Gruppe von aktuellen und ehemaligen Mitarbeitern, die behaupten, das Unternehmen verfolge eine rücksichtslose Kultur. Diese Gruppe fordert umfassende Änderungen in der KI-Industrie, einschließlich größerer Transparenz und Schutzmaßnahmen für Whistleblower.

Bedenken der Insider

Die Mitglieder dieser Gruppe, zu der neun aktuelle und ehemalige Mitarbeiter von OpenAI gehören, haben in den letzten Tagen ihre gemeinsamen Bedenken geäußert, dass das Unternehmen nicht genug unternommen hat, um zu verhindern, dass seine KI-Systeme gefährlich werden. Sie argumentieren, dass OpenAI, das als gemeinnütziges Forschungslabor begann und mit der Veröffentlichung von ChatGPT im Jahr 2022 in den öffentlichen Fokus rückte, nun Gewinne und Wachstum priorisiere, während es versuche, eine künstliche allgemeine Intelligenz (AGI) zu entwickeln.

Reaktionen von Führungskräften

OpenAI-CEO Sam Altman hat behauptet, er sei "wirklich beschämt" über die Existenz einer Klausel, die die Mitarbeiter dazu zwinge, strenge Geheimhaltungsvereinbarungen zu unterschreiben, um ihre erworbenen Eigenkapitalanteile zu behalten. Ein Bericht von Vox zeigte jedoch, dass Altman und andere Führungskräfte von OpenAI Dokumente unterzeichneten, die auf ihr direktes Wissen über diese Klausel hinweisen.

Der "Right to Warn"-Appell

Die Gruppe der Insider hat einen offenen Brief veröffentlicht, in dem sie robuste Schutzmaßnahmen für Whistleblower, sichere anonyme Meldewege und die Abschaffung restriktiver Geheimhaltungs- und Nichtverunglimpfungsvereinbarungen fordert, die aktuelle und ehemalige Mitarbeiter zum Schweigen bringen. Zu den Unterzeichnern des Briefes gehören renommierte KI-Wissenschaftler wie Yoshua Bengio, Geoffrey Hinton und Stuart Russell.

Die Forderungen im Detail

In ihrem offenen Brief fordern die Insider von den Unternehmen der KI-Branche, dass sie sich verpflichten, keine Vereinbarungen zu treffen oder durchzusetzen, die Kritik am Unternehmen aus Risikoüberlegungen verbieten. Außerdem sollen verifizierbar anonyme Prozesse eingerichtet werden, über die aktuelle und ehemalige Mitarbeiter risikobezogene Bedenken an den Vorstand des Unternehmens, an Regulierungsbehörden und an unabhängige Organisationen mit entsprechender Expertise melden können.

Reaktionen und Maßnahmen

Ein Sprecher von OpenAI erklärte gegenüber der New York Times, dass das Unternehmen stolz auf seine Erfolgsbilanz sei und an seinen wissenschaftlichen Ansatz zur Risikobewältigung glaube. Google lehnte es ab, auf die Anfrage zu reagieren, und auch Anthropic gab keine Stellungnahme ab.

Wichtige Überlegungen zur KI-Sicherheit

Sicherheit und Ethik sind wichtige Überlegungen für jede aufstrebende Technologie. Da die Führungskräfte von KI-Unternehmen oft darüber sprechen, dass ihre Technologie möglicherweise die gesamte Welt zerstören, Wahlen beeinflussen oder anderweitig kurz- bis langfristig Schaden anrichten könnte, fühlt sich dies in der lukrativen und konzentrierten KI-Blase besonders wahr an.

Schlussfolgerung

Es bleibt abzuwarten, wie die KI-Unternehmen auf die Forderungen der Insider reagieren werden. Klar ist jedoch, dass eine offene und transparente Diskussion über die Risiken und Chancen der KI notwendig ist, um das Vertrauen der Öffentlichkeit und der Regulierungsbehörden zu gewinnen und zu erhalten.

Bibliografie

   - https://www.wired.com/story/openai-right-to-warn-open-letter-ai-risk/
   - https://www.nytimes.com/2024/06/04/technology/openai-culture-whistleblowers.html
   - https://futurism.com/openai-insiders-silenced
   - https://righttowarn.ai/
   - https://www.washingtonpost.com/technology/2023/12/08/open-ai-sam-altman-complaints/
   - https://www.reddit.com/r/OpenAI/comments/18z80eu/openai_ceo_sam_altman_says_muslim_tech_colleagues/
   - https://www.youtube.com/watch?v=PhAolKisnCU
   - https://www.wired.com/
   - https://cdn.openai.com/papers/gpt-4-system-card.pdf