Senatoren Prüfen OpenAI auf Sicherheits- und Beschäftigungspraktiken

Einleitung

In einem bedeutenden Schritt haben fünf prominente demokratische Senatoren der USA einen Brief an Sam Altman, den CEO von OpenAI, gesendet. Darin fordern sie Klarheit über die Sicherheits- und Beschäftigungspraktiken des Unternehmens. Diese Untersuchung erfolgt inmitten wachsender Besorgnis über die Sicherheit und ethische Handhabung von Künstlicher Intelligenz (KI).

Hintergrund

Der Brief, unterzeichnet von den Senatoren Brian Schatz, Ben Ray Luján, Peter Welch, Mark R. Warner und Angus S. King, Jr., bezieht sich auf jüngste Berichte, die OpenAI's Engagement für sichere und verantwortungsbewusste KI-Entwicklung in Frage stellen. Die Senatoren betonen die Bedeutung der KI-Sicherheit für die nationale wirtschaftliche Wettbewerbsfähigkeit und die geopolitische Stellung der USA. Sie weisen auf die Partnerschaften von OpenAI mit der US-Regierung und nationalen Sicherheitsbehörden zur Entwicklung von Cybersicherheits-Tools hin, was die kritische Natur sicherer KI-Systeme unterstreicht.

Forderungen der Senatoren

Die Gesetzgeber haben detaillierte Informationen zu mehreren Schlüsselbereichen angefordert, die bis zum 13. August 2024 geliefert werden sollen. Diese umfassen:

Forschung und Ressourcen

- OpenAI's Engagement, 20% seiner Rechenressourcen der Forschung zur KI-Sicherheit zu widmen.

Arbeitsvereinbarungen

- Die Haltung des Unternehmens zu Nichtverunglimpfungsvereinbarungen für aktuelle und ehemalige Mitarbeiter.

Sicherheitsmaßnahmen

- Verfahren für Mitarbeiter zur Meldung von Cybersicherheits- und Sicherheitsbedenken. - Sicherheitsprotokolle zur Verhinderung des Diebstahls von KI-Modellen, Forschungsergebnissen oder geistigem Eigentum.

Richtlinien und Überwachung

- OpenAI's Einhaltung des eigenen Lieferantenverhaltenskodex in Bezug auf Antiretalierungsrichtlinien und Whistleblower-Kanäle. - Pläne für unabhängige Expertise-Tests und Bewertungen der OpenAI-Systeme vor der Veröffentlichung. - Verpflichtung, zukünftige Grundmodelle den US-Regierungsbehörden zur Vorabprüfung zur Verfügung zu stellen. - Praktiken zur Nachverfolgung und Erkenntnisse aus eingesetzten Modellen. - Pläne zur Veröffentlichung retrospektiver Auswirkungenseinschätzungen eingesetzter Modelle. - Dokumentation zur Erfüllung freiwilliger Sicherheits- und Sicherheitsverpflichtungen gegenüber der Biden-Harris-Administration.

Kontroversen und Fragen

Die Anfrage der Senatoren berührt jüngste Kontroversen rund um OpenAI, einschließlich Berichten über interne Streitigkeiten bezüglich Sicherheitspraktiken und angebliche Cybersicherheitsverletzungen. Sie fragen speziell, ob OpenAI „verpflichtet ist, alle anderen Bestimmungen aus Arbeitsverträgen zu entfernen, die dazu verwendet werden könnten, Mitarbeiter zu bestrafen, die öffentlich Bedenken über Unternehmenspraktiken äußern.“

Regulatorische Debatte

Diese Untersuchung durch den Kongress erfolgt zu einer Zeit zunehmender Debatte über KI-Regulierung und Sicherheitsmaßnahmen. Der Brief verweist auf die freiwilligen Verpflichtungen, die führende KI-Unternehmen letztes Jahr gegenüber dem Weißen Haus eingegangen sind, und bezeichnet sie als „einen wichtigen Schritt zur Schaffung dieses Vertrauens“ in die KI-Sicherheit und -Sicherheit.

Zukunftsaussichten

Die Reaktion von OpenAI auf diese Anfragen könnte erhebliche Auswirkungen auf die zukünftige KI-Governance und die Beziehung zwischen Technologieunternehmen und Regierungsaufsichtsbehörden haben. Kamala Harris, die möglicherweise die nächste US-Präsidentin wird, sagte auf dem AI Safety Summit im vergangenen Jahr: „Lassen Sie uns klarstellen, dass es zusätzliche Bedrohungen gibt, die auch unser Handeln erfordern. Bedrohungen, die derzeit Schaden anrichten und die sich für viele Menschen auch existenziell anfühlen... wenn Menschen auf der ganzen Welt aufgrund einer Flut von KI-gestützten Mythen und Desinformationen nicht zwischen Fakt und Fiktion unterscheiden können.“ Chelsea Alves, eine Beraterin bei UNMiss, kommentierte: „Kamala Harris' Ansatz zur KI- und Big-Tech-Regulierung ist sowohl rechtzeitig als auch entscheidend, während sie in den Präsidentschaftswahlkampf eintritt. Ihre Richtlinien könnten neue Standards dafür setzen, wie wir mit den Komplexitäten moderner Technologie und individueller Privatsphäre umgehen.“

Schlussfolgerung

Die Antwort von OpenAI auf die Anfragen der Senatoren wird mit Spannung erwartet und könnte ein entscheidender Moment für die zukünftige Regulierung und Sicherheitsstandards in der KI-Branche sein. Wie diese Debatte weitergeht, wird sowohl die technologische Entwicklung als auch die gesellschaftlichen Auswirkungen von KI in den kommenden Jahren prägen.

---

Bibliographie: - https://www.computerworld.com/article/2517435/openai-whistleblowers-seek-sec-probe-into-restrictive-ndas-with-staffers.html - https://www.washingtonpost.com/technology/2024/07/13/openai-safety-risks-whistleblower-sec/ - https://abcnews.go.com/Business/openai-ceo-warns-senate-technology-wrong-wrong/story?id=99357748 - https://openai.com/index/openai-safety-update/ - https://www.washingtonpost.com/technology/2023/07/13/ftc-openai-chatgpt-sam-altman-lina-khan/ - https://www.nytimes.com/2023/07/13/technology/chatgpt-investigation-ftc-openai.html - https://www.bloomberg.com/news/articles/2023-07-13/openai-s-chatgpt-bot-probed-by-ftc-over-consumer-harms - https://openai.com/global-affairs/sam-altman-senate-questions-for-the-record/