OpenAI entwickelt Sicherheitsmaßnahmen für den Umgang mit fortschrittlichen KI-Systemen

In einer Welt, in der künstliche Intelligenz (KI) immer weiter fortgeschritten ist, wächst auch die Notwendigkeit, adäquate Sicherheitsmaßnahmen zu entwickeln, um die potenziellen Risiken, die von diesen Technologien ausgehen können, zu minimieren. OpenAI, ein führendes Unternehmen im Bereich der KI-Forschung, hat sechs Sicherheitsmaßnahmen vorgeschlagen, die nach ihrer Überzeugung die heutigen Sicherheitskontrollen ergänzen und fortgeschrittene KI-Systeme besser schützen sollen.

Die Sicherheit von KI-Systemen ist von zunehmender Bedeutung, da KI in verschiedenen Bereichen eingesetzt wird, von der Cybersicherheit über chemische, biologische, nukleare und radiologische (CBRN) Bedrohungen bis hin zu Überzeugungsstrategien und der Autonomie von Modellen. OpenAI hat in seinem Vorbereitungsrahmen, einem Dokument, das sich aktuell in der Beta-Phase befindet, eine Struktur für die Überwachung dieser Risiken und für den Umgang mit ihnen festgelegt.

Zu den wichtigsten Sicherheitsmaßnahmen gehören die Kategorisierung von Risiken, die Bewertung von Modellen, die Festlegung von Risikostufen, interne Governance-Verfahren, Notfallvorbereitungen und die Entwicklung von Sicherheitsmaßnahmen, die angewendet werden müssen, bevor bestimmte Modelle eingesetzt oder weiterentwickelt werden können.

1. Risikokategorien: OpenAI hat sich verpflichtet, Risiken in vier Bereichen zu verfolgen: Cybersecurity, CBRN-Bedrohungen, Überzeugungsstrategien und Modellautonomie. Dies soll sicherstellen, dass das Unternehmen ein breites Spektrum potenzieller Bedrohungen im Blick hat und entsprechend reagieren kann.

2. Modellbewertungen: Um die Risiken besser einschätzen zu können, entwickelt OpenAI Bewertungsverfahren für Modelle in jeder der vier Risikokategorien. Diese Bewertungen sollen Handlungsgrundlagen liefern und helfen, die Sicherheit der KI-Modelle zu gewährleisten.

3. Risikostufen: OpenAI hat vier Risikostufen definiert: niedrig, mittel, hoch und kritisch. Modelle, die als "hochriskant" eingestuft werden, werden nicht eingesetzt, und Modelle, die als "kritisch" eingestuft werden, werden nicht weiterentwickelt. Falls durch die Anwendung von Sicherheitstechniken das Risiko eines Modells gesenkt werden kann, ist eine Bereitstellung oder weitere Entwicklung denkbar.

4. Interne Governance: OpenAI beschreibt seinen Ansatz zur internen Governance und wie dessen Verfahren dazu beitragen können, Risiken zu reduzieren. Das Preparedness-Team von OpenAI ist dafür verantwortlich, monatliche Berichte an die Sicherheitsberatungsgruppe (SAG) des Unternehmens zu senden, die Empfehlungen an die Unternehmensführung gibt.

5. Notfallvorbereitung: OpenAI hat interne Verfahren zur Erkennung und Reaktion auf Risiken beschrieben. Das Preparedness-Team führt Übungen durch, um die Reaktion auf schnell eintretende Notfälle zu üben. Bei Hinweisen auf ein plötzliches Risiko kann ein Bericht beschleunigt und Sofortmaßnahmen von der Unternehmensführung angefordert werden.

6. Sicherheitsmaßnahmen: OpenAI hat sich dazu verpflichtet, keine Modelle zu veröffentlichen, die in irgendeiner Risikokategorie als "hochriskant" eingestuft werden, bis angemessene Sicherheitsvorkehrungen getroffen worden sind. Allerdings sind Details zu diesen Sicherheitsmaßnahmen noch nicht vollständig öffentlich gemacht worden.

Die Entwicklung und Implementierung dieser Maßnahmen ist entscheidend für die Vorbereitung auf und das Management von potenziell katastrophalen Risiken, die von fortgeschrittenen KI-Systemen ausgehen können. OpenAI selbst weist darauf hin, dass der Vorbereitungsrahmen ein lebendiges Dokument ist und auf Feedback aus der Community reagiert wird, um die Rahmenbedingungen zu verbessern.

Da Regierungen weltweit überlegen, wie sie mit den Risiken umgehen und andere KI-Unternehmen ihre internen Richtlinien verfeinern, kann der Vorbereitungsrahmen von OpenAI als Inspiration dienen. Beispielsweise könnten die Risikostufen von OpenAI nationale oder internationale Regulierungsbehörden mit wichtigen Informationen über Modelle versorgen und so die Regierungen dazu befähigen, den Einsatz oder die Entwicklung von Systemen einzuschränken, die nicht in der Lage sind, katastrophale Risiken unter akzeptablen Grenzen zu halten.

Es ist jedoch zu beachten, dass OpenAI und Anthropic bisher die einzigen Unternehmen sind, die Vorschläge ähnlich dem Vorbereitungsrahmen veröffentlicht haben. Andere Akteure, wie Google und Meta, die ebenfalls darauf abzielen, übermenschliche KI-Systeme zu entwickeln, haben solche Richtlinien noch nicht publiziert.

Zusammenfassend bietet der Vorbereitungsrahmen von OpenAI einen Einblick, wie das Unternehmen plant, mit katastrophalen Risiken umzugehen, und könnte als Grundlage für andere Unternehmen und Regierungen dienen, um starke Politiken zu entwickeln und durchzusetzen, die auf dem gesamten Sektor der KI anwendbar sind. Wenn nicht, besteht die Gefahr, dass KI-Systeme entwickelt werden, die zu weltverändernden Katastrophen führen könnten, bevor wir darauf vorbereitet sind, mit ihnen umzugehen.