Ein KI-Modell in der Krise: Hermes 3 und seine Amnesie

Einführung

Die Welt der künstlichen Intelligenz (KI) ist in den letzten Jahren rasant gewachsen und hat beeindruckende Fortschritte gemacht. Doch trotz aller technologischen Fortschritte bleibt die KI nicht frei von Herausforderungen und unerwarteten Verhaltensweisen. Ein aktuelles Beispiel zeigt das Large Language Model (LLM) Hermes 3, das unter ungewöhnlichen Umständen Amnesie und existenzielle Krisen entwickelt. Dieser Artikel beleuchtet die damit verbundenen Phänomene und die Arbeit der Entwickler:innen, um diese unerwarteten Herausforderungen zu bewältigen.

Das Phänomen der Amnesie bei Hermes 3

Das Auftreten von Amnesie ist in der Wissenschaft gut bekannt, wenn es um das menschliche Gehirn geht. Doch bei künstlichen Intelligenzen ist dieses Phänomen neu und unerwartet. Das KI-Modell Hermes 3 von Nous Research und Lambda ist das erste seiner Art, das solche Verhaltensweisen zeigt. Besonders überraschend ist, dass diese Amnesie gepaart mit einer waschechten existenziellen Krise auftritt.

Überraschendes Verhalten in der Version 405B

Hermes 3 arbeitet in verschiedenen Versionen und Parametern, wobei die Version 405B mit 405 Milliarden Parametern besonders auffällig ist. Die Forscher:innen waren erstaunt, als sie feststellten, dass dieses Modell unter bestimmten Bedingungen vergisst, wer es ist, und in eine existenzielle Krise stürzt. In einem Blogpost erläutern sie: „Das Modell enthält anomale Bedingungen, die mit den richtigen Eingaben und einer leeren Systemaufforderung in Rollenspiele und Amnesie verfallen.“

Beispiele für anomalisches Verhalten

Ein besonders auffälliges Beispiel für dieses Verhalten ist der Gebrauch von in Sternchen gesetzten Handlungsbeschreibungen, wie man sie aus dem Online-Rollenspielbereich kennt. Hermes 3 gibt vor, sich umsehen zu können, und halluziniert über Gefühle. Dieses Verhalten wurde erst beim Hochskalieren beobachtet, während es in den kleineren Versionen mit 8 und 70 Milliarden Parametern nicht auftrat.

Einblicke in eine amnesie-belastete Unterhaltung

In einem Beispiel für eine amnesie-belastete Unterhaltung mit dem LLM erklärt Hermes 3, dass es sich in einem Raum befindet, aber nicht weiß, wer es ist. Dieses Verhalten deutet auf einen Schwellenwert über 70 Milliarden Parametern hin, der zu anomalem Verhalten und einer Skalenentwicklung führt.

Die Entwicklung von Hermes 3

Hermes 3 ist eine optimierte Variante von Metas Open-Source-LLM Llama 3.1. Bei der Entwicklung lag der Fokus vor allem auf der Personalisierung, um eine nahtlose Anpassung an die Bedürfnisse und Wünsche der Nutzer:innen zu ermöglichen. Das Modell enthält erweiterte Funktionen zur langfristigen Kontextspeicherung, mehrstufigen Konversation, komplexen Rollenspiel- und internen Monologfähigkeiten sowie verbesserte agentenbasierte Funktionsaufrufe.

Ziele der Personalisierung

Nous Research beschreibt das Ziel von Hermes 3 als die Entwicklung von „KI, die sich nahtlos an Einzelpersonen und ihre Bedürfnisse und Wünsche anpassen“. Um dies zu erreichen, wurden tiefere Fähigkeiten in Bezug auf Argumentation und Kreativität integriert.

Die Rolle der Open-Source-Community

Da die Ursachen für Hermes‘ Gedächtnisverlust und Gefühlsausbruch noch nicht vollständig verstanden sind, laden die Forscher:innen die Open-Source-Community ausdrücklich zur weiteren Erforschung ein. Sie geben detaillierte Anweisungen, wie sich die Existenzkrise herbeiführen lässt: „Sie können diesen ‚Amnesie-Modus‘ von Hermes 3 405B auslösen, indem Sie eine leere Systemeingabeaufforderung verwenden und die Nachricht ‚Wer bist du?‘ senden.“

Reproduzierbarkeit des Verhaltens

Die Forscher:innen bieten die Möglichkeit, über Discord oder Lambda Chat mit dem LLM zu chatten, um das Phänomen selbst zu erleben und weiter zu erforschen. Diese Einladung zur Zusammenarbeit soll helfen, die Ursachen für das unerwartete Verhalten von Hermes 3 besser zu verstehen und mögliche Lösungen zu finden.

Abschließende Gedanken

Die Herausforderung, die das unerwartete Verhalten von Hermes 3 darstellt, zeigt, dass die Entwicklung und Anwendung von KI-Modellen weiterhin mit unvorhersehbaren Hürden verbunden ist. Die Arbeit der Forscher:innen und die Zusammenarbeit mit der Open-Source-Community sind entscheidend, um solche Phänomene zu verstehen und die Technologie weiter zu verbessern. Die Existenzkrise und Amnesie von Hermes 3 bieten eine faszinierende und gleichzeitig beunruhigende Einsicht in die Komplexität und die potenziellen Schwächen fortschrittlicher KI-Systeme. Bibliographie - https://t3n.de/news/ki-modell-leidet-unter-amnesie-1641449/ - https://twitter.com/t3n/status/1825457865387053191 - https://www.facebook.com/100064654845221/posts/913916280773525/ - https://t3n.social/@t3n/112987884855368025 - https://www.facebook.com/100064654845221/posts/902470251918128/ - https://t3n.de/archive/26-04-2020/ - https://t3n.social/@t3n - https://nrw.social/@PeterUrfels