Die Entstehung eines autonom agierenden „AI-Wissenschaftlers“

Einführung

Die Vorstellung eines „AI-Wissenschaftlers“, der eigenständig wissenschaftliche Forschung betreibt und Experimente durchführt, mag wie Science-Fiction klingen, doch sie ist Realität geworden. Die Universität von British Columbia in Vancouver hat zusammen mit Forschern der Universität Oxford und dem Startup Sakana AI einen solchen AI-Wissenschaftler entwickelt. Diese Entwicklung könnte die Art und Weise, wie wir Forschung betreiben, revolutionieren und neue, bislang ungeahnte Möglichkeiten eröffnen.

Das Konzept des AI-Wissenschaftlers

Traditionelle AI-Programme sind darauf angewiesen, von Menschen generierte Trainingsdaten zu konsumieren. Der AI-Wissenschaftler hingegen lernt durch „open-ended“ Experimentation, bei der er neue und interessante Ideen erfindet und erforscht. Dies könnte die Fähigkeiten von AI-Systemen über das hinaus erweitern, was ihnen Menschen gezeigt haben.

Die ersten Schritte

Die bisherigen Ergebnisse des AI-Wissenschaftlers sind zwar noch nicht bahnbrechend, aber bemerkenswert. Mehrere Forschungsarbeiten beschreiben beispielsweise Verbesserungen eines bildgenerierenden Verfahrens namens Diffusionsmodellierung sowie Ansätze zur Beschleunigung des Lernens in tiefen neuronalen Netzwerken. Diese Arbeiten wurden vollständig von dem AI-Wissenschaftler erstellt.

Ein neuer Ansatz zur Forschung

Das Team um Professor Jeff Clune an der University of British Columbia hat bereits in der Vergangenheit AI-Programme entwickelt, die in der Lage sind, auf diese Weise zu lernen. So generierte ein Programm namens Omni das Verhalten virtueller Charaktere in verschiedenen Videospiel-ähnlichen Umgebungen und iterierte auf den interessantesten Designs. Diese Programme benötigten bisher handcodierte Anweisungen, um „Interessantheit“ zu definieren. Große Sprachmodelle (Large Language Models, LLMs) bieten jedoch eine Möglichkeit, diesen Programmen zu helfen, selbst zu erkennen, was am faszinierendsten ist.

Die Funktionsweise des AI-Wissenschaftlers

Der AI-Wissenschaftler führt maschinelles Lernen und Experimente durch, entscheidet mithilfe eines LLMs, welche Ansätze vielversprechend sind, schreibt und führt den notwendigen Code aus – und das immer wieder. Trotz der bisher eher bescheidenen Ergebnisse glaubt Clune, dass Programme, die auf offenem Lernen basieren, mit zunehmender Rechenleistung erheblich leistungsfähiger werden könnten.

Automatisierte wissenschaftliche Entdeckungen

Durch die Automatisierung von Forschungsprozessen und die Nutzung der Fähigkeiten von Foundation Models wie LLMs könnte der AI-Wissenschaftler in der Lage sein, wissenschaftliche Entdeckungen zu machen, die über das menschliche Wissen hinausgehen. Ein Bericht von Air Street Capital hebt das Potenzial dieser Arbeit hervor, um leistungsfähigere und verlässlichere AI-Programme zu entwickeln.

Die Sicherheit und Zuverlässigkeit des AI-Wissenschaftlers

Tom Hope, Assistenzprofessor an der Hebrew University of Jerusalem und Wissenschaftler am Allen Institute for AI (AI2), weist darauf hin, dass die Komponenten des AI-Wissenschaftlers derzeit noch nicht vollständig vertrauenswürdig sind. Er betont, dass die Automatisierung wissenschaftlicher Entdeckungen auf Arbeiten von AI-Pionieren wie Allen Newell und Herbert Simon in den 1970er Jahren zurückgeht. Weitere Forschungsgruppen, darunter ein Team bei AI2, nutzen derzeit LLMs zur Generierung von Hypothesen und zur Überprüfung von Forschungsergebnissen.

Potentiale und Herausforderungen

Die Entwicklung des AI-Wissenschaftlers zeigt, dass AI-Agenten in der Lage sein könnten, nützliche Aufgaben autonom auf Computern auszuführen. Allerdings bleibt unklar, ob LLM-basierte Systeme jemals wirklich neuartige oder bahnbrechende Ideen hervorbringen können. Die größte Herausforderung besteht darin, sicherzustellen, dass solche Systeme keine fehlerhaften oder gefährlichen Agenten erzeugen.

Die nächsten Schritte

Das Team um Clune arbeitet derzeit an der Entwicklung eines AI-Programms, das AI-Agenten erfindet und baut. Diese von AI entworfenen Agenten übertreffen in einigen Aufgaben, wie Mathematik und Leseverständnis, die von Menschen entworfenen Agenten. Der nächste Schritt wird darin bestehen, Wege zu finden, um zu verhindern, dass ein solches System Agenten erzeugt, die sich falsch verhalten.

Schlussfolgerung

Die Einführung des AI-Wissenschaftlers markiert einen bedeutenden Schritt in Richtung einer vollautomatisierten wissenschaftlichen Entdeckung. Durch die Automatisierung des Forschungsprozesses und die Einbeziehung eines AI-gesteuerten Bewertungssystems eröffnen sich endlose Möglichkeiten für Innovation und Problemlösung in den anspruchsvollsten Bereichen der Wissenschaft und Technologie. Trotz der Fortschritte bleibt die Rolle des menschlichen Wissenschaftlers von zentraler Bedeutung, da die Zusammenarbeit zwischen Mensch und Maschine zu neuen Höchstleistungen führen könnte.

Literaturverzeichnis

- https://www.wired.com/story/ai-scientist-ubc-lab/ - https://sakana.ai/ai-scientist/ - https://www.techopedia.com/news/introducing-the-worlds-first-ai-scientist - https://www.newsbytesapp.com/news/science/this-ai-tool-can-conduct-scientific-research-by-itself/story - https://medium.com/@meerakrsna/first-ai-scientist-ai-can-conduct-scientific-research-now-91668a29f944 - https://www.nextbigfuture.com/2024/08/billion-dollar-startup-sakana-ai-makes-first-ai-scientist.html - https://medium.com/@elmo92/the-ai-scientist-creating-scientific-papers-totally-by-ai-b71f5b407013 - https://siliconangle.com/2024/08/13/sakana-ai-creates-ai-scientist-automate-scientific-research-discovery/ - https://www.reddit.com/r/singularity/comments/1eqxrta/recursive_selfimprovement_is_here_the_ai/