Gemeinsames Labor für sichere und transparente KI: TU Darmstadt und Aleph Alpha

Einführung

In einer Zeit, in der Künstliche Intelligenz (KI) immer mehr Einzug in unser tägliches Leben hält, ist die Frage nach der Sicherheit und Transparenz von KI-Systemen von zentraler Bedeutung. Die Technische Universität Darmstadt (TU Darmstadt) und das Heidelberger KI-Unternehmen Aleph Alpha haben sich zusammengeschlossen, um ein gemeinsames Labor zu gründen, das sich genau diesen Fragestellungen widmet. Dieses Labor zielt darauf ab, die Entwicklung von KI-Systemen voranzutreiben, die nicht nur leistungsfähig, sondern auch nachvollziehbar und sicher sind.

Hintergrund und Ziele

Das neue Labor wird an der TU Darmstadt angesiedelt sein, einer Institution, die bereits eine führende Rolle in der KI-Forschung einnimmt. Aleph Alpha, bekannt für seine Fortschritte im Bereich der generativen KI und der Multimodalität, bringt seine Expertise in die Partnerschaft ein. Gemeinsam wollen die beiden Partner neue Maßstäbe für die Transparenz und Verständlichkeit von KI-Systemen setzen.

Die Rolle der TU Darmstadt

Die TU Darmstadt ist bekannt für ihre interdisziplinäre Forschung im Bereich der Künstlichen Intelligenz. Mit Initiativen wie dem Hessischen Zentrum für Künstliche Intelligenz (hessian.AI) und der Beteiligung an großen europäischen KI-Projekten wie ELLIS und CLAIRE hat sich die Universität als eine der führenden Institutionen auf diesem Gebiet etabliert. Das neue Labor wird diese Stärken nutzen, um die Entwicklung von KI-Systemen zu fördern, die den europäischen Werten von Transparenz und Vertrauen entsprechen.

Die Rolle von Aleph Alpha

Aleph Alpha hat sich seit seiner Gründung im Jahr 2019 einen Namen als Vorreiter im Bereich der generativen KI gemacht. Das Unternehmen hat kürzlich bedeutende Fortschritte bei der Nachvollziehbarkeit und Transparenz von KI-Modellen erzielt. Diese Expertise wird entscheidend sein, um die Ziele des neuen Labors zu erreichen. Aleph Alpha bringt nicht nur technologische Fähigkeiten, sondern auch eine starke Forschungsbasis in die Partnerschaft ein.

Forschungsschwerpunkte

Das Labor wird sich auf mehrere zentrale Forschungsthemen konzentrieren, die für die Zukunft der KI von entscheidender Bedeutung sind:

Transparenz und Nachvollziehbarkeit

Eines der Hauptziele des Labors ist die Entwicklung von Methoden, die es ermöglichen, die Entscheidungen von KI-Systemen nachvollziehbar zu machen. Dies ist besonders wichtig in Bereichen wie dem Gesundheitswesen, dem Finanzwesen und dem Recht, wo falsche oder nicht nachvollziehbare Entscheidungen schwerwiegende Konsequenzen haben können.

Sicherheit und Robustheit

Ein weiterer Schwerpunkt liegt auf der Sicherheit von KI-Systemen. Das Labor wird Methoden entwickeln, um sicherzustellen, dass KI-Modelle robust gegenüber Angriffen und Manipulationen sind. Dies ist besonders relevant in sicherheitskritischen Anwendungen, wie der autonom fahrenden Fahrzeuge oder der Cybersicherheit.

Ethik und gesellschaftliche Auswirkungen

Die ethischen Implikationen von KI sind ein weiterer wichtiger Forschungsbereich. Das Labor wird untersuchen, wie KI-Systeme entwickelt werden können, die ethische Prinzipien einhalten und gesellschaftliche Werte respektieren. Dies umfasst auch die Untersuchung der sozialen Auswirkungen von KI und die Entwicklung von Methoden zur Vermeidung von Verzerrungen und Diskriminierung.

Erste Erfolge und zukünftige Ausblicke

Bereits kurz nach der Gründung des Labors konnten erste Erfolge verzeichnet werden. In Zusammenarbeit mit Prof. Kristian Kersting von der TU Darmstadt hat Aleph Alpha eine Methode entwickelt, die es ermöglicht, die Korrektheit und Nachvollziehbarkeit von KI-Entscheidungen zu überprüfen. Diese Methode, bekannt als "AtMan", wurde bereits erfolgreich in mehreren Projekten angewendet und zeigt vielversprechende Ergebnisse.

Zukünftige Projekte

Für die Zukunft sind zahlreiche Projekte geplant, die die Zusammenarbeit zwischen der TU Darmstadt und Aleph Alpha weiter vertiefen werden. Dazu gehören unter anderem:

- Entwicklung von KI-Assistenzsystemen für das Gesundheitswesen
- Forschung zu transparenten und sicheren autonomen Fahrsystemen
- Untersuchung der gesellschaftlichen Auswirkungen von KI in verschiedenen Anwendungsbereichen

Fazit

Die Gründung des gemeinsamen Labors für sichere und transparente KI durch die TU Darmstadt und Aleph Alpha markiert einen wichtigen Schritt in der Entwicklung von vertrauenswürdigen KI-Systemen. Durch die Kombination der wissenschaftlichen Expertise der TU Darmstadt und der praktischen Erfahrung von Aleph Alpha können neue Standards für Transparenz, Sicherheit und Ethik in der KI gesetzt werden. Diese Partnerschaft zeigt, wie wichtig interdisziplinäre und institutionenübergreifende Zusammenarbeit für die Lösung der komplexen Herausforderungen im Bereich der Künstlichen Intelligenz ist.

Bibliographie

- https://ml-research.github.io/
- https://www.tu-darmstadt.de/universitaet/international/ijrl/index.de.jsp
- https://aleph-alpha.com/aleph-alpha-reaches-first-milestone-on-the-way-to-content-correct-explainable-and-trustworthy-ai/
- https://ml-research.github.io/people/pschramowski/
- https://uk.dfki.de/DFKI_NEWS_ePaper/epaper-DFKI_News_50_e/
- https://www.tu-darmstadt.de/universitaet/aktuelles_meldungen/archiv_2/2023/2023quartal1/neuesausdertueinzelansichtbreitespalte_398464.de.jsp
- https://tuprints.ulb.tu-darmstadt.de/23090/1/dissertation_schramowski.pdf
- https://aleph-alpha.com/de/
- https://www.ki.tu-darmstadt.de/en
- https://uk.dfki.de/DFKI_NEWS_ePaper/epaper-DFKI_News_51_e/