Google AI-Suche sorgt für Aufsehen: Pizza mit Klebstoff und Gesteine essen?

Einleitung

Die technologische Welt steht Kopf: Googles neueste Künstliche Intelligenz (KI), die AI Overviews, hat in den letzten Tagen für erhebliche Kontroversen gesorgt. Die experimentelle Funktion, die Antworten auf Suchanfragen generiert, hat einige bizarre und potenziell gefährliche Empfehlungen gegeben. Diese Entwicklung hat nicht nur die Nutzer überrascht, sondern auch die Diskussion über die Vertrauenswürdigkeit und Sicherheit von KI-gestützten Suchmaschinen neu entfacht.

Die Vorfälle im Überblick

Alles begann, als Nutzer bemerkten, dass die AI Overviews von Google auf ungewöhnliche und teilweise absurde Weise auf ihre Anfragen antworteten. Ein Nutzer fragte beispielsweise, wie man Käse besser auf einer Pizza befestigen könnte, und erhielt die Antwort, dass "nicht-toxischer Klebstoff" verwendet werden könnte. Ein anderer Vorfall betraf die Empfehlung, täglich einen kleinen Stein zu essen, da diese Mineralien und Vitamine enthalten würden, die wichtig für die Verdauung seien.

Ein weiterer bemerkenswerter Fehltritt war die Behauptung, dass Barack Obama der einzige muslimische Präsident der Vereinigten Staaten gewesen sei. Diese und andere ähnliche Antworten basierten oft auf satirischen Quellen wie The Onion oder alten Reddit-Posts.

Reaktionen und Kritik

Die Reaktionen auf diese Vorfälle waren heftig. Social-Media-Plattformen wie Twitter und Threads wurden schnell mit Kommentaren und Screenshots überflutet, die die Fehler der Google-KI dokumentierten und verspotteten. Viele Nutzer äußerten ihre Besorgnis über die potenziellen Gefahren und die Unzuverlässigkeit der von der KI generierten Informationen.

Ein Nutzer schrieb auf Threads: "Sie haben dutzende gute Ideen gekauft und getötet und geben uns diese Alpha-Funktion. Super." Ein anderer kommentierte auf Twitter: "Es ist völlig verwerflich, dass Google argumentiert, die Fehler lägen an 'unüblichen Anfragen'. Das ist, als würde eine Bibliothek sagen, je seltener ein Buch ausgeliehen wird, desto weniger sollte man ihm vertrauen."

Die Reaktion von Google

Google hat auf die Kritik reagiert und erklärt, dass die fehlerhaften Antworten auf sehr unübliche Anfragen zurückzuführen seien und nicht repräsentativ für die Erfahrungen der meisten Nutzer wären. In einer Stellungnahme betonte das Unternehmen: "Die Beispiele, die wir gesehen haben, sind generell sehr unübliche Anfragen und repräsentieren nicht die Erfahrungen der meisten Menschen. Der Großteil der AI Overviews liefert qualitativ hochwertige Informationen mit Links, um auf weiteren Webseiten tiefergehende Informationen zu finden."

Google erklärte weiter, dass umfangreiche Tests durchgeführt wurden, um sicherzustellen, dass die AI Overviews den hohen Qualitätsstandards des Unternehmens entsprechen. Bei Verstößen gegen die Richtlinien habe man entsprechende Maßnahmen ergriffen und nutze diese isolierten Beispiele, um die Systeme weiter zu verfeinern.

Frühere Probleme mit Google-KI

Dies ist nicht das erste Mal, dass Google mit seinen KI-gestützten Produkten in Schwierigkeiten gerät. Im Februar dieses Jahres musste das Unternehmen seinen Chatbot Gemini pausieren, der wegen seiner "woken" Antworten kritisiert wurde. Auch der Vorläufer von Gemini, Bard, hatte einen holprigen Start.

Die aktuellen Probleme werfen erneut die Frage auf, wie zuverlässig und sicher KI-gestützte Suchmaschinen wirklich sind. Trotz umfangreicher Tests und der Betonung, dass es sich um experimentelle Funktionen handelt, bleibt die Unsicherheit bestehen.

Die Zukunft der KI in Suchmaschinen

Google ist nicht das einzige Unternehmen, das mit der Integration von KI in seine Produkte zu kämpfen hat. Auch Microsoft steht unter Beobachtung, nachdem bekannt wurde, dass seine neuen KI-fokussierten PCs kontinuierlich Screenshots der Online-Aktivitäten der Nutzer machen könnten. Und OpenAI, der Entwickler von ChatGPT, wurde von Hollywood-Schauspielerin Scarlett Johansson kritisiert, weil die KI eine Stimme verwendete, die ihrer eigenen ähnelte, obwohl sie eine Anfrage zur Vertonung des Chatbots abgelehnt hatte.

Die Zukunft der KI in Suchmaschinen bleibt ungewiss. Während die Technologie zweifellos das Potenzial hat, das Sucherlebnis zu revolutionieren und den Nutzern das Leben zu erleichtern, müssen die Entwickler sicherstellen, dass die Informationen zuverlässig und sicher sind. Google hat angekündigt, weiterhin wertvollen Traffic zu Verlagen und Erstellern zu leiten und die Systeme kontinuierlich zu verbessern.

Fazit

Die jüngsten Vorfälle mit Googles AI Overviews haben gezeigt, dass es noch viel Arbeit zu tun gibt, um die Zuverlässigkeit und Sicherheit von KI-gestützten Suchmaschinen zu gewährleisten. Die Technologie hat großes Potenzial, aber auch erhebliche Herausforderungen, die angegangen werden müssen. Es bleibt abzuwarten, wie Google und andere Technologieunternehmen diese Herausforderungen meistern und ob die Nutzer das Vertrauen in die KI-gestützten Suchfunktionen wiedererlangen können.

Bibliographie

BBC News. "Google AI search says to glue pizza and eat rocks." https://www.bbc.com/news/articles/cd11gzejgz4o

Yahoo News. "Google AI search says to glue pizza and eat rocks." https://ca.news.yahoo.com/google-ai-search-says-glue-105634747.html

Livemint. "Google's AI-powered search tells users to eat rocks, add glue on pizza." https://www.livemint.com/technology/tech-news/googles-ai-powered-search-tells-users-to-eat-rocks-add-glue-on-pizza-netizens-say-take-this-offline-11716538846860.html

The Guardian. "Google AI search tool reportedly tells users to jump off a bridge and eat rocks." https://www.theguardian.com/technology/article/2024/may/24/google-ai-overviews-search-tool-reportedly-tells-users-to-jump-off-bridge-eat-rocks

Yahoo News New Zealand. "Google AI search says to glue pizza and eat rocks." https://nz.news.yahoo.com/google-ai-search-says-glue-105634747.html

Twitter. BBC News (UK). https://twitter.com/BBCNews/status/1793960255342166370

Boing Boing. "Google's AI-enhanced search suggests users add glue to their pizza and eat one small rock a day." https://boingboing.net/2024/05/24/googles-ai-enhanced-search-suggests-users-add-glue-to-their-pizza-and-eat-one-small-rock-a-day.html

Business Insider. "Google AI Overviews laughed at by CEO of search rival Perplexity." https://www.businessinsider.com/google-ai-overviews-laughed-at-ceo-perplexity-pizza-glue-2024-5

The Telegraph. "Obama Muslim people eat rocks claims Google AI." https://www.telegraph.co.uk/business/2024/05/24/obama-muslim-people-eat-rocks-claims-google-ai/