Die Einführung von AI-Übersichten durch Google hat die Welt der Internetsuche revolutioniert. Diese Funktion, die generative KI nutzt, um Antworten auf Suchanfragen zu liefern, hat jedoch auch zahlreiche Kontroversen ausgelöst. Von fehlerhaften Empfehlungen wie dem Verzehr von Steinen bis hin zu widersprüchlichen Informationen – die AI-Übersichten haben gezeigt, dass die Technologie sowohl beeindruckend als auch fehleranfällig ist.
Googles AI-Übersichten basieren auf Gemini, einem großen Sprachmodell (LLM), ähnlich wie OpenAIs ChatGPT. Diese Technologie generiert schriftliche Antworten auf Suchanfragen, indem sie Informationen aus dem Internet zusammenfasst. Die Fähigkeit der LLMs, flüssigen Text zu produzieren, kann jedoch auch dazu führen, dass sie überzeugende, aber falsche oder irreführende Informationen liefern.
Ein prominentes Beispiel für die Fehleranfälligkeit dieser Technologie war die Empfehlung, Steine zu essen oder Kleber auf Pizza zu streichen. Diese Fehler entstanden, weil die Algorithmen von Google Informationen aus einem satirischen Artikel bzw. einem scherzhaften Reddit-Kommentar zogen.
Richard Socher, ein Experte für AI, betont, dass die Beherrschung von LLMs erhebliche Anstrengungen erfordert, da die zugrunde liegende Technologie keine echte Weltverständnis besitzt und das Internet voller unzuverlässiger Informationen ist.
Google führte umfangreiche Tests durch, bevor die AI-Übersichten eingeführt wurden. Doch trotz dieser Tests traten Fehler auf, die zu zusätzlichen Anpassungen führten. Dazu gehören eine bessere Erkennung unsinniger Anfragen und eine geringere Abhängigkeit von nutzergenerierten Inhalten.
Im Vergleich zu Google vermeidet You.com, eine von Socher gegründete Suchmaschine, ähnliche Fehler durch den Einsatz von etwa einem Dutzend Tricks, um das Fehlverhalten der LLMs zu minimieren. You.com verwendet beispielsweise einen maßgeschneiderten Webindex, um LLMs von falschen Informationen fernzuhalten, wählt aus mehreren LLMs je nach Anfrage und verwendet ein Zitationssystem, das erklären kann, wenn Quellen widersprüchlich sind.
Die Einführung der AI-Übersichten hat verschiedene Reaktionen hervorgerufen. Einige Experten, wie Barry Schwartz von Search Engine Land, sind der Meinung, dass Google sein AI-Upgrade überstürzt hat. Andere, wie Lily Ray, eine Beraterin für Suchmaschinenoptimierung, betonen, dass es nahezu unmöglich sei, dass die Technologie immer alles richtig macht. Dies sei die Natur der AI.
Daniel Griffin, ein Suchberater und Forscher, der Tools entwickelt, um verschiedene AI-gestützte Suchdienste zu vergleichen, erinnert daran, dass Google ähnliche Probleme hatte, als es 2014 die "Featured Snippets" einführte. Er glaubt, dass Google einige der gravierendsten Probleme mit den AI-Übersichten beheben wird, aber es sei wichtig zu bedenken, dass niemand das Problem der LLMs, die nicht verstehen, was wahr ist, oder ihre Neigung, Informationen zu fabrizieren, gelöst hat.
Die Einführung von AI-Übersichten durch Google zeigt sowohl das Potenzial als auch die Grenzen der aktuellen AI-Technologie. Während die Funktion das Potenzial hat, Suchergebnisse zugänglicher zu machen, birgt sie auch erhebliche Risiken, insbesondere wenn die zugrunde liegenden Informationen unzuverlässig sind. Es bleibt abzuwarten, wie Google und andere Unternehmen diese Herausforderungen in Zukunft bewältigen werden.
https://www.wired.com/story/google-ai-overviews-broken-how-ai-works/
https://www.technologyreview.com/2024/05/31/1093019/why-are-googles-ai-overviews-results-so-bad/
https://www.tomshardware.com/tech-industry/artificial-intelligence/cringe-worth-google-ai-overviews
https://www.linkedin.com/posts/garrettsussman_will-googles-ai-overviews-screw-over-brands-activity-7196868846069186561-rJSL
https://rickysutton.substack.com/p/googles-wonky-ai-search-is-sending?utm_source=substack&utm_medium=email&utm_content=share&action=share
https://www.thehoth.com/blog/ai-overview/?utm_source=https://jobalert.ie
https://www.wired.com/story/google-io-end-of-google-search/
https://www.joeyoungblood.com/seo/everything-we-know-about-googles-ai-overviews-ai-organized-serps-in-search-announced-at-google-i-o-2024/
https://searchengineland.com/google-ai-overview-fails-442575