Google zieht Antworten aus der KI-Suche zurück, nachdem es den Nutzern gesagt hat, sie sollen Leim essen

Liz Read, Leiterin der Suchabteilung von Google, sagte: Blogeintrag Am Donnerstagnachmittag hat das Unternehmen einige der KI-Antworten eingegrenzt, die es „KI-Übersichten“ nennt. Das Unternehmen reduzierte die Nutzung von Social-Media-Beiträgen als Quelle für KI-Antworten, pausierte einige Antworten zu gesundheitsbezogenen Themen und „fügte Anreizbeschränkungen für Abfragen hinzu, bei denen sich die KI-Übersicht als nicht hilfreich erwies“, sagte Reed in dem Beitrag. . Reed sagte, das Unternehmen habe mehr als ein Dutzend technische Änderungen vorgenommen, um das System zu verbessern.

Die Änderung ist das jüngste Beispiel dafür, dass Google mit großem Getöse ein KI-Produkt auf den Markt bringt und es dann wieder aufgibt, wenn es schiefgeht. Im vergangenen Februar verbot das Unternehmen Benutzern das Fotografieren von Personen mit seinem KI-Fototool, nachdem konservative Kommentatoren ihm Voreingenommenheit gegenüber Weißen vorwarfen.

Die Technologiebranche befindet sich mitten in einer KI-Revolution, bei der Startups und Technologiegiganten gleichermaßen versuchen, neue Wege zu finden, die Technologie in ihre Produkte zu integrieren und damit Geld zu verdienen. Viele Tools werden auf den Markt gebracht, bevor sie zur Hauptsendezeit bereit sind, da Unternehmen darum konkurrieren, ihre Produkte als Erste auf den Markt zu bringen und sich als Spitzenreiter zu präsentieren.

Google, dessen Mitarbeiter viele fortschrittliche KI-Tools wie ChatGPT erfunden haben, versucht Investoren, Verbrauchern und seinen eigenen Mitarbeitern zu beweisen, dass es immer noch der wichtigste Player der Branche ist. Auf der I/O in diesem Monat machte das Unternehmen mehr als 100 verschiedene KI-bezogene Ankündigungen.

Das größte war die Bestätigung, dass das Unternehmen mit der Einführung von KI-generierten Antworten in den Suchergebnissen für die meisten seiner Benutzer beginnen würde. Google testet AI Answers seit einem Jahr mit einer ausgewählten Gruppe von Nutzern, aber wenn man es zu mehr Suchergebnissen hinzufügt, werden die meisten Menschen nun beginnen, direkt mit generativer KI über ein Tool zu interagieren, das sie täglich verwenden.

Die Technik funktioniert, indem sie Websites liest, die möglicherweise in den Google-Suchergebnissen erscheinen, und sie dann in Antworten mit mehreren Absätzen zusammenfasst. Verlage haben Einspruch erhoben und dem Unternehmen vorgeworfen, ihr Geschäft zu schädigen, indem es ihre Inhalte entwendet und sie direkt in den Suchergebnissen an die Nutzer zurückgibt, wodurch ihnen wichtiger Webverkehr entzogen wird.

Aber Journalisten, Suchmaschinenexperten und Social-Media-Nutzer begannen schnell, die Probleme anhand der Antworten zu entdecken. Einige der Antworten waren lustig, andere verstörend. Sie erschienen auch bei sensiblen Fragen, auch im Gesundheitsbereich.

Eine Antwort, die Google inzwischen korrigiert hat, forderte die Menschen auf, viel Urin zu trinken, um Nierensteine ​​auszuspülen. Ein anderer sagte, dass JFK in sechs verschiedenen Jahren sein Studium an der University of Wisconsin in Madison abgeschlossen habe, drei davon nach seinem Tod.

Google versuchte, das Tool so weit wie möglich zu testen, bevor es in größerem Maßstab auf den Markt kam, aber Reed sagte, dass der groß angelegte Start viele Situationen offenbarte, auf die das Unternehmen nicht vorbereitet war.

„Es gibt nichts Besseres als Millionen von Menschen, die diese Funktion nutzen“, sagte Reed.