Der Verlust des Benutzervertrauens ist der letzte Punkt, an dem es kein Zurück mehr gibt.

Google (GOOG, GOOGL) hat am Mittwoch im Rahmen seiner I/O-Konferenz eine Reihe neuer generativer KI-Funktionen für sein umfangreiches Produkt-Ökosystem vorgestellt. Die Veranstaltung war für das Unternehmen gleichermaßen eine Möglichkeit, zu zeigen, woran es im Laufe der Zeit gearbeitet hat im vergangenen Jahr und beweisen Sie seinen Nutzern und Investoren, dass Microsoft und nicht Microsoft (MSFT) das führende Unternehmen im Bereich der künstlichen Intelligenz ist.

Zu den wichtigsten Ankündigungen während der Show gehörte die Hinzufügung einer KI-Verfassen-Funktion namens „Help Me Write“, die Ihnen beim Schreiben von E-Mails helfen wird. Aufgrund des Einsatzes generativer KI müsse das Unternehmen laut Google Workspace-Vizepräsidentin Aparna Pappu jedoch darauf achten, keine unangemessenen Antworten zu forcieren, da das Unternehmen sonst Gefahr laufe, das Vertrauen der Nutzer zu verlieren.

„Der Verlust des Benutzervertrauens ist der ultimative Punkt, an dem es kein Zurück mehr gibt“, sagte sie gegenüber Yahoo Finance. „Das ist unser Northstar“, das Vertrauen der Nutzer darf nicht verloren gehen. „“

Generative KI hat eine Reihe heikler Fragen aufgeworfen, von der Frage, ob sie Arbeitsplätze wie Ihren überflüssig machen wird, bis hin zur Frage, ob sie in Schulen zugelassen werden sollte. Es ist ebenfalls zu einem Streitpunkt geworden, wie viel Vertrauen Benutzer in die Technologie haben können, um genaue Antworten auf ihre Eingabeaufforderungen zu geben.

Laut Babu ist dies auch einer der Gründe, warum Google seine generativen KI-Funktionen vor der Veröffentlichung vertrauenswürdigen Testern zur Verfügung stellt.

„Bevor wir reingehen [general availability] Wir müssen es testen und auf Herz und Nieren prüfen, um es überhaupt in die Labore zu bringen [Google’s early user test program] Babu erklärte, dass es viele strenge Tests zur Benutzerfreundlichkeit, Haftung und Sicherheit durchläuft, bevor wir es einem einzigen Drittbenutzer zum Ausprobieren überlassen.

Die Angebote von Google und Microsoft zur generativen KI weisen ausdrücklich darauf hin, dass sie sich in einem frühen Teststadium befinden oder dass einige der Antworten möglicherweise nicht korrekt sind. Darüber hinaus ist generative KI im Allgemeinen anfällig für „Halluzinationen“, was im Grunde eine ausgefeilte Ausdrucksweise dafür ist, dass sie Antworten auf bestimmte scheinbar genaue, aber falsche Benutzeranfragen formulieren kann.

Während des Abschnitts „60 Minutes“ halluziniert Googles Chatbot Bard ein nicht existierendes Buch. CEO Sundar Pichai erklärte in dem Clip, dass das Problem derzeit bei vielen Chatbots auftritt und dass Ingenieure versuchen, es besser zu verstehen.

Die Geschichte geht weiter

Zu diesem Zweck testet Google laut Babu weiterhin seine Systeme, um falsche oder unangemessene Antworten zu verhindern.

„Verantwortungsvolle und sichere KI entsteht nicht über Nacht. Es bedarf jahrelanger Arbeit an KI und der Frage, wie man kontradiktorische Tests durchführt“, erklärte Babu. „Grundsätzlich wird verantwortungsvolle und sichere KI bei der Entwicklung dieser Produkte getestet.“

Ein Problem, das laut Pappu einzigartig bei Workspace ist, besteht darin, dass es von Milliarden von Benutzern verwendet wird, von denen jeder sein eigenes Verständnis der Technologie hat. Eine Funktion wie generative KI in die Gleichung einzubeziehen, ohne diese Benutzer zu verwirren, ist an sich schon ein Rätsel.

„Wir haben 3 Milliarden Nutzer“, sagte sie. „Wir haben die Verantwortung, diese Dinge wirklich einfach und benutzerfreundlich zu machen.“

von Daniel HollyTechnischer Redakteur bei Yahoo Finance. Folge ihm @Mitarbeiter

Klicken Sie hier für die neuesten Börsennachrichten und ausführliche Analysen, einschließlich der Ereignisse, die Aktien bewegen

Lesen Sie die neuesten Finanz- und Wirtschaftsnachrichten von Yahoo Finance