Die Microsoft OpenAI-Partnerschaft entstand aus dem Neid von Google

Es stellt sich heraus, dass die heutige KI-Landschaft auf Angst, Eifersucht und intensiven kapitalistischen Ehrgeiz zurückzuführen ist. Zuerst die E-Mails, die im Kartellverfahren des Justizministeriums gegen Google aufgedeckt wurden erwähnt von Interessiert am Handelzeigt Microsoft-Führungskräfte, die ihren Ärger und Neid über Googles Fortschritte in der künstlichen Intelligenz zum Ausdruck bringen. Dies löste die Dringlichkeit aus, die den Windows-Hersteller dazu veranlasste, zunächst eine Milliarde US-Dollar in seinen mittlerweile unverzichtbaren Partner OpenAI zu investieren.

In einer stark redigierten E-Mail-Serie aus dem Jahr 2019 mit dem Titel „Gedanken zu OpenAI“ sendet Microsoft-CEO Satya Nadella einen langen Brief von CTO Kevin Scott an CFO Amy Hood. „Eine sehr gute E-Mail, in der erklärt wird, warum ich möchte, dass wir dies tun … und auch, warum wir dann dafür sorgen, dass unsere Infrastrukturmitarbeiter dies tun“, schrieb Nadella.

Scott schrieb, er sei „zutiefst besorgt“ über die schnell wachsenden KI-Fähigkeiten von Google. Er sagt, er habe die „aufregenden Gameplay-Spiele“ des Unternehmens zunächst abgelehnt, wahrscheinlich eine Anspielung auf die AlphaGo-Modelle von Google. Einer von ihnen besiegte 2017 den Weltmeister Go Ke Jie, damals eine beeindruckende Leistung. (Spätere Google-Modelle gingen über dieses Modell hinaus und machten eine menschliche Schulung völlig überflüssig.)

Aber Scott sagt, es sei „ein Fehler“ gewesen, die Fortschritte von Google im Gaming-Bereich zu ignorieren. „Als sie die gesamte Infrastruktur übernahmen, die sie aufgebaut hatten [natural language] „Modelle, die wir nicht einfach reproduzieren konnten, begannen, die Dinge ernster zu nehmen“, schrieb Scott. „Als ich mich eingehender mit dem Versuch befasste, die Leistungslücken zwischen Google und uns in Bezug auf modulare Schulungen zu verstehen, war ich sehr, sehr besorgt.“

Scott erzählt, wie Microsoft Schwierigkeiten hatte, das große BERT-Modell von Google zu kopieren, das KI-Modell, das die Bedeutung und den Kontext von Wörtern in einem Satz entschlüsselt. Scott machte die Fortschritte in der Infrastruktur seines Konkurrenten verantwortlich, was Microsoft nicht tat.

„Es stellte sich heraus, dass es für uns nicht einfach war, das große BERT-Modell einfach zu replizieren. „Obwohl wir das Modell eingerichtet hatten, dauerte es ungefähr sechs Monate, um das Modell zu trainieren, da unsere Infrastruktur der Aufgabe nicht gewachsen war“, sagte der CTO von Microsoft schrieb: „Google hatte BERT schon seit mindestens sechs Monaten, also hatten sie in der Zeit, die wir brauchten, um die Fähigkeit zum Trainieren eines 340-Millionen-Parameter-Modells zusammenzubringen, ein Jahr Zeit, um herauszufinden, wie wir es in Produktion bringen und vorantreiben konnten.“ zu breiteren, interessanteren Modellen.

Er drückte auch seine Bewunderung und seinen Neid für die Autovervollständigungsfunktionen von Google in Gmail aus und sagte, sie seien „erschreckend gut geworden“. Er bemerkte, dass Microsoft „in Bezug auf … mehrere Jahre hinter der Konkurrenz zurückgeblieben sei.“ [machine learning] Volumen.“ Er kommentierte das „interessante“ Wachstum bei OpenAI, DeepMind und Google Brain.

Scott lobte die „sehr klugen“ Leute von Microsoft in seinen Teams für maschinelles Lernen, sagte aber, ihre Ambitionen seien gebremst worden. „Aber die Deep-Learning-Kernteams in jedem dieser großen Teams sind sehr klein, und auch ihre Ambitionen wurden eingeschränkt, was bedeutet, dass sie, selbst wenn wir anfangen, ihnen Ressourcen zuzuführen, noch einen Lernprozess durchlaufen müssen, um die Arbeit zu skalieren.“ Scott schrieb. „Und in Bezug auf die Skala des maschinellen Lernens liegen wir mehrere Jahre hinter der Konkurrenz.“

Nachdem Hood darauf bestanden hatte, dass Scotts Bedenken lauteten: „Warum möchte ich, dass wir das tun“, nämlich die Investition in OpenAI, erfüllte das Unternehmen die Wünsche seines CEO. Microsoft investierte 2019 eine Milliarde US-Dollar in das von Sam Altman geführte Startup, der Rest ist eine rasante Geschichte. (Inzwischen wurden 13 Milliarden US-Dollar investiert.) Es handelt sich um eine Technologie, die Unglaubliches leistet, aber gleichzeitig den Arbeitsmarkt zu zerstören droht und Predigern ihr bisher mächtigstes Werkzeug in einer Zeit an die Hand gibt, in der ohnehin schon grassierende Fehlinformationen herrschten.