Google Cloud Next '23

Jun 08, 2023

Google Cloud hat heute zum Auftakt seiner jährlichen Benutzerveranstaltung in San Francisco eine Vielzahl von KI-Ankündigungen gemacht, darunter Verbesserungen seiner Infrastruktur zur Unterstützung von KI, eine Ausweitung von KI-Partnerschaften, Verbesserungen seiner KI-Plattform (Vertex) und Aktualisierungen seiner Generative KI-Tool Duet, das in Workspace integriert ist. Die Ankündigungen häuften sich und ließen kaum Zweifel daran aufkommen, dass KI-Investitionen für Google Cloud oberste Priorität haben.

Ich gehe davon aus, dass dieser unermüdliche Fokus auf die Aktualisierung des Marktes mit allen möglichen KI-Fortschritten angesichts der Erwartungen an die Technologie und der Geschwindigkeit, mit der sich der KI-Markt entwickelt, nicht nur auf Google Cloud beschränkt sein wird – Kunden müssen eine Vielzahl von Optionen bewerten und benötigen Informationen darüber, wer in was und wo investiert. Die Keynote der Konferenz heute Morgen, die von Sundar Pichai, CEO von Alphabet und Google, und Thomas Kurian, CEO von Google Cloud, geleitet wurde, bot den Teilnehmern jedoch auch die Gelegenheit, sich aus dem Chaos zu befreien und die Bedeutung der Auswirkungen dieser technologischen Fortschritte bei einigen sehr zu erkennen nützliche Anwendungsfälle.

Eine davon beinhaltete die Demonstration, wie generative KI das Erlebnis für Fahrer, die Unterstützung beim DMV suchen, erheblich verbessern könnte (ein notorisch schreckliches Kundenerlebnis) … aber dazu später mehr.

Es ist leicht, sich in einzelnen Technologiedetails zu verlieren, aber wenn man sie als Ganzes betrachtet und einige wirklich beeindruckende Anwendungsfälle durch Demonstrationen veranschaulicht, werden die KI-Fähigkeiten von Google Cloud erst richtig zum Leben erweckt. Natürlich müssen diese Anwendungsfälle mit Kunden validiert werden und diese Technologien stehen noch am Anfang, aber einige der Ergebnisse, die Geschäftsanwendern präsentiert wurden, waren beeindruckend und vermittelten ein Verständnis für die Kunst des Möglichen.

Zur Eröffnung der Veranstaltung sagte Sundar Pichai, CEO von Alphabet und Google:

In meinen Gesprächen mit Wirtschaftsführern in den letzten Jahren habe ich ein ähnliches Thema gehört. Sie wollen einen Partner, der auf dem neuesten Stand der technologischen Durchbrüche ist, vom Desktop über Mobilgeräte und die Cloud bis hin zur KI. Diese Veränderungen können wirklich aufregend sein. Und sie können auch Unsicherheit mit sich bringen. Das trifft auf jeden Fall auf die Umstellung auf KI zu. Es wird eine der tiefgreifendsten Veränderungen sein, die wir in unserem Leben erleben werden. Es wird jeden Sektor, jede Branche, jede Geschäftsfunktion betreffen. Und die Art und Weise, wie wir leben und arbeiten, maßgeblich verändern.

Dies ist nicht nur eine Funktion – wir beginnen bereits jetzt, die Vorteile zu erleben. Als Unternehmen haben wir uns schon seit einiger Zeit auf diesen Moment vorbereitet. Und in den letzten sieben Jahren verfolgen wir einen AI-First-Ansatz und wenden KI an, um die Verfügbarkeit unserer Produkte deutlich zu verbessern. Wir glauben, dass die Bereitstellung von KI für alle der wichtigste Weg ist, mit dem wir unsere Mission im nächsten Jahrzehnt erfüllen werden.

Bevor wir auf einige der Anwendungsfälle eingehen, die heute auf der Bühne vorgestellt wurden, lohnt es sich, einen Überblick über die wichtigsten Ankündigungen von Google Cloud zu geben. Es ist am besten, diese in drei verschiedenen Bereichen zu betrachten: Infrastruktur, Plattform und Endbenutzer.

Erstens wissen Unternehmen, dass eine ausgefeilte KI-Modellierung hohe Anforderungen an die Infrastruktur stellt. Google Cloud bewirbt seine Infrastruktur als „KI-optimiert“ und kündigt eine Reihe neuer Funktionen an, darunter:

Cloud TPUv5e – Laut Google Cloud ist TPUv5e der bisher kosteneffizienteste, vielseitigste und skalierbarste speziell entwickelte KI-Beschleuniger. Es fügt hinzu, dass Kunden eine einzige Cloud-TPU-Plattform verwenden können, um sowohl groß angelegte KI-Schulungen als auch Inferenzen durchzuführen.

A3-VMs mit NVIDIA H100-GPU – A3-VMs, die mit der H100-GPU von NVIDIA betrieben werden, werden nächsten Monat allgemein verfügbar sein. Google Cloud behauptet, dass diese VMs es Unternehmen ermöglichen, eine dreimal bessere Trainingsleistung als die vorherige Generation A2 zu erzielen.

GKE Enterprise– ermöglicht die horizontale Multi-Cluster-Skalierung, die für die anspruchsvollsten, geschäftskritischsten KI/ML-Workloads erforderlich ist.

Cross-Cloud-Netzwerk – eine globale Netzwerkplattform, die es Kunden ermöglichen soll, Anwendungen cloudübergreifend zu verbinden und zu sichern. Laut Google Cloud ist es offen, arbeitslastoptimiert und bietet ML-gestützte Sicherheit, um Zero Trust zu gewährleisten.

Google Distributed Cloud (GDC) – GDC zielt darauf ab, Organisationen zu unterstützen, die Workloads am Edge oder in ihren Rechenzentren ausführen möchten. Das GDC-Portfolio umfasst Vertex AI-Integrationen und ein neues verwaltetes Angebot von AlloyDB Omni auf GDC Hosted.

Als nächstes haben wir Updates für die KI-Plattform von Google Cloud, Vertex AI, die Benutzern ein Portal zum Erstellen, Bereitstellen und Skalieren von Modellen für maschinelles Lernen bietet. Vertex bietet Zugriff auf mehr als 100 Basismodelle, darunter proprietäre Modelle von Google Cloud, aber auch Modelle von Drittanbietern und Open-Source-Modelle. Sie sind für verschiedene Aufgaben optimiert, darunter Text, Chat, Bilder, Sprache und Softwarecode, und umfassen auch branchenspezifische Modelle für Bereiche wie Cybersicherheit und Gesundheitswesen. Zu den Updates für Vertex AI gehören:

PaLM 2, Imagen- und Codey-Upgrades - Aktualisierungen von PaLM 2 auf 32.000 Kontextfenster, sodass Unternehmen längere Dokumente wie Forschungsarbeiten und Bücher verarbeiten können. Google Cloud aktualisiert außerdem die visuelle Attraktivität von Imagen und erweitert die Unterstützung für neue Sprachen in Codey.

Werkzeuge zum Tuning – Für PaLM 2 und Codey stellt Google Cloud das Adapter-Tuning allgemein bzw. in der Vorschau zur Verfügung, um mit nur 100 Beispielen zur Verbesserung der LLM-Leistung beizutragen. Außerdem wird eine neue Optimierungsmethode für Imagen namens Style Tuning eingeführt, sodass Unternehmen mit nur 10 Referenzbildern Bilder erstellen können, die auf ihre spezifischen Markenrichtlinien oder andere kreative Anforderungen abgestimmt sind.

Neue Modelle – Llama 2 und Code Llama von Meta sind jetzt verfügbar, ebenso wie Falcon LLM des Technology Innovative Institute, ein beliebtes Open-Source-Modell. Google Cloud hat außerdem Claude 2 von Anthropic vorab angekündigt.

Vertex AI-Erweiterungen – Entwickler können jetzt auf Erweiterungen zugreifen, diese erstellen und verwalten, die Echtzeitinformationen liefern, Unternehmensdaten integrieren und im Namen des Benutzers Maßnahmen ergreifen. Google Cloud ist davon überzeugt, dass dies neue Möglichkeiten für Gen-KI-Anwendungen eröffnet, die als Erweiterung Ihres Unternehmens fungieren können, ermöglicht durch die Möglichkeit, auf proprietäre Informationen zuzugreifen und auf Plattformen von Drittanbietern wie Ihrem CRM-System oder E-Mail Maßnahmen zu ergreifen.

Erdung – Es wurde ein neuer Enterprise-Grounding-Service angekündigt, der für alle Vertex AI Foundation-Modelle, Search und Conversation, funktioniert. Ziel ist es, Kunden die Möglichkeit zu geben, Antworten in ihren eigenen Unternehmensdaten zu verankern, um genauere Antworten zu liefern. Google Cloud arbeitet auch mit einigen frühen Kunden zusammen, um die Technologie zu testen, die die Google-Suche unterstützt.

Digitales Wasserzeichen auf Vertex AI – Unterstützt durch Google DeepMind SynthID bietet dies eine Technologie, die das Wasserzeichen direkt in das Pixelbild einbettet, wodurch es für das menschliche Auge unsichtbar und schwer zu manipulieren ist. Laut Google Cloud bietet digitales Wasserzeichen Kunden einen skalierbaren Ansatz für die verantwortungsvolle Erstellung und Identifizierung von KI-generierten Bildern.

Colab Enterprise – ein verwalteter Dienst, der die Colab-Notizbücher von Google mit Sicherheits- und Compliance-Funktionen auf Unternehmensebene kombiniert. Datenwissenschaftler können Colab Enterprise nutzen, um an KI-Workflows mit Zugriff auf die Funktionen der Vertex AI-Plattform zusammenzuarbeiten, in BigQuery zu integrieren sowie Code zu vervollständigen und zu generieren.

Und schließlich konzentrieren sich die Ankündigungen für Geschäftsanwender auf die Integration von Duet AI mit Workspace und Google Cloud. Duet AI wurde bereits im Mai als generativer KI-Assistent vorgestellt, der die Produktion von Inhalten und die Arbeit im Unternehmen beschleunigen soll (mehr dazu später). Zu den wichtigsten heute angekündigten Updates gehören:

Duett-KI in Google Meet- Duet AI macht sich während Videoanrufen Notizen, sendet Besprechungszusammenfassungen und übersetzt Untertitel automatisch in 18 Sprachen.

Duett-KI in Google Chat- Benutzer können direkt mit Duet AI chatten, um Fragen zu ihren Inhalten zu stellen, eine Zusammenfassung der in einem Bereich geteilten Dokumente zu erhalten und verpasste Gespräche nachzuholen.

Software-Entwicklung - Duet AI bietet Unterstützung während des gesamten Softwareentwicklungslebenszyklus mit dem Ziel, den Kontextwechsel zu minimieren, um Entwicklern zu mehr Produktivität zu verhelfen. Zusätzlich zur Code-Vervollständigung und Code-Generierung kann es mithilfe einfacher Eingabeaufforderungen in natürlicher Sprache beim Code-Refactoring und beim Erstellen von APIs helfen.

Anwendungs- und Infrastrukturbetrieb- Betreiber können mit Duet AI in natürlicher Sprache über eine Reihe von Diensten hinweg direkt in der Google Cloud Console chatten, um Anleitungsinformationen zur Infrastrukturkonfiguration, Best Practices für die Bereitstellung und Expertenempfehlungen zur Kosten- und Leistungsoptimierung abzurufen.

Datenanalyse – Duet AI in BigQuery zielt darauf ab, kontextbezogene Unterstützung beim Schreiben von SQL-Abfragen sowie Python-Code bereitzustellen. Es ist außerdem in der Lage, vollständige Funktionen und Codeblöcke zu generieren, automatisch Codevervollständigungen vorzuschlagen, SQL-Anweisungen in natürlicher Sprache zu erklären und Empfehlungen basierend auf Schema und Metadaten zu generieren.

Nachdem die Technologieankündigungen vorüber waren, nahm sich Thomas Kurian, CEO von Google Cloud, zusammen mit Kollegen etwas Zeit, um zu zeigen, wie Vortex und Duet AI die Arbeitsweise der Menschen wirklich verändern und das Kundenerlebnis transformieren können.

Ein Beispiel konzentrierte sich auf das DMV – das Department of Motor Vehicles –, das in den USA einen guten Ruf für seinen schlechten Kundenservice und schmerzhafte Erfahrungen genießt. Die Demonstration konzentrierte sich auf die zunehmende Verflechtung von Konversation und Suche, wobei der DMV schnell eine App innerhalb von Vortex erstellen konnte. Dem Entwickler wurde gezeigt, wie er eines der verfügbaren LLMs auswählt, die relevanten Daten eingibt und dann eine Reihe von Prozessaufforderungen bereitstellt, damit die Konversations-KI weiß, wie sie mit Kunden arbeiten soll.

Die Geschwindigkeit, mit der die App „erstellt“ wurde, schien beeindruckend zu sein (obwohl die Prozessaufforderungen bereits vor Ort validiert wurden – und das war wahrscheinlich das zeitaufwändigste Element). Das Ergebnis für den Endbenutzer auf der DMV-Website war, dass er eine Frage stellen konnte wie „Wie erneuere ich meine Lizenz?“ und es wurde eine Antwort mit den verschiedenen Optionen bereitgestellt, vor allem aber mit Zitaten, die auf verschiedenen Links auf der DMV-Website basieren. Benutzer könnten dann Folgefragen stellen, z. B. „Wie lange dauert die Erneuerung einer Lizenz?“.

Während dieses Gespräch noch läuft, erkennt das KI-Tool, was der Endbenutzer zu tun versucht, und gibt einen Aufruf zum Handeln, indem es etwa Folgendes sagt: „Wir sehen, dass Sie in San Jose leben und versuchen, Ihre Lizenz dort zu erneuern.“ ?'. Der Benutzer kann dann mit „Ja“ antworten und die KI sagt dann: „Der nächste verfügbare Termin im Umkreis von 20 Autominuten von Ihrem Standort ist nächsten Dienstag, möchten Sie ihn buchen?“.

Wenn Sie mit „Ja“ antworten, bucht das KI-Tool nicht nur den Termin, sondern fügt den Termin auch dem Kalender des Benutzers hinzu und sendet ihm eine E-Mail mit einer Bestätigung. Die Abbildung war sehr beeindruckend (insbesondere, wenn Sie versucht haben, einen Termin bei einer Regierungsbehörde/-abteilung zu vereinbaren).

Eine weitere Demonstration konzentrierte sich auf Duet AI, das bei der Integration in Google Drive von einem Benutzer aufgefordert werden konnte, eine Präsentation (basierend auf einem vorherigen Beispiel) mit allen Daten zu einem bestimmten Thema, Unternehmen oder Produkt zu erstellen. Die Präsentation wurde automatisch generiert und dann konnte der Benutzer sie bearbeiten, indem er erneut Duet AI verwendete, ihn jedoch mit Befehlen wie „Können Sie eine Folie hinzufügen, die sich darauf konzentriert, warum dies für die Generation Z relevant ist?“ aufforderte. Auch hier wurde die Folie automatisch generiert.

Beeindruckend war auch der Einsatz von Duet innerhalb von Google Meets. Es wurden Beispiele dafür gezeigt, wie das KI-Tool Ihnen Aufzählungspunkte darüber liefern kann, was Sie im Meeting verpasst haben, wenn Sie zu spät kamen, oder wie es während des gesamten Meetings automatisch Aktionspunkte zusammenstellte und Ihnen am Ende eine Liste zur Verfügung stellte.

Da Unternehmen in rasantem Tempo auf generative KI umsteigen, oft aber nur begrenzte Kenntnisse darüber haben, wie sie diese für sich nutzen können, war es sehr hilfreich, über die (wenn auch notwendigen) Technologie-Updates von Google Cloud hinauszugehen und die Beispiele aus der Praxis hervorzuheben. Es ist erwähnenswert, dass es sich dabei um vorab vorbereitete Demonstrationen handelte und wie wir wissen, sind die notwendigen Grundlagen (sowohl Technologie als auch Daten) der Schlüssel zum Erfolg. Wie das in einem komplexen Unternehmen aussieht, ist eine andere Geschichte. Allerdings haben wir heute eine Reihe von Kunden kennengelernt, die diese generativen KI-Tools bereits in ihren Unternehmen einsetzen und bereits Ergebnisse sehen. Wir werden in den kommenden Tagen eine Reihe von Fallstudien verfassen, also halten Sie die Augen offen. Aber ein solider und hilfreicher Start von Google Cloud am ersten Veranstaltungstag – mehr folgt morgen.