Wie Unternehmen ChatGPT & Co nutzen

Werden ChatGPT & Co in kommerziellen Produkten verwendet?

Das Herumspielen mit ChatGPT macht Spaß, und wenn wir den Nachrichten glauben, erledigt es inzwischen den Großteil der Hausaufgaben von Schülern. Allerdings werden auch große Sprachmodelle (LLMs) nur dann überleben, wenn jemand herausfindet, wie man mit ihnen Geld verdienen kann. Offensichtlich ist das bereits geschehen: Viele Unternehmen haben ChatGPT in ihre Produkte integriert. Sie zeigen damit, dass LLMs bereits tatsächlichen Wert (und Profit) erzeugen. Anders als bei vergangenen Hypes macht mich das zuversichtlich, dass LLMs uns erhalten bleiben werden. Ich werde einige der wichtigsten Anwendungsfälle durchgehen.

Websuche

Microsoft hat wahrscheinlich als erstes Unternehmen ein LLM kommerziell integriert, und zwar Prometheus (basierend auf GPT-4) für ihren Bing Chat. Dies hat das Interesse an Bing wiedererweckt, so sehr, dass sogar von einer ernsthaften Bedrohung für die Google-Suche gesprochen wurde. Google bietet ein ähnliches Tool namens Search Generative Experience (SGE) an, das jedoch nur über die Google Mobile App (Android und iOS) in den USA und auf Chrome Desktop verfügbar ist.

Das Hauptproblem sind die Kosten: Angeblich kostet eine LLM-gesteuerte Suche derzeit etwa 10x mehr als eine Standard-Suche, aufgrund der großen Menge an benötigten Ressourcen. Tatsächlich könnte dies immer noch eine konservative Schätzung sein. Dies würde bedeuten, dass es Google etwa 3 bis 6 Milliarden Dollar mehr kosten würde, alle Suchanfragen mit LLMs zu betreiben. Dies ist der Grund, warum Google die Funktionalität nur einem kleinen Teil seiner Benutzer anbietet, und warum Microsoft angekündigt hat, dass Bing Chat Enterprise in Zukunft 5 Dollar pro Monat kosten wird.

Code-Generierung

Das LLM-gesteuerte Tool mit dem größten Beitrag zur Effizienz-Steigerung ist wohl GitHub Copilot (und Copilot X). Ursprünglich auf OpenAI Codex (basierend auf GPT-3) aufgebaut, wurde in der Zwischenzeit ein neues Modell gemeinsam von OpenAI, Microsoft und GitHub entwickelt. Es ermöglicht die Produktion von Software, indem man Copilot einfach anweist, den Code zu schreiben. Ein erfahrener Programmierer ist immer noch erforderlich, um den bereitgestellten Code zu überprüfen und zu korrigieren, aber in der Regel geht dies viel schneller als das Schreiben des Programmes per Hand. Bereits im Februar 2023 wurde berichtet, dass Copilot etwa die Hälfte des Codes eines durchschnittlichen Entwicklers erstellt. Darüber hinaus kann Copilot auch Code erklären und optimieren sowie automatisch Kommentare und Commit-Nachrichten erstellen.

Bildung

Das neue Duolingo Max bietet zwei zusätzliche Funktionen für Sprachenlernende: Mit GPT-4 erklärt es den Schülern, warum ihre Antwort auf eine Frage falsch war, wie ein menschlicher Tutor. Und es ermöglicht Diskussionen mit KI-Personen: Stell dir vor, du könntest bestimmte Situationen wie das Treffen einer neuen Person durch Rollenspiele üben.

Chegg unterstützt College-Studenten bei Aufgaben, in der Vergangenheit durch menschliche Experten. Nach der Ankunft von ChatGPT wurde dieses Service immer weniger in Anspruch genommen und der Aktienkurs fiel um 40%. Jetzt bietet die Plattform Cheggmate mit GPT-4 an, um Studenten bei Aufgaben zu helfen.

Quizlet bietet Q-Chat, einen ChatGT-gesteuerten Tutor, der das Lernen mittels Diskussionen ermöglicht und Testfragen zum Material erstellt. Ebenso bietet Udacity einen GPT-4-gesteuerten Tutor für personalisierte Unterstützung: Er hilft Studenten, komplexe Probleme zu lösen, indem er detaillierte Erklärungen gibt, Inhalte zusammenfasst und Material in andere Sprachen übersetzt.

Kollaborative Plattformen und soziale Medien

Salesforce verbessert Slack mit Einstein, einem LLM auf der Grundlage von ChatGPT. Slack ChatGPT kann Antworten und Kommentare in Chats verfassen, Threads zusammenfassen und nach externen Informationen suchen.

Auch Snapchat hat eine dialogorientierte KI, basierend auf ChatGPT, hinzugefügt: Der Chatbot My AI wird zur Kontaktliste hinzugefügt und Benutzer können mit ihm chatten. Genau wie ChatGPT kann es alle Arten von Fragen beantworten oder dich einfach nur unterhalten…

Ghost ist eine anonyme Social-App, die es Benutzern ermöglicht, Nachrichten in einem Gruppenchat ohne Preisgabe ihrer Identität zu teilen. Die App bietet auch die Möglichkeit, ChatGPT-Fragen innerhalb des Gruppenchats zu stellen.

Die in Indien ansässige Microblogging-App Koo, Konkurrent von X (ehemals Twitter), hat ChatGPT-Funktionen in ihr Produkt integriert, um Benutzern beim Verfassen von Beiträgen zu helfen: Es schlägt Top-Nachrichten vor, findet Zitate und kann sogar den gesamten Blog-Beitrag entwerfen.

Kundenbeziehungsmanagement und Kundensupport

Und es gibt noch mehr von Salesforce: AI Cloud verwendet ebenfalls Einstein. Für Vertriebsmitarbeiter generiert es personalisierte E-Mails an Kunden und für Supportteams Chat-Antworten und Zusammenfassungen. AI Cloud generiert auch personalisierte Marketinginhalte für E-Mail, Handy, Web und Anzeigen, und liefert Analysen und Empfehlungen.

Octopus Energy, ein Energieversorger im Vereinigten Königreich, verwendet ChatGPT für den Kundenservice. Es behauptet, dass ChatGPT 44% der Kundenanfragen bearbeitet und die Arbeit von 250 Personen erledigt, und dabei eine Zufriedenheitsrate von 80% erzielt - im Vergleich zu 65%, die von Menschen erreicht wird.

Andere Unternehmen die mittels ChatGPT mit ihren Kunden sprechen sind Instacart und Shopify.

Reisebüro

Expedia verwendet ChatGPT für dialogorientierte KI-Hilfe: Kunden können ihren Urlaub planen, indem sie mit einem LLM chatten, anstatt nach Hotels und Flügen zu suchen. Die App kann auch Inhalte empfehlen: etwa Listen von Hotels, die für den Kunden interessant sein könnten.

Observability

Dynatrace ist eine Plattform für die Beobachtung und Sicherheit für Cloud-basierte Unternehmensangebote, die die Gesundheit der verwendeten Infrastruktur und Anwendungen sowie Sicherheitsbedrohungen analysiert, unter vieles mehr. Dies erzeugt eine große Menge an Daten im Zusammenhang mit der Performance der Anwendung, Sicherheit, Benutzerinteraktionen und vielem mehr, auf die das Unternehmen Zugriff hat, das die Software verwendet. Kürzlich führte Dynatrace Davis Copilot ein, das von einem LLM angetrieben wird und es Benutzern ermöglicht, “ihre Daten zu fragen”: Mittels natürlicher Sprache können Abfragen, Dashboards, Notebooks und sogar Workflows generiert werden.

Computerspiele

Unity bietet Tools zur Erstellung von professionellen Spielen und 3D-Inhalten. Mit ihrer Integration von LLM-Techniken können Entwickler Muse verwenden, um Echtzeit-3D-Animationen, physikalische Effekte, Code und andere Inhalte zu erstellen. Sentis ermöglicht außerdem die Integration von LLMs in Spiele: Nicht-Spieler-Charaktere können von LLMs betrieben werden und realistischer mit Spielern interagieren. Es ist sogar möglich, neuen Inhalt und Umgebungen spontan zu erstellen, während Benutzer spielen!

Die Zukunft

Es ist nicht schwer vorherzusagen, dass die Zahl der Produkte mit einem Generativen-KI-Hintergrund in Zukunft stark zunehmen wird. Dies betrifft nicht nur LLMs, sondern auch die Generierung von anderen Modalitäten wie Bildern und Ton. Die Anzahl profitabler Anwendungsfälle wird weiter zunehmen, insbesondere da die Kosten für die Verwendung von LLMs weiter sinken.