LLM /Text KI

Die LLM /Text KI

Die Bedeutung von LLM ist „Large Language Model“, das sind umfangreiche Sprachmodelle wie GPT-3 (Generative Pre-Trained Transformer 3) von OpenAI.
Wer große Sprachmodelle nutzen möchte, ohne ein Open Source Modell umständlich auf dem eigenen System aufzusetzen, nutzt Chatbots von Drittanbietern. Die meistgenutzten stellen wir hier mit ihren Vor- und Nachteilen vor.

Ein Large Language Model (LLM) ist eine Form von künstlicher Intelligenz, die darauf trainiert ist, möglichst ähnlich zu den von Menschen geschriebenen Texten, Inhalte zu generieren. Derartige Texte muss das LLM aber auch “verstehen”, um dann darauf mit einer adäquaten schriftlichen Antwort reagieren zu können.
Solche Modelle werden in verschiedenen Anwendungen eingesetzt. Die spezifischen Funktionen hängen allerdings vom ausgewählten Produkt und dem genauen Verwendungszweck ab.

Textgenerierung

Das LLM wird also dazu verwendet, Texte zu erstellen, als seien sie von Menschen verfasst und das in Form von Geschichten, Artikeln, Gedichten oder anderen schriftlichen Inhalten.

Textverständnis

Ein LLM ist aber auch in der Lage, menschliche Sprachen zu decodieren und dann auf komplexe Fragen oder Anfragen zu antworten. Genutzt wird es daher in Chatbots, virtuellen Assistenten oder anderen Anwendungen für natürliche Sprachverarbeitung (Natural Language Processing, NLP).

Übersetzung

Die LLMs sind für maschinelle Übersetzungen verwendbar, also zur Übertragung der Texte von einer Sprache in eine andere.

Code Generierung

Das LLM wird aber auch für die Generierung von Programmcode oder andere technische Inhalte eingesetzt.

Chatbots

Es gibt bereits unterschiedliche Entwicklungen von Chatbot Technologien, einschließlich eines Bot Frameworks, das Entwicklern ermöglicht, eigene Chatbots zu erstellen und in verschiedene Anwendungen zu integrieren.

Dazu wurden auch verschiedene KI Modelle für die Verarbeitung von natürlicher Sprache entwickelt. Sie werden in verschiedenen Produkten wie Suchdiensten, Chatbots und virtuellen Assistenten eingesetzt und für Aufgaben wie Terminplanung, Erinnerungen und Informationsabfragen genutzt, die in Chat Funktionen integrierbar sind.

Verschiedene LLM /Text KIs

LLMs (Large Language Models) wie ChatGPT, Copilot, Bing Chat und Google Gemini sind spezielle Arten von Text KIs, die darauf trainiert sind, natürliche geschriebene Sprache zu verstehen und darauf zu reagieren. Generell gilt, dass diese LLMs von Menschen verfasste Texte verstehen und auch generieren können. Ihre Anwendungsmöglichkeiten reichen von der Textantwort auf Anfragen bis hin zur Erstellung von Code in verschiedenen Kontexten, abhängig von ihrem spezifischen Trainingsdatensatz und Anwendungsbereich.

Der Output hängt immer von seinem Input bzw. seiner Quelle ab. 

Bewerbungen schreiben, Code generieren, Datenkontexte erfassen gehören zu den selbstverständlichen Leistungen, die große Sprachmodelle oder Large Language Models, LLMs, anbieten. 
Die Leistungen der  LLMs basieren auf vorherigem Wissen, ein LLM „versteht“ nicht wirklich im menschlichen Sinne. Es arbeitet durch Mustererkennung und Wahrscheinlichkeitsverteilungen, um sinnvolle Textantworten zu generieren.
Durch ihre universelle Trainierbarkeit und breite Anwendbarkeit bieten diese  Werkzeuge ein quasi unendliches Potenzial. Sie sind in der Lage die kognitiven Prozesse aller Art zu erleichtern. So existiert eine wachsende Vielfalt unterschiedlichster Modelle spezialisierter Coding Modelle und allgemeiner Chatbot Alternativen.

Hinsichtlich der Zugänglichkeit und der Outputqualität ist der deutsche Markt derzeit jedoch weitgehend auf diese vier Modelle beschränkt:
ChatGPT, Copilot, Bing und Gemini.
Sie alle sind unter anderem deutschsprachig, universell einsetzbar und schneiden bei Prompt Tests gut ab. Es wird zwar das Anlegen eines Kontos auf der jeweiligen Plattform verlangt, die Leistungen sind dann aber ohne großen Aufwand kostenlos nutzbar. Wie genau sie sich unterscheiden und welcher Chatbot für welchen Zweck am besten geeignet ist, wird im Folgenden erläutert.

Halluzinationen

Eine konstante Gefahr sind sogenannte Halluzinationen. Obwohl Halluzinationen, also inkorrekte Schlussfolgerungen und Verallgemeinerungen der KI, immer seltener auftreten, existiert durchaus noch eine nicht zu vernachlässigende Wahrscheinlichkeit.
Halluzinationen treten häufig auf, wenn der Chatbot angefragte Informationen nicht findet und sie daher selbst ergänzt. Bei der Suche nach Internetquellen können Halluzinationen allerdings auch auf unausgereifte Crawling- und Indexierungsfunktionen der zugrunde liegenden Systeme hinweisen. Wenn unabhängige Informationsquellen verfügbar sind, ist es daher ratsam, diese direkt zu nutzen, anstatt sich auf einen Chatbot zu verlassen.

LLM ChatGPT

ChatGPT ist ein Large Language Model (LLM), das von OpenAI entwickelt wurde. Es ist darauf ausgerichtet, auf geschriebenen Text zu antworten und kann in verschiedenen Anwendungen eingesetzt werden. Die Anwendungsmöglichkeiten reichen von Chatbots bis hin zu kreativer Textgenerierung. Chat GPT basiert auf der GPT-3 Architektur (Generative Pre-Trained Transformer 3). 

ChatGPT Schlüsselmerkmale und Aspekte

Trainingsdaten und Architektur

ChatGPT basiert auf der Transformer Architektur, die für ihre Fähigkeit bekannt ist, kontextabhängige Abhängigkeiten in langen Sequenzen zu modellieren.

Es wurde mit umfangreichen Mengen an Trainingsdaten trainiert, die aus verschiedenen Quellen im Internet stammen. Dies ermöglicht dem Modell ein breites Verständnis und eine Anpassung an verschiedene Schreibstile und Themen.

Sprachverständnis und -generierung

ChatGPT versteht komplexe Sätze, berücksichtigt Kontexte und generiert wie von Menschen geschriebene Texte. So reagiert Chat GPT auf eine Vielzahl von Anfragen in natürlicher Sprache, von allgemeinen Fragen bis hin zu spezifischen Anweisungen.

Vielseitigkeit

Das Modell ist vielseitig einsetzbar und wird für verschiedene Anwendungen genutzt, darunter für Chatbots, zur Textgenerierung, als Konversationsassistent und vielem mehr.

Interaktive Anwendungen

ChatGPT wurde speziell für interaktive Anwendungen entwickelt, bei denen der Nutzer in Echtzeit mit dem Modell kommuniziert.

Einschränkungen und Kontrolle

Obwohl ChatGPT fortschrittlich ist, gibt es auch einige Einschränkungen.  Es weist die Neigung auf, bei geringer Informationsdichte, möglicherweise unsichere oder unangemessene Inhalte zu generieren. Hier hat OpenAI jedoch Mechanismen zur Content Moderation implementiert, um das zu minimieren. Denn OpenAI arbeitet an Möglichkeiten, den Benutzern mehr Kontrolle über den Ausgabetext zu geben und dabei sicherzustellen, dass das Modell ethisch und verantwortungsbewusst genutzt wird. OpenAI stellt auch eine API für ChatGPT bereit, die Entwicklern ermöglicht, das Modell in ihre eigenen Anwendungen zu integrieren.

Außerdem entwickelt OpenAI ständig neue Modelle und verbessert bestehende, um die Leistung und Anwendbarkeit zu steigern. So hat OpenAI mit ChatGPT nicht nur die Welle der LLM basierten Chatbots eingeläutet, sondern bietet mit GPT-4 ein fortschrittliches, umfangreiches und das “menschenähnlichste” Sprachmodell. Das Angebot von ChatGPT reicht von menschlichen Sprachen bis zu Programmiersprachen, wodurch der Chatbot zu einem nützlichen Werkzeug für Entwickler wird.
ChatGPT hat nur in der Bezahlversion über das Sprachmodell GPT-4 Zugang zur Suchmaschine und damit zu Internetquellen. Zur Durchführung von Suchen muss der Chatbot mit einem gezielten Prompt dazu aufgefordert werden. Er nimmt nur dann eigenständig Suchen vor, wenn seine Daten nicht ausreichen beziehungsweise aktuelle Informationen erfragt werden (beispielsweise Nachrichten oder Spielstände).
Mit dem integrierten Plugin Store bietet OpenAI dem Chatbot eine stark erweiterte Funktionalität, über die gezielte Anwendungen von Drittanbietern wie zum Beispiel Trivago ermöglicht werden.

ChatGPT im Überblick

• Webzugang
• immer Quellenangaben
• fast akademisches Schreibniveau
• Antwortqualität ist präzise und ausführlich
• Halluzinationswahrscheinlichkeit ist selten
• keine Gesprächsanfragen Beschränkung
• Disclaimer (Haftungsausschluss) ist unauffällig platziert
• optionale Chat Historie
• Fortführung vorheriger Chats
• mit Antwort Empfehlungen
• mobile App
• Plugin Integration für erweiterte Anwendungen
• Möglichkeit zum Daten-Opt-Out

LLM Copilot

GitHub Copilot ist ein spezialisiertes Large Language Modell (LLM), es wurde von OpenAI und GitHub in Zusammenarbeit entwickelt und ist eine fortschrittliche Code Generierungsplattform. Die Integration in GitHub ermöglicht es Entwicklern, Copilot direkt in der Entwicklungsumgebung von GitHub zu verwenden. Sie ist also darauf spezialisiert, Code in verschiedenen Programmiersprachen zu generieren und ermöglicht dadurch Entwicklern die schnellere Erstellung von Code.

Copilot Schlüsselmerkmale und Aspekte

Code Generierung

Es verwendet eine LLM Technologie, die auf dem GPT-3 Modell von OpenAI basiert.
Copilot ist darauf ausgerichtet, Programmcode basierend auf natürlicher Sprache zu generieren. Es kann Code Snippets, Funktionen und sogar ganze Codeblöcke vorschlagen.
Im Gegensatz zu ChatGPT, das in erster Linie für generelle Konversationen und Textverständnis entwickelt wurde, liegt der Fokus von Copilot speziell auf der Codegenerierung und Unterstützung.

Trainingsdaten und Architektur

Copilot basiert auf der Transformer Architektur. Es wurde speziell auf eine Menge von Code Beispielen und Projekten trainiert, um ein tiefes Verständnis für die Struktur und den Kontext von Programmcode zu entwickeln. Die Plattform wurde also mit umfangreichen Mengen an Code Beispielen aus öffentlichen Repositories trainiert, um eine breite Palette von Programmiersprachen und Bibliotheken abzudecken.

Integriert in Entwicklungsumgebungen (IDEs)

Als Erweiterung ist Copilot in verschiedenen integrierten Entwicklungsumgebungen (IDEs) verfügbar, darunter Visual Studio Code (VSCode). Entwickler können damit direkt in ihrer IDE mit Copilot interagieren und Code Vorschläge erhalten.

Unterstützung von Sprachen und Frameworks

Copilot ist darauf ausgelegt, in verschiedenen Programmiersprachen und mit verschiedenen Frameworks zu arbeiten, um den Entwicklern uneingeschränkte Flexibilität zu ermöglichen.

Kontext Verständnis

Die Plattform versucht, den Kontext des Codes zu verstehen und entsprechende Vorschläge basierend auf den aktuellen Anforderungen zu machen.

Entwickelt für Softwareentwickler

Copilot richtet sich speziell an Softwareentwickler, um den Prozess der Code Erstellung zu beschleunigen und zu erleichtern. Es ist in der Lage, Kontexte und Muster in Code Beispielen zu erkennen und Entwicklern dabei zu helfen, schneller qualitativ hochwertigen Code zu schreiben.

API Zugang

Copilot bietet API Zugang, der es Entwicklern ermöglicht, die Code Generierungsfunktionen von Copilot in ihre eigenen Entwicklungsumgebungen zu integrieren.

Unterschied zu ChatGPT

GitHub Copilot und ChatGPT haben unterschiedliche Anwendungsgebiete. ChatGPT wird für die natürliche Sprachverarbeitung und  für Textverständnis und -generierung eingesetzt. Es wurde für Text Antworten in einem Chat- oder Konversationskontext entwickelt.

Copilot konzentriert sich auf die Unterstützung von Entwicklern beim Schreiben von Code, indem es zum Beispiel automatisch generierte Code Snippets bereitstellt. Copilot ist speziell auf die Bedürfnisse von Softwareentwicklern zugeschnitten, zur Verbesserung der Entwicklungsprozesse.
Insgesamt sind sowohl ChatGPT als auch Copilot Produkte von OpenAI, die auf den Fähigkeiten von Large Language Models basieren. Copilot, ist dazu die Erweiterung der Suchmaschine Bing, basiert aber ebenfalls auf OpenAIs LLM, GPT-4, und positioniert sich als Alternative zu ChatGPT.

Copilot im Überblick

• Webzugang
• konsequente Quellenangaben
• Schreibweise hat drei Konversationsstile: präzise, ausgewogen und kreativ
• Antwortqualität ist kurz und suchfokussiert, nicht umfassend
• Halluzinationswahrscheinlichkeit ist selten, da der Output gebunden an die Suchergebnisse ist
• Gesprächsführung ist limitiert auf 30 Antworten pro Gespräch
• Disclaimer (Haftungsausschluss) ist unauffällig platziert
• Chat Historie  ja, aber nur für die letzten Suchanfragen
• Fortführung vorheriger Chats
• mit Antwort Empfehlungen
• mobil zugänglich
• anliegender Bildgenerator auf Grundlage von DALL-E
• betrieben durch OpenAIs GPT-4 Modell

LLM Gemini

Google entwickelt verschiedene KI Modelle und Anwendungen im Bereich der natürlichen Sprachverarbeitung, einschließlich der Suchalgorithmen, virtueller Assistenten und anderer Dienste.
Google Gemini (ehemals Bard) basiert auf Googles proprietärem Sprachmodell Gemini und funktioniert in der EU und in anderen Ländern, obwohl mit dem Gedanken der Multimodalität entwickelt, aufgrund von Datenschutzbestimmungen derzeit nur mit einer „speziell angepassten“ Version des Modells 1.0 Pro für textbasierte Prompts. 

Das bedeutet, dass die Unterstützung anderer Inhaltstypen (Sprache, Video, Dokumente) noch stark eingeschränkt ist bzw. erst noch folgen wird. Im Gegensatz zu ChatGPT neigt Gemini weniger zu lehrbuchartigen Antworten, sondern verwendet eine einfachere und direktere Sprache, was den Chatbot zu einer guten Wahl für alltägliche Kommunikations- und Produktivitätsanforderungen macht.
Gemini kann aktuelle Informationen aus dem Internet extrahieren, was besonders bei der Recherche, beim Onlineshopping und bei der Reiseplanung nützlich ist. Und wenn eine Antwort nicht zufriedenstellend ist, bietet Gemini die Möglichkeit, mit einem Klick auf „Google It“ herkömmliche Suchergebnisse zu erhalten.

Gemini im Überblick

• direkter Export des Outputs zu spezifischen Google Apps (z. B. Docs)
• mobil zugänglich
• Fortführung vorheriger Chats
• Antwort Empfehlungen
• Chat Historie abhängig von Länge, Anzahl usw.
• Disclaimer/ Haftungsausschluss bei jeder Antwort bis zur Aufforderung der Unterlassung 
• keine Begrenzung der Gesprächsanfragen
• gelegentliche Zunahme der Halutinationswahrscheinlichkeit bei längerem Output
• Antwortqualität ist übersichtlich
• Schreibweise ist klar und simpel
• Quellenangaben auf Anfrage
• mit Webzugang

Hier finden Sie weitere Artikel zur KI

ChatGPT und KI Tools

Einführung Teil 1
Freuen Sie sich jede Woche auf einen neuen Artikel:
LMM /TexT Teil 2
Audio Teil 3
Social Media Teil 4 
Presentation Teil 5 
ChatBot Teil 6 
Copywriting Teil 7 
Coding Teil 8 
Research Teil 9  
Images Teil 10
Design Teil 11
Productivity Teil 12
Marketing Teil 13