GPT-4 Turbo – die wichtigsten Verbesserungen des neuen Modells

Sam Altman von OpenAI hat am Developer Day am 6. November 2023 einige Neuerungen vorgestellt, die nicht nur für Entwickler interessant sind. Eine Neuerung ist das Modell GPT-4-Turbo, welches schon in einer Vorabversion im OpenAI-Playground zu finden ist und in den kommenden Wochen auch in ChatGPT ausgerollt wird.

Hier möchte ich euch die – aus meiner Sicht – wichtigsten Punkte vorstellen, welche wir „normalen“ Nutzer durch GPT-4-Turbo erhalten werden.

1. Mehr Tokens = längere Prompts und mehr Kontext

Das erste große „Ding“ ist die Erhöhung der Tokenzahl. Diese ist verantwortlich dafür, wie viel des Chats sich die KI „merken“ kann und wie lang die Prompts sein können.

In GPT-4 hat man eine Begrenzung auf 8.000 Tokens, was ungefähr 24 Seiten Text entspricht. Die Tokens werden dabei sowohl für die Eingabe der Prompts als auch für die Ausgaben genutzt und sind daher schnell „verbraucht“, wenn man längere Texte erzeugt oder mehrfach mit dem Chatbot hin und her schreibt.

GPT-4 Turbo hat nun eine Tokenzahl von 128.000, was erneut deutlich über den 100.000 Tokens liegt, die Claude 2 (leider in Deutschland immer noch nicht verfügbar) bietet. Die 128.000 Tokens entsprechen etwa 300 Seiten Text oder 90.000 Wörtern.

Das heißt, man kann ChatGPT mit GPT-4 Turbo ein 250 Seiten Buch einlesen lassen und hat dann immer noch reichlich Tokens zur Verfügung, um Fragen zum Inhalt des Buches zu stellen.

Oder man füttert ChatGPT mit etlichen Artikeln zu einem Thema und kann dann Fragen stellen, die basierend auf dem Wissen dieser ganzen Artikel beantwortet werden.

2. Wissen bis April 2023

Eines der Probleme, mit denen ChatGPT zu kämpfen hat, ist die Wissensdatenbank. GPT-4 ist nur mit Daten bis zum September 2021 trainiert. Letztens kam noch ein Update, bei dem der Wissensstand (Knowledge-Cutoff) bis 2022 angehoben wurde.

GPT-4 Turbo wurde bis April 2023 mit neuen Informationen aktualisiert. Das ist eine tolle Verbesserung. Allerdings zeigt die KI Grok von X (Elon Musk), dass eine KI auch Informationen vom aktuellen Tag verarbeiten kann. Grok KI hat zwar nicht das gesamte Weltwissen zur Verfügung, kann aber auf alle bisher veröffentlichten Tweets zugreifen.

3. Alle Tools in einem Chat

Aktuell muss man sich bei ChatGPT noch entscheiden, ob man es mit Vision, DALL-E 3, mit Bing oder anderen Plugins nutzen möchte. Das ist etwas nervig, weil man nicht gleichzeitig im Internet recherchieren und dann aus den gewonnenen Daten eine Grafik mit DALL-E erstellen kann.

Mit GTP-4 Turbo soll dies anders werden. Alle Tools sind dann in einem Chat-Fenster verfügbar und die KI selbst entscheidet anhand des Prompts, welche Tools und Plugins zu Hilfe gezogen werden müssen.

4. Günstigere Preise pro Token

Eine Sache, die eigentlich für Entwickler relevant erscheint, sich aber letztendlich auch auf die Endnutzer auswirken wird, ist die neue Preisgestaltung. Der Preis Pro Token wird für die Entwickler auf ein Drittel schrumpfen.

Dadurch werden die laufenden Kosten für Entwickler günstiger und letztendlich können die Tools, die mit der GPT-4-API arbeiten, für Endnutzer günstiger werden. Es kann natürlich auch sein, dass die Entwickler dies einfach als höhere Gewinnmarge mitnehmen und die Preise für die Kunden gleich lassen.

5. Anweisungen werden strenger befolgt

Durch GPT-4 Turbo soll auch die Verbindlichkeit, sich an Prompts zu halten, verstärkt worden sein. Wenn man nun im Prompt schreibt „Erstelle die Ausgabe in XML“ oder „Gibt mir das Ergebnis in HTML“, dann wird sich GPT-4 Turbo stärker danach richten, als es GPT-4 getan hat.

Das ist tatsächlich eine Sache, die ich früher schon in ChatGPT bemerkt habe. Wenn man ihm zum Beispiel sagt, er soll den Leser mit „du“ ansprechen, dann macht er dies oft, aber nicht immer.

6. Bessere Stimmen in verschiedenen Sprachen

Text zu Sprache ist nichts Neues bei ChatGPT, aber die Sprachausgabe war immer sehr roboterartig und nicht wirklich gut geeignet, um Texte mit vernünftiger Betonung vorzulesen. Mit der neuen Version soll es nun über eine Sprachausgabe verfügen, die nach Aussage von Sam Altman „besser klingt als alles, was sie bisher da draussen gehört haben“. Wenn das der Fall ist, dürfte der Trend, sich Fremdsprachen mit ChatGPT beizubringen, neuen Schwung erhalten.

Fazit

Wie bereits oben erwähnt, sollen all diese Updates auch Einzug in ChatGPT erhalten. Wann es soweit ist, kann man leider schwer sagen, aber es gibt die ersten Meldungen von Leuten, die bereits Chat-Fenster haben, in denen sie Surfen und Grafiken erzeugen können.

Es scheint also so, als würde OpenAI die Features nach und nach an Benutzer ausliefern. Ich hoffe, dass dies innerhalb weniger Wochen erledigt ist und wir alle das „neue“ ChatGPT mit dem GPT-4 Turbo nutzen können.

Wie sieht es bei euch aus? Freut ihr euch auf die Neuerungen? Nutzt ihr ChatGPT und wenn ja, für was? Das würde mich interessieren. Lasst gerne einen Kommentar da!

Jens Kleinholz( Gründer & Sir Apfelot )

Jens betreibt das Blog seit 2012. Er tritt für seine Leser als Sir Apfelot auf und hilft ihnen bei Problemen technischer Natur. Er fährt in seiner Freizeit elektrische Einräder, fotografiert (natürlich am liebsten mit dem iPhone), klettert in den hessischen Bergen rum oder wandert mit der Familie. Seine Artikel beschäftigen sich mit Apple Produkten, Neuigkeiten aus der Welt der Drohnen oder mit Lösungen für aktuelle Bugs.