Flexible Auswahl des LLM-Modells und -Anbieters - warum?

Wir haben die Erfahrung gemacht, dass es für den Erfolg vieler KI-Projekte maßgeblich ist, bezüglich des Large Language Modells und dessen Anbieter für den Nutzer flexibel zu bleiben. So müssen Dienstleister im KI-Sektor nicht alles auf eine Karte setzen und bleiben für eine breitere Masse an Kunden attraktiv.

Aber warum ist uns das so wichtig? Abgesehen von diesem Reiz ermöglicht eine freie Wahl des LLMs und dessen Anbieter auch:

• Flexibilität je nach Use Case und Kontext: manche Modelle sind besser für bestimmte Situationen geeignet als andere - ein und dieselben Software bringt so immer die hilfreichsten Antworten hervor.

• Effizienz bezüglich Zeit und Ressourcen: einfache Umstellung auf ein günstigeres oder mächtigeres Modell innerhalb von Sekunden - so können wertvolle Ressourcen und Zeit eingespart werden.

• Eine große Auswahl an Modellen erlaubt Multi-Step Agenten.

• Schnelle Anpassung durch rechtliche und politische Änderungen: mehrere verschiedene Modelle zur Verfügung zu haben bedeutet, dass schnell auf externe Faktoren reagiert werden kann und Handlungsfähigkeit erhalten bleibt.

Welche Modelle und Anbieter werden aktuell unterstützt?

Unsere AI Suite unterstützt aktuell über 27 verschiedene Modelle von unterschiedlichen Anbietern wie OpenAI, Mistral, Azure oder Anthrophic. Nutzer können folglich selbst entscheiden, welchem Anbieter sie am meisten vertrauen, welches Modell sie bevorzugen und welche Art von Daten sie anbinden wollen. Außerdem enthält die AI Suite bereits eine praktische Übersicht mit allen wichtigen Eigenschaften zu und Unterschieden zwischen den Modellen, wie beispielsweise die unterstützten Input-Dateitypen oder Input- und Output-Kosten, was es dem einzelnen Nutzer oder Administrator deutlich erleichtert, ein passendes Modell auszuwählen.

In der letzten Zeit haben wir außerdem viel mit Gemini experimentiert. Die Modelle sind schnell und kostengünstig - ganz abgesehen davon, dass sie hilfreiche Antworten generieren. Unser Team hat bereits beobachtet, dass Gemini-Modelle Reasoning zielführend unterstützen, sehr zuverlässiges Tool-Calling abrufen und deutlich bessere Structured Outputs als GPT-Modelle hervorbringen.

Unsere Schlussfolgerung

Wir beobachten, dass KI-Modelle immer mehr zur Ware werden, was sie auch austauschbarer macht. Der Teufel steckt wie immer im Detail: eine nahtlose Anbindung einzelner Modelle bedarf oftmals etwas fine-tuning. Aber in unserer Erfahrung ist das den Aufwand zweifelsfrei wert!