Zum Inhalt springen
Zurück zur Übersicht

KI-Kosten im Griff: das richtige Modell für jede Aufgabe

Frontier-Modelle sind leistungsstark, aber teuer, sobald sie Prozesse automatisch und dauerhaft bearbeiten. Mit der richtigen Modellwahl und Fine-Tuning senken wir die laufenden Kosten.

2 Minuten Lesezeit

Abonnement oder programmatische Anbindung

Insbesondere der Einsatz von Frontier-Modellen wie den Modellreihen GPT-Astra oder Claude Fable ist mit immensen Kosten verbunden, vor allem wenn diese Modelle nicht über die monatlichen Abonnements genutzt werden.

Abonnements sind allerdings nur für Prozesse anwendbar, die von Menschen gesteuert werden, und für Formate, in denen der Einsatz von KI-Chat-Apps sinnvoll ist. Prozesse wie das automatische Sortieren eingehender E-Mails oder die kontinuierlich laufende Suche nach Diskrepanzen zwischen zwei Systemen sind damit häufig kaum umsetzbar. Sie erfordern eine programmatische Anbindung von KI-Modellen, und die ist im Vergleich zum Abonnement mit höheren Kosten verbunden.

Chat-App im Abonnement
Ausführung
Durch Menschen initiiert
Abrechnung
Monatlicher Abopreis

Geeignet für

  • Recherche
  • Texte entwerfen
  • Analysen auf Zuruf
Programmatische Anbindung (API)
Ausführung
Flexibel, automatisch, rund um die Uhr
Abrechnung
Pay-as-you-go

Geeignet für

  • E-Mails sortieren
  • Systeme abgleichen
  • Dokumente auswerten
  • Intelligente Features
Abbildung 1: Chat-Apps im Abonnement passen zu Aufgaben, die Menschen anstoßen. Automatisierte Prozesse laufen über eine API und werden nach Verbrauch abgerechnet.

Das richtige Modell für die Aufgabe

Abhilfe schaffen verschiedene Lösungen. An erster Stelle steht die Auswahl des richtigen Modells. Das Sortieren von E-Mails erfordert natürlich kein Frontier-Modell. Aber auch komplexe Datenextraktionen und Bewertungen lassen sich inzwischen häufig ohne Weiteres mit kleineren Modellen durchführen.

Laufende Kosten pro Anfrage, schematisch

  • Kleines ModellE-Mails sortieren, einfache Klassifizierung
    Laufende Kosten: niedrig
  • Kleines Modell mit Fine-TuningBewertung nach eigenen Kriterien, Spezialaufgaben
    Laufende Kosten: niedrigplus einmaliges Training
  • Frontier-ModellOffene, komplexe Aufgaben
    Laufende Kosten: hoch
Abbildung 2: Je klarer die Aufgabe umrissen ist, desto eher reicht ein kleines Modell. Fine-Tuning schließt die Lücke zu großen Modellen. Die Balken sind schematisch.

Fine-Tuning: kleine Modelle spezialisieren

Reicht ein kleines Modell nicht aus, bietet sich Fine-Tuning an, also die Spezialisierung kleiner Modelle durch weiteres Training auf die konkrete Aufgabe. Typischerweise genügen dafür bereits sehr wenige beispielhafte Durchführungen des Prozesses.

Wenige BeispieleTypische Durchläufe Ihres Prozesses
Fine-TuningEinmalig, mit kleinem Budget
Spezialisiertes ModellKlein, auf Ihre Aufgabe trainiert
Günstiger BetriebAuf eigener Hardware oder in der Cloud
Abbildung 3: Fine-Tuning ist eine einmalige Investition. Danach läuft das spezialisierte Modell günstig, auf Wunsch auf eigener Hardware.
  • Datenschutz

    Nicht nur der KI-Provider selbst ist als Risiko zu betrachten. Auch angebundene Werkzeuge wie die Websuche oder Prompt Injection über bösartige Webseiten, E-Mails und Dokumente können zu Datenlecks führen. Unsere Ansätze zum Datenschutz sichern Datenflüsse auf Code-Ebene garantiert ab.

    Mehr zu unserem Ansatz beim Datenschutz
  • Halluzinationen

    KI schreibt überzeugende Texte, egal ob diese wahr oder falsch sind, gibt unendlich widersprüchliches Feedback oder macht andere Fehler. Durch Optimierung und Umformulierung von Aufgaben, zum Beispiel in strukturierte Datenextraktion statt direktem Datenabgleich, minimieren unsere Ansätze Fehlerquellen im Einsatz von KI-Modellen.

    Mehr zu unserem Ansatz gegen Halluzinationen
  • Einsatzfeld Sachbearbeitung

    KI erfasst und priorisiert eingehende Fälle, bearbeitet Standardfälle unter Aufsicht und liefert bei allen anderen den passenden Kontext.

    Mehr zu KI in der Sachbearbeitung
Tomislav Kesedžić lacht im Gespräch bei einer Serapion-Veranstaltung

Sprechen wir über Ihre Prozesse

Im Erstgespräch klären wir unverbindlich, ob ein Assessment für Sie sinnvoll ist.

Tomislav KesedžićIhr Ansprechpartner für KI-Lösungen

Gespräch vereinbaren