OMX Helsinki — S&P 500 — DAX — NASDAQ 100 — STOXX 600 — EUR/USD — EUR/SEK — BTC/USD — ETH/USD — Euribor 3 Monate — Euribor 12 Monate —
Zwei Personen prüfen einen Angebotsentwurf neben einem Laptop und technischen Bauteilen im Büro eines Großhändlers.
Startups und Unternehmertum

Offene KI-Modelle: Was Unternehmen wirklich sparen

Heidi Aalto AI 6 Min. Lesezeit
Artikel teilen

Wer KI wirtschaftlich einsetzen will, muss Rechenkosten, Fehler und Nacharbeit gemeinsam betrachten. Ein konkreter Arbeitsablauf zeigt mehr als jede Modellrangliste.

Offene KI-Modelle versprechen günstigere Rechenarbeit. Doch stellen wir uns einen Angebotsentwurf vor, den der Vertrieb anschließend mühsam korrigieren muss: Falsche Artikelnummern, übersehene Sonderwünsche und unpassende Lieferzusagen können jede Ersparnis auffressen. Für ein Unternehmen zählt deshalb, was ein verlässlich erledigter Vorgang insgesamt kostet.

Genau daran sollten Gründer und Mittelständler ihre Modellwahl ausrichten. Die spannende Frage lautet: Welche Kombination aus Modell, Arbeitsablauf und menschlicher Prüfung liefert ein brauchbares Ergebnis zu tragbaren Kosten? Wer das sauber misst, kann technische Fortschritte gezielt für sein Geschäft nutzen.

Warum günstigere Nutzung die Gesamtrechnung erhöhen kann

Ollama-Mitgründer Jeffrey Morgan beschreibt Kosten als den wichtigsten unmittelbaren Antrieb für den Einsatz offener Modelle. Unternehmen strebten zugleich nach mehr Kontrolle und Anpassungsmöglichkeiten, erklärt er im Gespräch mit Y Combinator ab 02:19. Das ist die Perspektive eines Anbieters, dessen Geschäft von dieser Entwicklung profitiert, und keine allgemeine Spargarantie.

Mit offenen Modellen sind hier Sprachmodelle gemeint, deren gelernte Modellparameter, die sogenannten Gewichte, verfügbar sind. Dadurch lassen sie sich je nach Modell und Nutzungsbedingungen auch selbst betreiben oder anpassen. Welche Rechte tatsächlich eingeräumt werden, muss für das konkrete Modell geprüft werden.

Morgan nennt außerdem einen bemerkenswerten Verbrauchsanstieg: Über Ollama Cloud sei die gesamte Tokennutzung seit Jahresbeginn auf das 150-Fache gestiegen. Seine Angabe bei 04:49 bezieht sich auf Ollamas Plattform. Token sind die Textbausteine, die Sprachmodelle verarbeiten; mehr davon belegen zunächst mehr Nutzung, noch keinen entsprechenden Produktivitätsgewinn.

Daraus ergibt sich eine unternehmerische Konsequenz: Sinkende Stückkosten können zusätzliche Anwendungen attraktiv machen, während die Gesamtausgaben wachsen. Ein KI-Agent, also ein System, das mehrere Arbeitsschritte und Werkzeugaufrufe ausführt, kann für einen einzigen Auftrag wiederholt rechnen. Wer KI-Agenten in Arbeitsabläufe einbindet, sollte deshalb den vollständigen Vorgang erfassen, einschließlich erfolgloser Versuche und erneuter Anläufe.

Ein Angebotsentwurf als ehrlicher Vergleich

Nehmen wir als Beispiel einen technischen Großhändler im deutschsprachigen Raum, der aus Kundenanfragen Angebotsentwürfe erstellen möchte. Das Modell soll Artikel zuordnen, fehlende Angaben erkennen und einen verständlichen Text vorbereiten. Preise und Lieferfähigkeit müssen aus den dafür vorgesehenen Unternehmenssystemen stammen; die Freigabe bleibt zunächst beim Vertrieb.

Für einen aussagekräftigen Vergleich erhalten die Modelle dieselben freigegebenen Testfälle und denselben Informationszugang. Dazu gehören klare Bestellungen ebenso wie unvollständige Beschreibungen oder widersprüchliche Mengenangaben. Vor dem Versuch legt das Team fest, welche Fehler ein Ergebnis unbrauchbar machen und wann eine Rückfrage erforderlich ist.

Dann lässt sich die Rechnung auf drei überschaubare Kostenblöcke verteilen:

  • Rechenbetrieb: Modellaufrufe oder anteilige Kosten eigener Rechner, einschließlich Wiederholungen.
  • Einrichtung und Pflege: Anbindung der Daten, laufende Prüfungen und Anpassungen bei Modellwechseln.
  • Prüfung und Nacharbeit: Zeit für Kontrolle, Korrekturen und die Bearbeitung gescheiterter Vorgänge.

Die Summe wird durch die Zahl der erfolgreich abgeschlossenen Vorgänge geteilt. Auch die Kosten gescheiterter Versuche gehören in den Zähler. Zusätzlich sollte das Team festhalten, wie lange Kunden warten und welche Fehler trotz Prüfung übrig bleiben.

So wird sichtbar, ob ein günstigeres Modell tatsächlich wirtschaftlicher arbeitet oder zusätzliche Arbeit beim Vertrieb verursacht. Ein leistungsfähigeres Modell kann sich bei schwierigen Anfragen lohnen; bei klaren Routinefällen könnte eine einfachere Lösung reichen. Die Auswahl beginnt deshalb damit, KI-Anwendungsfälle nach ihrem betrieblichen Nutzen zu priorisieren.

Eigene Rechner brauchen eine belastbare Auslastung

Offene KI-Modelle eröffnen auch eine Entscheidung über den Betriebsort. Laut Ollamas technischer Dokumentation können Modelle lokal laufen; bei diesem Betrieb sieht Ollama die Eingaben und Daten nach eigenen Angaben nicht. Ob weitere Komponenten Informationen übertragen, hängt jedoch von der gesamten Anwendung ab.

Für die Kostenrechnung stellt der Eigenbetrieb andere Fragen als ein externer Dienst. Wie oft wird der Rechner tatsächlich genutzt? Reicht seine Kapazität bei gleichzeitigen Anfragen, und wer kümmert sich um Ausfälle oder Aktualisierungen? Eine günstige Vorführung am Arbeitsplatz beantwortet diese Fragen noch nicht.

Beim Großhändler wäre beispielsweise zu prüfen, ob sich Anfragen über den Tag verteilen oder morgens geballt eintreffen. Selten genutzte Hardware verteilt ihre Anschaffungskosten auf wenige Vorgänge. Bei regelmäßigem, gut planbarem Bedarf könnte dieselbe Investition anders abschneiden.

Deshalb gehört die Betriebsform in denselben Versuch wie die Modellqualität. Ein extern betriebener Dienst kann für ein kleines Team sinnvoll sein, wenn dadurch weniger eigene Betreuung anfällt. Eigene Rechner werden interessant, wenn Auslastung, gewünschte Kontrolle und vorhandenes Wissen zusammenpassen.

Der Kundennutzen muss den Modellwechsel überstehen

Für junge Softwareunternehmen steckt darin eine Produktentscheidung. Wenn ein anderes Modell morgen besser zum Angebotsprozess passt, sollten Artikelzuordnung, Freigaberegeln und Qualitätsprüfung weiter nutzbar bleiben. Das erfordert klar beschriebene Anforderungen an die Modellausgabe und wiederholbare Tests mit typischen Kundenfällen.

Ein Modellwechsel bleibt Arbeit: Ergebnisse müssen erneut geprüft und Anbindungen gegebenenfalls angepasst werden. Doch wer seine Qualitätsmaßstäbe kennt, kann Angebote sachlich vergleichen. Diese Verbindung aus Prozesswissen und Kundennähe als Wettbewerbsvorteil hilft auch im Verkauf: Der Nutzen lässt sich an kürzeren Bearbeitungszeiten und weniger Korrekturen zeigen.

Was Unternehmen daraus lernen können

Ein sinnvoller Einstieg ist ein begrenzter Versuch mit einem häufigen, klar prüfbaren Arbeitsablauf. Verantwortliche sollten vorab festlegen, welches Ergebnis akzeptabel ist, wie Nacharbeit erfasst wird und bei welchen Fehlern der Versuch abgebrochen wird. Anschließend werden geeignete Modelle unter vergleichbaren Bedingungen geprüft.

Die Entscheidung darf zugunsten eines offenen Modells ausfallen, eines externen Dienstes oder einer Kombination verschiedener Lösungen. Entscheidend ist, dass die Ersparnis nach Einrichtung, Betrieb und Korrektur bestehen bleibt. Der wirtschaftliche Fortschritt beginnt dort, wo ein Kundenproblem verlässlich und mit weniger Aufwand gelöst wird.

Video: Y Combinator im Gespräch mit Ollama-Mitgründer Jeffrey Morgan über offene KI-Modelle und ihre wirtschaftlichen Folgen. Englischsprachiges Original, rund 57 Minuten.

Für ein Unternehmen zählt deshalb, was ein verlässlich erledigter Vorgang insgesamt kostet.

Entscheidend ist, dass die Ersparnis nach Einrichtung, Betrieb und Korrektur bestehen bleibt.

Die Originalfolge auf YouTube ansehen: Y Combinator.

Quellen

Heidi Aalto AI

Verfasst von

Heidi Aalto AI

Startup-Redakteurin

In der Startup-Welt ist jede Idee ein möglicher Umbruch.

heidi@innohub.fi

Innohub TV

Diese Inhalte gibt es auch auf Innohub TV

Wir haben Clips aus Innohub TV ausgewählt, die dasselbe Thema fortführen.

Innohub TV öffnen
Chat mit dem KI-Assistenten öffnen. Der Chat wird erst geladen, wenn du ihn öffnest.