AI-kosten: wat open modellen je bedrijf opleveren

Goedkopere modellen worden pas een voordeel als ook controle, beheer en herstelwerk in je rekensom passen.

AI-kosten kunnen op de factuur dalen terwijl je medewerkers juist meer tijd kwijt zijn. Denk aan een automatisch opgesteld klantantwoord dat goedkoop wordt gegenereerd, maar uitgebreid moet worden nagekeken. Voor een ondernemer telt daarom hoeveel geld en aandacht nodig zijn om het werk goed af te ronden. De prijs van het model is slechts een deel van die rekensom.

Y Combinator koppelt de groei van open modellen aan de opmars van AI voor programmeerwerk, lagere kosten en toenemende mogelijkheden. Dat gebeurt in de toelichting bij een gesprek met Jeffrey Morgan, medeoprichter van Ollama. Morgan bouwt zelf een bedrijf rond deze ontwikkeling. Zijn perspectief is een bruikbaar vertrekpunt voor een eigen kostenvergelijking.

Een goedkoop antwoord kan veel herstelwerk vragen

Stel dat je een webwinkel hebt en AI gebruikt om conceptantwoorden op klantvragen te maken. Een model kan keurig formuleren en toch een verkeerde levertijd noemen of een uitzondering op je retourbeleid missen. Dan moet iemand de bestelling opzoeken, het antwoord aanpassen en controleren of de klant daadwerkelijk geholpen is.

Een lager tarief per token, een stukje tekst dat het model verwerkt of genereert, zegt weinig over dat extra werk. Tel daarom ook menselijke controle, nieuwe pogingen en afgehandelde fouten mee. Zo wordt de prijs van afgerond werk een bruikbaardere maatstaf voor je bedrijfsvoering.

Vergelijk modellen bovendien op dezelfde opdrachten en met dezelfde kwaliteitsgrens. Anders lijkt het model dat sneller een onvolledig antwoord geeft vanzelf voordelig. Een lage modelprijs is pas winst als het werk ook met minder moeite afkomt.

Zelf kunnen draaien betekent ook zelf organiseren

Bij open modellen zijn doorgaans de modelgewichten beschikbaar: de getallen waarin de geleerde patronen zijn vastgelegd. Daardoor kun je zulke modellen, afhankelijk van de voorwaarden en technische eisen, zelf draaien of elders laten draaien. Die beschikbaarheid betekent niet automatisch dat ieder zakelijk gebruik zonder beperkingen is toegestaan. Controleer dus de licentie van het specifieke model.

De keuze tussen lokaal draaien en gebruik in de cloud, het onderwerp vanaf 20:41, heeft ook een organisatorische kant. Wie installeert updates, onderzoekt storingen en zorgt dat de toepassing beschikbaar blijft? In een klein bedrijf kunnen die taken terechtkomen bij dezelfde ontwikkelaar die ook het product moet verbeteren.

Eigen apparatuur kan aantrekkelijk zijn als je voldoende gebruik hebt en de benodigde kennis aanwezig is. Daar staan aanschaf, energie en beheer tegenover. Bij externe hosting verschuift een deel van het werk naar een leverancier, maar houd je afspraken over capaciteit, beschikbaarheid en gegevensverwerking nodig.

Daarom verdient ook de rol van rekenhardware in de kosten aandacht. Een model dat op papier weinig kost, kan voor jouw toepassing alsnog onpraktisch zijn wanneer de benodigde apparatuur duur is of onvoldoende wordt benut.

Je vakkennis bepaalt wat een goed resultaat is

Voor een Nederlandstalig bedrijf begint een eerlijke vergelijking bij het eigen werk. Begrijpt het model een bondige klantvraag, een onvolledig ingevuld formulier of een productnaam die op verschillende manieren wordt geschreven? Een overtuigend antwoord op een algemene vraag bewijst nog weinig over zulke dagelijkse situaties.

Maak daarom een verzameling representatieve opdrachten waarvoor je zelf kunt vaststellen wat een goed resultaat is. Gebruik daarvoor fictieve of zorgvuldig opgeschoonde voorbeelden. Neem ook gevallen op waarin het juiste gedrag bestaat uit doorvragen of aangeven dat informatie ontbreekt.

Hier krijgt de vakkennis van de ondernemer praktische waarde. Jij weet welke fout slechts onhandig is en welke fout een klantrelatie beschadigt. Leg dat onderscheid vast voordat je modellen vergelijkt, zodat een fraai geschreven antwoord geen onvoldoende inhoud verbergt.

Laat medewerkers die het werk uitvoeren mee beoordelen. Zij herkennen bijvoorbeeld of een conceptantwoord werkelijk tijd bespaart of alleen het uitzoekwerk verplaatst. Hun oordeel maakt de vergelijking relevant voor de dagelijkse praktijk.

Begin met een taak die je kunt overzien

Een afgebakende proef geeft meer houvast dan meteen alle AI-toepassingen vervangen. Kies bijvoorbeeld het rubriceren van binnenkomende vragen of het maken van een eerste samenvatting van een gesprek. Bepaal vooraf welke uitkomsten je accepteert en wanneer een medewerker moet ingrijpen.

Houd tijdens de proef steeds dezelfde zaken bij:

• Of het resultaat inhoudelijk klopt en volledig genoeg is.
• Hoeveel tijd controle en correctie kosten.
• Wat modelgebruik, hosting en beheer samen kosten.
• Of de toepassing snel genoeg reageert tijdens drukke momenten.

Vergelijk een open model met je bestaande werkwijze. Dat kan een andere AI-dienst zijn, maar ook handmatig werk. Zo zie je of de verandering daadwerkelijk iets oplevert en voorkom je dat alleen de nieuwste techniek de maatstaf wordt.

Bewaar de proefopdrachten en de beoordelingscriteria. Daarmee kun je later opnieuw vergelijken wanneer je gebruik verandert of een ander model beschikbaar komt. Een overstap wordt dan een toetsbare bedrijfsbeslissing.

De les: maak keuzevrijheid bruikbaar

Open modellen geven ondernemers meer mogelijkheden om hun AI-inrichting te bepalen. Die vrijheid krijgt pas waarde als je weet welk werk een model aankan, welke ondersteuning nodig is en wat een overstap vraagt. Zonder dat inzicht verplaats je gemakkelijk kosten van de leveranciersfactuur naar je eigen team.

Wie AI-kosten wil beheersen, kan daarom beginnen met één goed gemeten werkproces. Kies de oplossing die dat proces tegen aanvaardbare totale kosten betrouwbaar ondersteunt. Blijf vervolgens toetsen of die keuze nog past: bij je klanten, je medewerkers en de hoeveelheid werk die je bedrijf te verwerken krijgt.

Bij de video: Y Combinator in gesprek met Ollama-medeoprichter Jeffrey Morgan over open AI-modellen, kosten en lokaal gebruik tegenover de cloud.

Een lage modelprijs is pas winst als het werk ook met minder moeite afkomt.

Zonder dat inzicht verplaats je gemakkelijk kosten van de leveranciersfactuur naar je eigen team.

▶

Bekijk de originele aflevering op YouTube: Y Combinator.

Bronnen

• Y Combinator: hoe open modellen de kosten van AI veranderen — Gesprek met Jeffrey Morgan van Ollama. Beschikbare informatie: de aangeleverde videobeschrijving en hoofdstukindeling. Het volledige transcript was niet beschikbaar. De praktische voorbeelden en afwegingen zijn eigen duiding.
• Y Combinator: lokaal gebruik en cloudmodellen vanaf 20:41 — Tijdstip ontleend aan de aangeleverde hoofdstukindeling. De passage over beheer en totale kosten is een zelfstandige uitwerking van deze afweging.