Avatud keelemudelid: kas odavam päring on odavam töö?

Väikese ettevõtte jaoks sõltub mudeli tasuvus sellest, kui palju maksab korralikult lõpetatud ülesanne koos kontrolli ja hooldusega.

Avatud keelemudelid võivad teha järgmise tehisintellektipäringu odavamaks. Ettevõtja jaoks selgub tegelik võit aga alles siis, kui kliendi küsimus on lahendatud, pakkumine valmis või tellimus õigesti töödeldud. Nende kahe hetke vahele mahub sageli rohkem tööd, kui mudelite hinnakirjast paistab.

Kujutame ette Eesti e-poodi, mis kasutab keelemudelit kliendikirjade vastuste koostamiseks. Üks mudel teeb ladusa mustandi, kuid jätab arvestamata tellimuse eritingimuse. Teine maksab kasutamisel rohkem, ent vajab vähem parandamist. Kumb on odavam, sõltub sellest, kui palju aega kulub vastuse saatmiskõlblikuks tegemisele.

Y Combinator tõstab Ollama juhi Jeffrey Morganiga peetud vestluse tutvustuses esile, et Ollama pilveteenuse tokenikasutus on aasta algusest kasvanud 150 korda. Token on tekstiühik, mille kaupa keelemudel teksti töötleb. Ühe teenuse kasutusmahu kasv näitab nõudlust, kuid ettevõtte tasuvuse hindamiseks tuleb vaadata, mida selle kasutusega saavutatakse.

Hinnavõit selgub lõpetatud ülesandest

Mudelite hinnakirjades võrreldakse sageli sisendi ja väljundi töötlemise maksumust. Ettevõtte jaoks võiks võrdlusühik olla hoopis üks nõuetekohaselt lahendatud kliendipöördumine või kontrollitud pakkumine. Selle hinnas on mudeli kasutamine, korduskatsed, teiste teenuste päringud ja inimese tööaeg.

Odav päring muutub kalliks, kui selle tulemust peab keegi uuesti tegema. Sama juhtub siis, kui mudel annab küll õige vastuse, kuid alles pärast mitut täpsustust. Esialgne hinnavõit võib kaduda ka ooteajaga: pooleli jäänud vestlus tähendab kliendile endiselt lahendamata muret.

See ei tähenda, et igale ülesandele tuleks valida kõige võimekam mudel. Kirja suunamine õigesse teenindusjärjekorda ja erandliku tagastusjuhtumi lahendamine nõuavad erinevat otsustusvõimet. Mõistlik tööjaotus võib anda lihtsad ülesanded soodsama mudeli kätte ning jätta keerulised juhtumid tugevamale mudelile või inimesele.

Nii muutub ka küsimus, mida hinnavõrdluses küsida. Tehisintellekti kulude hindamisel tasub uurida, kas odavneb kogu tööprotsess. Kui kokkuhoid tekib ühes etapis, kuid lisab teises kontrollimist, tuleb mõlemad arvestusse võtta.

Avatud mudeliga kaasneb vastutus töökindluse eest

Avatud keelemudeli puhul tuleb kõigepealt vaadata, mida selle avatus tähendab. Mudeli kaalud ehk õppimise käigus kujunenud arvulised parameetrid võivad olla allalaaditavad, ilma et treeningandmed või kogu arendusprotsess oleksid avalikud. Eraldi tuleb kontrollida, milliseid kasutusvõimalusi mudeli tingimused lubavad.

Oma seadmes või serveris töötav mudel annab võimaluse korraldada selle käitamist ise. Sellega kaasnevad aga seadmete, uuenduste, seire ja rikete lahendamise ülesanded. Kui ettevõttes tegeleb nendega sama arendaja, kes peaks ehitama klientidele vajalikku funktsiooni, kuulub ka tema ajakulu mudeli tegeliku hinna sisse.

Morgani ja Y Combinatori vestluse kohalikke ning pilves töötavaid mudeleid käsitlev osa algab ajamärgil 20:41. Ettevõtja jaoks on siin praktiline valik: kes hoiab teenuse töös, kui midagi tõrgub? Pilveteenus võib vähendada oma meeskonna halduskoormust, kuid selle sobivust tuleb hinnata koos hinna, andmekäitluse ja töökindlusega.

Kohalik käitamine väärib kaalumist näiteks siis, kui töö peab jätkuma võrguühenduseta. Pilveteenus võib sobida paremini, kui koormus kõigub ja oma taristu haldamiseks napib inimesi. Valiku lähtekoht võiks olla ettevõtte konkreetne vajadus ning meeskonna võime teenust üleval pidada.

Paindlikkus sünnib töökorraldusest

Mudeli vahetamise võimalus on väärtuslik ainult siis, kui ettevõtte teenus selle üle elab. Kui kliendiandmed, tööreeglid ja mudelile antavad juhised on omavahel läbipõimunud, võib järgmise mudeli katsetamine nõuda suurt ümberehitust. Seetõttu tasub eraldi hoida ettevõtte enda teadmine ja viis, kuidas mudel seda kasutab.

Ettevõtte eelis peitub teadmises, milline vastus kliendi probleemi päriselt lahendab. Seda teadmist kogutakse kliendivestlustest, parandatud vigadest ja töötajate kogemusest. Just seepärast on probleemi tundmine tehisintellekti kasutamisel oluline eelis: see aitab määrata kvaliteedinõuded, mille järgi eri mudeleid võrrelda.

Sama kehtib õiguste kohta. Vastuse mustandit koostav abiline ja kliendile raha tagastav agent vajavad erinevaid piire. Tehisintellekti agendi selge töökorraldus määrab, milliseid andmeid ta näeb, mida võib iseseisvalt teha ja millal peab inimene sekkuma. Need piirid peaksid säilima ka mudeli vahetamisel.

Võrdle mudeleid oma ettevõtte päris ülesannetega

Eestikeelset klienti teenindava ettevõtte jaoks tasub katse alustada eestikeelsetest pöördumistest. Ladus üldvastus ei näita veel, kas mudel mõistab valdkonna sõnavara, kirjavigu või vihjet varasemale kokkuleppele. Katsekomplekti võiks võtta nii tavalised küsimused kui ka juhtumid, millega töötajad sageli hätta jäävad.

Enne katset tasub kirja panna, mille alusel vastus heaks kiidetakse. Nii ei muutu hindamine võistluseks, kus võidab lihtsalt meeldivama tooniga tekst. Võrdluses võiks jälgida nelja asja:

• Sisuline õigsus. Kas vastus järgib ettevõtte tegelikke tingimusi ja kasutab õigeid andmeid? Kontrolli ka seda, kas mudel jätab puuduva teabe ausalt lahtiseks.
• Parandamiseks kuluv töö. Märgi üles, mida inimene muudab ja kui kaua see võtab. Keeleline lihvimine ning vale otsuse parandamine on erineva kaaluga puudused.
• Kogu kasutuskulu. Arvesta korduspäringuid, vajalikke lisateenuseid ja haldamist. Võrdle seda kulu ülesannetega, mis jõuavad kokkulepitud kvaliteediga lõpuni.
• Käitumine keerulises olukorras. Proovi vastuolulist infot, puuduvat tellimust ja ebaselget soovi. Vaata, kas süsteem küsib täpsustust või suunab juhtumi õigel ajal inimesele.

Kui uus mudel läbib sellise võrdluse, saab seda proovida piiratud tööosas, mille tulemust on lihtne kontrollida. Näiteks võib alustada vastuste mustanditest, mida teenindaja enne saatmist kinnitab. See annab võimaluse näha, kas katsetes leitud ajavõit püsib ka igapäevases töös.

Kasulik on säilitada nii katseülesanded kui ka hindamise tulemused. Siis saab järgmist mudelit või uut versiooni võrrelda sama mõõdupuuga. Kui kvaliteet halveneb, on olemas alus otsustada, kas muuta juhiseid, kitsendada ülesannet või võtta taas kasutusele eelmine lahendus.

Mida sellest oma ettevõttesse kaasa võtta?

Avatud keelemudelid annavad ettevõtjale rohkem võimalusi valida, kus ja kuidas tehisintellekt töötab. Nende majanduslik väärtus selgub aga koos ettevõtte töökorraldusega. Soodsam kasutushind aitab siis, kui säilib vajalik kvaliteet ning kontrollimine ja hooldamine ei neela kokkuhoidu ära.

Hea algus on valida üks korduv ülesanne, kirjeldada rahuldav tulemus ja mõõta praegust ajakulu. Seejärel saab võrrelda eri lahendusi ning määrata inimese, kes vastutab nende toimimise eest. Nii muutub mudelivalik kontrollitavaks äriotsuseks: ettevõte teab, mille eest ta maksab ja milline töö selle raha eest tehtud saab.

Y Combinatori vestlus Ollama kaasasutaja Jeffrey Morganiga avatud keelemudelite kasutamisest, kuludest ning kohalike ja pilvelahenduste valikust.

Odav päring muutub kalliks, kui selle tulemust peab keegi uuesti tegema.

Ettevõtte eelis peitub teadmises, milline vastus kliendi probleemi päriselt lahendab.

▶

Vaata algset saadet YouTube’is: Y Combinator.

Allikad

• Y Combinator: avatud mudelid muudavad tehisintellekti majandusloogikat — Avaldatud 4. septembril 2026. Ollama pilveteenuse tokenikasutuse 150-kordne kasv pärineb kanali kirjeldusest. Peatükkide ajamärgid: hinnaküsimus 02:13, tokenikasutuse kasv 03:31 ning kohalikud ja pilves töötavad mudelid 20:41. Ettevõtte töökorraldust puudutavad järeldused on iseseisev analüüs.