Odprti modeli: koliko vas stane opravljena naloga?

Prihranek se začne z jasno razdelitvijo dela in preizkusom na nalogah, ki jih vaše podjetje dejansko opravlja.

Odprti modeli lahko znižajo račun za umetno inteligenco. Če mora sodelavka vsak osnutek ponudbe popravljati, pa se prihranek hitro izgubi v porabljenih delovnih urah. Za podjetnika je zato koristnejše vprašanje: koliko stane naloga, ki je dejansko pravilno opravljena?

Predstavljajte si manjše slovensko podjetje, ki želi hitreje odgovarjati na povpraševanja. Razvrščanje sporočil, iskanje podatkov o izdelku in priprava ponudbe so povezani koraki, vendar vsak zahteva drugačno presojo. Prav v tej razliki je priložnost za prihranek: najprej razdelite delo, nato izberite model za posamezen korak.

Nižja cena lahko poveča porabo

Jeffrey Morgan, soustanovitelj in direktor družbe Ollama, v pogovoru za Y Combinator stroške označuje za glavni razlog, zaradi katerega podjetja posegajo po odprtih modelih. Ob tem poudarja željo po večjem nadzoru in prilagajanju lastnim potrebam. Odprti modeli torej odpirajo tudi vprašanje, koliko nadzora nad orodjem podjetje potrebuje.

Pri tem govorimo predvsem o modelih z dostopnimi utežmi, torej številčnimi parametri, ki se oblikujejo med učenjem. Tak model je mogoče poganjati na ustrezni lastni opremi ali pri ponudniku gostovanja. Pri izbiri je treba preveriti tudi pogoje uporabe konkretnega modela.

Morgan pri razlagi rasti porabe od 03:31 naprej navaja, da je skupna poraba žetonov v oblaku Ollama dosegla 150-kratnik porabe z začetka leta. Žetoni so enote besedila, ki jih model obdeluje. To je podatek o njihovi storitvi, ne dokaz enake rasti celotnega trga ali prihrankov posameznega podjetja.

Za podjetnika iz tega sledi uporabno opozorilo: ob nižji ceni posameznega koraka lahko orodju prepustimo več dela in ustvarimo več porabe. Zato spremljajte strošek uporabnega rezultata, skupaj s ponovljenimi poskusi in človeškimi popravki. Merilo uspeha je strošek pravilno opravljene naloge.

Razdelite delo, preden izberete model

Vrnimo se k namišljenemu podjetju s povpraševanji. Model bi lahko iz sporočila izluščil oznako izdelka in količino, nato pa bi program podatke preveril v katalogu. Pri nejasnem naročilu ali dogovarjanju o posebnih pogojih bi odločitev prevzel zaposleni.

Takšna razdelitev omogoča, da cenejši model preizkusite tam, kjer lahko njegov rezultat jasno preverite. Razvrstitev sporočila v napačno skupino je drugačna napaka kot kupcu obljubljen dobavni rok, ki ga podjetje ne more izpolniti. Za oba koraka zato nima smisla uporabiti istega merila uspešnosti.

• Rutinski koraki: izluščanje podatkov, razvrščanje sporočil in priprava osnutkov z jasno določenimi pravili.
• Zahtevnejši primeri: nepopolna povpraševanja, nasprotujoči si podatki in vprašanja, ki zahtevajo dodatno razlago.
• Poslovne zaveze: potrjevanje cen, rokov in izjem naj ostane pri osebi z ustreznim pooblastilom.

Če uporabljate agente umetne inteligence, torej programe, ki z modelom izvajajo zaporedje korakov in uporabljajo orodja, postane takšna razmejitev še pomembnejša. Pred uvedbo uredite potek dela in odgovornosti. Določite tudi, kdaj naj se izvajanje ustavi in kdo prevzame odprti primer.

Slovenščina naj bo del preizkusa

Za podjetje, ki posluje v slovenščini, je smiselno model preveriti na slovenskih nalogah. V preizkus vključite sporočila brez šumnikov, okrajšave, strokovne izraze in vprašanja, pri katerih kupec izdelek opiše po svoje. Tako boste preverjali delo, ki ga želite avtomatizirati.

Zberite značilne primere iz svojega poslovanja in zanje določite pričakovane odgovore. Vsakemu modelu dajte enaka navodila in enake informacije. Ocenjujte pravilnost izluščenih podatkov, razumljivost odgovora ter čas, ki ga zaposleni porabi za pregled in popravke.

Vključite tudi primer, pri katerem odgovora ni mogoče najti. Če podatka o dobavi ni v evidenci, naj sistem zahteva preverjanje. Lepo napisana izmišljena obljuba je za prodajno ekipo dodatno delo in za kupca razlog za nezaupanje.

Tu se izbira modela poveže s poznavanjem kupca pri uporabi umetne inteligence. V preizkus vključite tudi vprašanje, ali odgovor kupcu sploh pomaga narediti naslednji korak. Slovnično pravilen opis izdelka še ne razreši dvoma, ali je izdelek primeren za njegovo uporabo.

Lastna oprema potrebuje skrbnika

Morgan pri vprašanju lokalnih in oblačnih modelov od 20:41 naprej zagovarja kombinacijo obeh pristopov. Preprostejše naloge vidi na lokalni opremi, zahtevnejše pa tudi v oblaku. Za majhno podjetje je to izhodišče za primerjavo možnosti.

Pred nakupom opreme v izračun vključite njeno ceno, elektriko, nastavitve, posodobitve in delo osebe, ki bo skrbela za delovanje. Preverite tudi, kaj se zgodi, ko orodje uporablja več sodelavcev hkrati. Pri redki uporabi se nakup razporedi na manj opravljenih nalog, zato je strošek posamezne naloge lahko višji.

Pri oblačni storitvi preverite obračunavanje, omejitve uporabe in ravnanje s podatki. Pri lastni namestitvi določite dostop do dokumentov, beleženje dejanj in postopek ob izpadu. Nobena od teh odločitev ne izgine zato, ker so uteži modela javno dostopne.

Primerjavo ponovite tudi po posodobitvi modela ali spremembi navodil. Shranjena zbirka preizkusnih nalog vam omogoča preveriti, ali nova različica ohranja kakovost. Tako lahko odločitev o zamenjavi oprete na svoje rezultate.

Kaj naj podjetnik odnese v prakso

Začnite pri eni ponavljajoči se nalogi, katere rezultat znate oceniti. Zabeležite sedanji čas izvedbe in pogoste napake, nato preizkusite izbrane modele pod enakimi pogoji. K strošku uporabe prištejte pregled, popravke in vzdrževanje ter določite, kdo potrdi dovolj dober rezultat.

Če preizkus pokaže prihranek ob sprejemljivi kakovosti, uporabo postopoma razširite. Če ga ne, preverite, ali težava nastaja pri modelu, podatkih ali samem poteku dela. Dobro oblikovan preizkus je za majhno podjetje uporabnejši od obljube, da model zmore vse.

Video: pogovor z Jeffreyjem Morganom o ekonomiki odprtih modelov. Y Combinator, 4. september 2026.

Merilo uspeha je strošek pravilno opravljene naloge.

Dobro oblikovan preizkus je za majhno podjetje uporabnejši od obljube, da model zmore vse.

▶

Izvirna epizoda na YouTubu: Y Combinator.

Viri

• Y Combinator: kako odprti modeli spreminjajo ekonomiko umetne inteligence — Pogovor z Jeffreyjem Morganom, soustanoviteljem in direktorjem družbe Ollama. Relevantni deli: stroški in prilagajanje od 02:13, rast porabe od 03:31 ter lokalno in oblačno izvajanje od 20:41. Podatek o 150-kratni porabi se nanaša na Ollama Cloud.
• Prepis pogovora Y Combinator z Jeffreyjem Morganom — Prepis istega pogovora; navedba o 150-kratni skupni porabi je pri 04:58. Stran navaja datum zvočne objave, ki se razlikuje od datuma videa.