MI modeļi: kad atvērtība atmaksājas uzņēmumam

Lai atvērtie modeļi uzlabotu peļņu, jāmēra kopējās darba izmaksas un jāsaglabā iespēja nomainīt piegādātāju.

MI modeļi var lēti sagatavot atbildi klientam. Taču, ja darbiniekam pēc tam jālabo izdomāts piegādes termiņš un jāpārraksta neveiklā latviešu valoda, ietaupījums sarūk. Latvijas uzņēmumam, kas apsver atvērtos modeļus, vērtīgākais jautājums ir pavisam praktisks: vai iespējams samazināt kopējās izmaksas, saglabāt darba kvalitāti un vajadzības gadījumā nomainīt piegādātāju?

Ollama līdzdibinātājs un vadītājs Džefrijs Morgans sarunā ar Y Combinator nošķir tūlītēju izmaksu samazinājumu no vēlmes iegūt lielāku kontroli pār modeļiem (02:19). Latvijas mazam uzņēmumam šī atšķirība palīdz precīzāk izvērtēt ieguldījumu. Atvērtības vērtība parādās tad, kad tehnoloģiju iespējams pielāgot savam darbam un vēlāk mainīt bez visas sistēmas pārbūves.

Lētāks aprēķins var palielināt kopējo rēķinu

Morgans ziņo, ka kopējais teksta vienību patēriņš Ollama Cloud kopš gada sākuma pieaudzis 150 reižu; viņš to pasaka sarunas daļā par patēriņa pieaugumu (04:49). Tās ir vienības, kurās modelis sadala apstrādājamo tekstu, piemēram, vārdi vai vārdu daļas. Šis ir Ollama vadītāja nosaukts uzņēmuma rādītājs, kuru nevar attiecināt uz visu tirgu vai pārvērst solījumā par klienta ietaupījumu.

Uzņēmējam tas dod iemeslu pārbaudīt arī lietošanas apjomu. Mākslīgā intelekta aģents, proti, programma, kas uzdevuma izpildei var izmantot rīkus un veikt vairākus soļus, var meklēt informāciju, sagatavot melnrakstu un mēģināt vēlreiz. Katrs papildu mēģinājums patērē resursus. Zemāka vienības cena ļauj darīt vairāk, bet pati par sevi nenosaka mēneša rēķinu.

Tāpēc salīdzinājuma mērauklai jābūt izmaksām par izmantojamu rezultātu. Saskaiti modeļa darbināšanu, sistēmas uzturēšanu, atkārtotos mēģinājumus un darbinieku pārbaudes laiku. Klientu atbalstā rezultāts varētu būt pareizi atrisināts pieprasījums; programmēšanā — izmaiņa, kas izturējusi pārbaudes un darbojas paredzētajā vidē.

Modeļa cenu salīdzini kopā ar darbu, kas vajadzīgs tā kļūdu labošanai. Tas dod kopīgu mērauklu vadītājam un izstrādātājam: abi var vērtēt, vai jaunais risinājums tiešām atbrīvo laiku un saglabā peļņu.

Atvērtība dod izvēli, bet prasa skaidrus nosacījumus

Par atvērtiem bieži sauc modeļus, kuru apmācītie parametri ir pieejami lejupielādei un darbināšanai savā infrastruktūrā. Tomēr pieejami parametri vēl nenozīmē pilnvērtīgu atvērtā pirmkoda risinājumu. Open Source Initiative definīcija aptver arī kodu, informāciju par apmācības datiem un brīvību sistēmu izmantot, pētīt, mainīt un izplatīt.

Pirms ieviešanas noskaidro konkrētā modeļa licences nosacījumus, pieejamās darbināšanas iespējas un uzturētāju. Vadītājam noder vienkāršs jautājums: kas notiks, ja izvēlētais pakalpojuma sniedzējs mainīs cenu vai pārtrauks modeli piedāvāt? Ja pāreja prasīs pārrakstīt klientu apkalpošanas sistēmu, atkarība būs palikusi arī ar lejupielādējamu modeli.

MI modeļi kļūst par vieglāk nomaināmu uzņēmuma rīku tad, ja darba instrukcijas, pārbaudes piemēri un uzņēmuma dati ir pārvaldāmi atsevišķi. Tas nenozīmē, ka modeļu nomaiņa būs automātiska vai bezmaksas. Taču komanda var saglabāt uzkrātās zināšanas par to, kādam jābūt labam rezultātam, un pārbaudīt nākamo kandidātu ar tiem pašiem uzdevumiem.

Latviešu valodai jābūt pārbaudes centrā

Iedomāsimies Latvijas interneta veikalu, kas vēlas automatizēt atbilžu sagatavošanu par pasūtījumiem. Izmēģinājumā iekļauj klientu vēstules ar drukas kļūdām, nepilnīgiem jautājumiem un sarunvalodu. Pārbaudi, vai modelis pareizi saprot preces nosaukumu, atšķir jautājumu no sūdzības un neizdomā informāciju, kuras pasūtījuma datos nav.

Glīta atbilde angļu valodā vēl nepierāda piemērotību šim darbam. Arī gramatiski pareizā latviešu tekstā var būt nepareizs solījums klientam. Tāpēc rezultātu vērtē cilvēks, kurš pārzina gan valodu, gan veikala darba kārtību — tieši nozares pieredze mākslīgā intelekta ieviešanā palīdz pamanīt kļūdas, kuras vienkārša valodas pārbaude neuzrāda.

Salīdzinājumā saglabā vienādus uzdevumus, pieejamo informāciju un kvalitātes kritērijus. Pieraksti, kuras atbildes der uzreiz, kuras jālabo un kuras nedrīkstētu nonākt pie klienta. Ja šķietami lētāks modelis prasa vairāk pieredzējuša darbinieka laika, tas jāiekļauj izmaksu aprēķinā pirms plašākas ieviešanas.

Darba procesu saglabā uzņēmuma rokās

Morgans uzņēmuma datu piesaisti, aģentu koordinēšanu un uzdevumu izpildi izceļ kā atsevišķas risināmas problēmas (14:06). No tā Latvijas jaunuzņēmumam izriet noderīga iespēja: vērtību var radīt, labi sakārtojot konkrētas nozares darbu. Klientam ir vajadzīga uzticama pasūtījuma apstrāde, un modeļa izvēle ir viena šā risinājuma sastāvdaļa.

Veikala piemērā pasūtījuma statuss jāsaņem no uzskaites sistēmas, bet atļautie solījumi — no uzņēmuma noteikumiem. Modelis var sagatavot atbildi šo robežu ietvaros. Skaidri noteikta MI aģentu darba kārtība uzņēmumā palīdz saglabāt šo atbildības sadalījumu arī pēc modeļa nomaiņas.

Atsevišķi jāizlemj, kur modelis darbosies. Ollama dokumentācija nošķir vietējo darbināšanu no mākoņpakalpojuma: vietējā režīmā Ollama neredz lietotāja pieprasījumus un datus, bet mākoņmodeļu izmantošanā pieprasījumu saturu apstrādā pakalpojuma nodrošināšanai. Izvēloties savu infrastruktūru, aprēķinā iekļauj arī iekārtas, atjaunināšanu un cilvēku, kurš risinās darbības traucējumus.

Pārbaudi arī noslogotu darba brīdi. Modelis, kas izmēģinājumā vienam darbiniekam atbild pietiekami ātri, vēl jāpārbauda ar vairākiem vienlaicīgiem pieprasījumiem. Ja veidojas rinda, izlem, vai pieņemama ir gaidīšana, vajadzīga papildu jauda vai uzdevumu pārņem cilvēks. Arī šim lēmumam ir izmaksas.

Ko uzņēmējam no tā paņemt

Sāc ar vienu atkārtojamu uzdevumu, kura kvalitāti spēj pārbaudīt. Izvēlies atvērto modeli salīdzinājumam ar pašreizējo risinājumu un novērtē visu ceļu līdz izmantojamam rezultātam. Tā var iegūt pamatojumu ieguldījumam vēl pirms infrastruktūras paplašināšanas.

Pirms lēmuma pieņemšanas noskaidro:

• Vai rezultāts latviešu valodā atbilst uzņēmuma prasībām?
• Vai ietaupījums saglabājas pēc uzturēšanas un labošanas darba ieskaitīšanas?
• Vai modeli vai tā piegādātāju var nomainīt, saglabājot datus, instrukcijas un pārbaudes?

Atvērtības vērtība uzņēmumam ir pārbaudāma izvēles brīvība. Ja vari salīdzināt alternatīvas un pāriet uz piemērotāku risinājumu, tev ir labāks pamats gan sarunai par cenu, gan nākamajam izaugsmes solim. Tieši šo spēju ir vērts veidot jau pirmajā izmēģinājumā.

Y Combinator saruna ar Ollama līdzdibinātāju un vadītāju Džefriju Morganu, 2026. gada 4. septembris.

Modeļa cenu salīdzini kopā ar darbu, kas vajadzīgs tā kļūdu labošanai.

Atvērtības vērtība uzņēmumam ir pārbaudāma izvēles brīvība.

▶

Skatiet oriģinālo epizodi YouTube: Y Combinator.

Avoti

• Y Combinator: atvērtie modeļi maina mākslīgā intelekta ekonomiku — Saruna ar Džefriju Morganu. 02:19 — izmaksas un kontrole; 04:49 — Ollama Cloud kopējā teksta vienību patēriņa pieaugums; 14:06 — uzņēmuma dati, koordinēšana un izpilde. Patēriņa pieaugums norādīts kā Morgana sniegts uzņēmuma rādītājs.
• Y Combinator sarunas atšifrējums — Sarunas atšifrējuma pārpublicējums, izmantots apgalvojumu un laika atzīmju pārbaudei.
• Open Source Initiative: atvērtā pirmkoda mākslīgā intelekta definīcija — Pamatojums atšķirībai starp pieejamiem modeļa parametriem un pilnvērtīgu atvērtā pirmkoda risinājumu.
• Ollama dokumentācija: biežāk uzdotie jautājumi — Vietējās darbināšanas un mākoņmodeļu datu apstrādes atšķirības; vienlaicīgu pieprasījumu apstrāde.