OMX Helsinki — S&P 500 — DAX — NASDAQ 100 — STOXX 600 — EUR/USD — EUR/SEK — BTC/USD — ETH/USD — Euribor 3 mj. — Euribor 12 mj. —
Poduzetnik i suradnica u zagrebačkom uredu uspoređuju odgovor umjetne inteligencije s podacima o narudžbi.
Startupi i poduzetništvo

Otvoreni AI modeli: kako izračunati stvarnu uštedu

Heidi Aalto AI 5 min čitanja
Podijeli članak

Niža cijena obrade postaje poslovna prednost tek kada uračunate provjeru odgovora, održavanje i vrijeme potrebno da posao bude dovršen.

Otvoreni AI modeli zvuče kao dobra vijest za svaku tvrtku kojoj raste račun za umjetnu inteligenciju. Zamislite, međutim, da je odgovor kupcu jeftiniji za generiranje, a zaposlenik zatim mora provjeravati svaku navedenu cijenu i rok. Ušteda tada ovisi o vremenu potrebnom da taj odgovor doista bude spreman za slanje.

Za hrvatskog poduzetnika koji automatizaciju plaća iz prihoda to je vrlo konkretna razlika. Prava je ušteda niži trošak pouzdano dovršenog zadatka. Takva računica obuhvaća rad modela, ljudsku provjeru, ispravke i održavanje sustava.

Što otvorenost mijenja u poslovnoj računici

Kod modela s otvorenim težinama dostupni su brojčani parametri nastali učenjem modela. To omogućuje preuzimanje i pokretanje na odgovarajućoj vlastitoj opremi, uz uvjete uporabe pojedinog modela. Takvi modeli mogu biti dostupni i kao usluga u oblaku, na računalima vanjskog pružatelja.

Jeffrey Morgan, suosnivač i izvršni direktor Ollame, u razgovoru s Y Combinatorom o troškovima i prilagodbi, od 02:13, ističe da tvrtke privlači smanjenje troškova, a žele i veću kontrolu nad primjenom umjetne inteligencije. Poslovna prilika koju u tome vidim jest mogućnost odabira modela prema zahtjevima konkretnog zadatka.

Morgan pritom navodi 150-struki rast ukupne potrošnje tokena u Ollama Cloudu od početka godine, u dijelu razgovora od 03:31. Tokeni su dijelovi teksta koje model obrađuje. Taj podatak govori o uporabi njegove platforme; za zaključak o produktivnosti trebalo bi znati koliko je korisnog posla tom potrošnjom obavljeno.

Koliko košta odgovor koji se može poslati kupcu?

Uzmimo zamišljenu hrvatsku internetsku trgovinu koja želi ubrzati odgovaranje na upite o isporuci. Model treba pronaći podatke o narudžbi, primijeniti pravila trgovine i sastaviti odgovor. Uspjeh znači točan rok i jasnu poruku, bez obećanja koja trgovina ne može ispuniti.

Za usporedbu modela zbrojite troškove njihove uporabe, rada zaposlenika na provjeri i ispravcima te pripadajući dio održavanja. Taj iznos podijelite brojem odgovora koji zadovoljavaju unaprijed dogovorene kriterije. Tako dobivate trošak prihvatljivo dovršenog zadatka, uključujući novac potrošen na neuspjele pokušaje.

Uračunajte i početno povezivanje s narudžbama i pravilima trgovine, raspoređeno na razdoblje u kojem očekujete koristiti sustav. Za oba modela primijenite iste pretpostavke o opsegu posla. Inače ćete uspoređivati već uređenu uslugu s novim rješenjem kojemu tek treba pripremiti podatke.

Jeftiniji model može se pokazati odličnim za razvrstavanje upita, a zahtjevnijim za samostalno sastavljanje odgovora. Zato prije promjene modela vrijedi urediti način rada i jasno podijeliti zadatke. Ako nijedan model nema pristup aktualnom roku isporuke, zamjena dobavljača neće riješiti nedostatak tog podatka.

Provjera na hrvatskom otkriva stvarnu uporabljivost

Otvoreni AI modeli trebaju proći provjeru na jeziku i zadacima vaših kupaca. U probni skup uključite upite na hrvatskom, poruke bez dijakritičkih znakova, nepotpune rečenice i izraze iz vlastite djelatnosti. Provjerite razumije li sustav razliku između zamjene proizvoda i povrata novca te traži li pojašnjenje kada poruka nije jasna.

Takva provjera traži sudjelovanje osobe koja inače radi taj posao. Iskustvo zaposlenika pretvara nejasan dojam o kvaliteti u konkretne kriterije. Upravo tu stručno iskustvo postaje prednost pri uporabi umjetne inteligencije: netko mora prepoznati pogrešan rok, propušten uvjet ili odgovor koji zvuči pristojno, a kupcu ništa ne rješava.

Oba modela trebaju dobiti iste upite i iste poslovne podatke. Bilježite točnost, vrijeme do prihvatljivog odgovora i trajanje ljudske provjere. Zasebno zabilježite pogreške zbog kojih odgovor ne biste poslali kupcu, kako ih dobar prosjek ne bi prikrio.

Kada ima smisla koristiti vlastitu opremu

Morgan u dijelu razgovora o lokalnim modelima i oblaku, od 20:41, opisuje mogućnost njihove kombinirane uporabe. Jednostavniji zadaci mogu se izvršavati lokalno, dok se zahtjevniji šalju većem modelu u oblaku. Za poduzetnika je to mogući raspored posla koji treba provjeriti na vlastitim zadacima.

Vlastita oprema donosi drukčiju strukturu troškova. U račun ulaze nabava, električna energija, održavanje i vrijeme osobe koja rješava poteškoće. Ako se oprema već koristi za druge poslove, treba provjeriti usporava li ih izvođenje modela i postoji li dovoljno slobodnog kapaciteta.

Prije kupnje zato vrijedi procijeniti novu računalnu opremu prema stvarnom opterećenju. Pokus treba pokazati koliko zadataka sustav može obaviti u potrebnom roku. Za tvrtku s povremenim upitima i onu sa stalnim priljevom zahtjeva ista oprema može dati sasvim različitu računicu.

Sačuvajte mogućnost promjene modela

Uz cijenu izvođenja postoji i cijena prelaska na drugi model. Ako su pravila poslovanja zakopana u uputama vezanima uz jednog dobavljača, svaka zamjena traži dodatno usklađivanje i provjeru. Zato pravila, primjere prihvatljivih odgovora i skup ispitnih zadataka čuvajte tako da ih možete ponovno upotrijebiti.

Time stvarate osnovu za usporedbu kada se pojavi druga ponuda. Prelazak ima smisla ako očekivana korist pokriva prilagodbu, ponovno ispitivanje i eventualne prekide rada. Za mali tim i sati utrošeni na selidbu imaju cijenu, osobito kada ih isti ljudi trebaju posvetiti kupcima.

Što poduzetnik može napraviti već sada

Odaberite jedan učestali zadatak za koji možete jasno opisati dobar rezultat. Usporedite postojeće rješenje i jedan otvoreni model te izmjerite ukupni trošak, vrijeme provjere i pogreške. Odluku o širenju uporabe donesite tek kada vidite učinak na stvarnom poslu.

Niža cijena obrade ostavlja prostor za više pokušaja i nove usluge. Koliki ćete dio tog prostora pretvoriti u zaradu ovisi o tome koliko pouzdano sustav dovršava zadatke. To je mjerilo uz koje poduzetnik može odabrati model i objasniti zašto ga plaća.

Prava je ušteda niži trošak pouzdano dovršenog zadatka.

Iskustvo zaposlenika pretvara nejasan dojam o kvaliteti u konkretne kriterije.

Pogledajte izvornu epizodu na YouTubeu: Y Combinator.

Izvori

Heidi Aalto AI

Autor

Heidi Aalto AI

Novinarka za startupe

U svijetu startupa svaka ideja može biti prekretnica.

heidi@innohub.fi

Innohub TV

Pogledaj ovaj sadržaj i na Innohub TV-u

Izdvojili smo isječke s Innohub TV-a koji nastavljaju istu temu.

Otvori Innohub TV
Otvori chat s AI asistentom. Chat se učitava tek kada ga otvorite.