Lekcije T2 o varnih podatkih, omejenih virih in človeškem nadzoru
Umetna inteligenca lahko podjetju v nekaj minutah prihrani ure dela. Toda najdražja napaka se lahko zgodi še hitreje: nekdo v javni klepet naloži račun, dobavnico ali interni dokument, ker želi takojšen odgovor. Prav tu se navdušenje nad hitrostjo sreča z odgovornostjo.
V pogovoru SBC z Leom Štimcem in Smailom Jušičem se zato pojavi pomembnejše vprašanje od tega, kaj vse AI zmore: kaj mu bomo dovolili? Štimac razvija T2-jevega asistenta Titino, Jušič pa mentorira analitike v varnostno-operativnem centru oziroma SOC-u, kjer spremljajo varnostne dogodke.
Samozavesten odgovor še ni pravilen odgovor
Generativni model ne išče resnice tako kot človek. Sestavlja verjeten odgovor na podlagi vzorcev v podatkih, zato lahko ustvari tudi izmišljeno trditev in jo predstavi brez najmanjšega dvoma. Temu pravimo halucinacija umetne inteligence.
»AI sam ne ve, ali je haluciniral ali ne. On da odgovor, in vsak odgovor je za AI isti.«
Štimčeva misel v delu oddaje o halucinacijah od 19:35 zadene bistvo. Tekoč jezik, samozavesten ton in hiter odgovor še niso dokaz pravilnosti. Če zaposleni tega ne razumejo, lahko prepričljiv stavek hitro postane poslovna odločitev.
Kako je Titina omejila prostor za napake
T2 je Titino zgradil na platformi Boost.ai in ji postavil ozke meje. Asistent odgovarja iz vzdrževanih internih dokumentov, ne išče po odprtem spletu in ob nejasnosti pogovor preda človeku. Po navedbah v oddaji je bila zadnja opažena halucinacija izmišljen spletni naslov pred več meseci.
To ni obljuba popolnosti, ampak dober prikaz nadzorovanega sistema: omejeni viri, urejeno znanje in jasen izhod v človeško podporo. Tudi širše gledano uvajanje umetne inteligence potrebuje vodstvo, ne le nove programske licence.
Javni klepet ni varno odložišče
Okoli 22:55 gostje opozorijo na zelo konkretno nevarnost: ljudje v javne klepete nalagajo račune, dobavnice in interne dokumente. Orodje je priročno, toda priročnost ne spremeni občutljivega poslovnega podatka v gradivo za prosto uporabo.
Podjetje zato potrebuje pravila, še preden zaposleni izberejo svoje najljubše orodje. Enako velja za varno poslovno komunikacijo: zaščita podatkov ni naloga enega opozorila, temveč del vsakdanjega načina dela.
- Določite, katera AI-orodja so dovoljena.
- Poimenujte podatke, ki jih vanje ni dovoljeno vnašati.
- Za občutljive naloge zagotovite nadzorovano okolje.
- Določite odgovornost za preverjanje odgovorov in prijavo napak.
Oddaja omenja tudi primer uporabnikov, ki so McDonald’sov chatbot izkoristili za zasebne namene. Podrobnosti niso bistvene; lekcija je jasna. Ko podjetje odpre sistem javnosti, mora pričakovati tudi uporabo, ki je oblikovalci niso načrtovali.
Najboljši model ne obstaja
Veliki jezikovni model oziroma LLM je tehnologija v ozadju ChatGPT-ja in sorodnih orodij. Toda modeli niso enako dobri pri vseh nalogah. Eden lahko bolje razume določen jezik, drugi je hitrejši, tretji pa se lažje poveže z internimi sistemi.
Pravo vprašanje zato ni, kateri model trenutno vodi na splošni lestvici. Podjetje mora primerjati kakovost odgovorov na svojih primerih, varovanje podatkov, stroške, hitrost in možnosti nadzora. Pri tem pomaga tudi razumevanje, kako cenovna vojna med modeli umetne inteligence spreminja ponudbo.
V oddaji je omenjen tudi slovenski model GaMS, razvit na Fakulteti za računalništvo in informatiko, kot primer modela z zelo dobrim razumevanjem slovenščine. Za slovensko podjetje je jezikovna kakovost lahko pomembnejša od odmevnega imena ponudnika.
AI poveča moč znanja – in tudi napak
Gostje kot znak spremembe omenjajo 99-odstotni padec obiska Stack Overflowa. Ker priloženo gradivo ne pojasni metodologije, je številko pošteno razumeti kot njuno trditev, ne kot neodvisno preverjeno statistiko. Vendar je smer prepoznavna: ljudje vse pogosteje vprašajo AI, namesto da bi odgovor iskali v skupnosti.
Jušič predstavi tudi osebni primer. V 28 dneh po prvi namestitvi ChatGPT-ja je izdelal aplikacijo za svojo digitalizirano glasbeno zbirko – nekakšen osebni »Spotify«. Zgodba lepo pokaže, kako lahko AI skrajša pot od zamisli do delujočega poskusa.
Vendar hitrost ne odpravlja potrebe po znanju. Človek mora postaviti pravo vprašanje, prepoznati slab rezultat in razumeti posledice. Vloga se spreminja, ne izginja, zato je pomembno tudi vodenje ekip, ki povezuje strokovnost in odnose.
Kako začeti brez dragega projekta
Prvi korak ni nakup najzmogljivejšega modela. Začnite z omejeno nalogo, pri kateri lahko kakovost rezultata preveri človek.
- Izberite konkreten problem. Dober pilot ima jasen vhod, rezultat in odgovorno osebo.
- Postavite meje podatkov. Zaposleni morajo vedeti, kaj smejo vnesti in česa ne.
- Omejite vire. Pri podpori strankam naj sistem uporablja preverjeno interno znanje.
- Ohranite človeški izhod. Nejasen primer mora priti do osebe, ki ga zna rešiti.
- Primerjajte modele na svojih nalogah. Prodajna predstavitev ponudnika ni enaka vašemu delovnemu okolju.
Uspeh pilota se ne meri po tem, kako človeško zveni chatbot. Pomembneje je, ali daje uporabne odgovore, varuje podatke in pravočasno prizna mejo svojih zmožnosti.
Kaj se lahko naučimo?
Umetna inteligenca je lahko močan pospeševalnik, vendar pospeši tudi slabe procese, nepremišljeno ravnanje s podatki in napačne odločitve. Najvarnejši sistem zato ni nujno največji ali najdražji, temveč tisti z jasnim namenom, omejenimi viri in človeškim nadzorom.
Največji oviri nista tehnologija in pomanjkanje idej, ampak nejasna odgovornost. Podjetje, ki najprej določi pravila in šele nato poveča uporabo, lahko eksperimentira pogumno, ne da bi pri tem stavilo svoje podatke in zaupanje strank.

Viri
- Strokovnjaki razkrivajo: Tega z umetno inteligenco nikar ne počnite — SBC – Klub slovenskih podjetnikov, pogovor z Leom Štimcem in Smailom Jušičem, objavljen 13. 8. 2026; trajanje približno 55 minut.
Innohub TV
Oglej si to vsebino tudi na Innohub TV
Izbrali smo klipe z Innohub TV, ki nadaljujejo isto temo.
