Osnove umetne inteligence: ne le klepetalnik, temveč nov način dela

1. Uvod: zakaj staro razumevanje umetne inteligence ne zadošča več

O umetni inteligenci še vedno prepogosto govorimo, kot da je le pametno besedilno polje. Vpišeš vprašanje. Dobiš odgovor. Prosiš za zamisel. Dobiš seznam. Prosiš za e-poštno sporočilo. Dobiš osnutek.

To je bila prva velika uporabniška izkušnja z umetno inteligenco in jo je približala širši javnosti. Vendar ne opisuje več tega, v kar se umetna inteligenca razvija.

Umetna inteligenca ni le klepetalnik. Ni le nova oblika iskalnika. Ni le stroj, ki ustvarja besedilo. Razvija se v novo plast dela: sistem, ki lahko razume cilj, išče informacije, uporablja orodja, piše kodo, izvaja delovne korake, sproža avtomatizacije, zaprosi za odobritev in se uči iz procesov organizacije.

S tem se vprašanje povsem spremeni. Prej smo spraševali: »Kaj lahko vprašam umetno inteligenco?« Zdaj bi morali vprašati: »Katere delovne korake lahko izvede, katere sisteme sme uporabljati in kje odloča človek?«

To je velik premik. Po poročilu AI Index 2025 inštituta Stanford HAI se je uporaba umetne inteligence v organizacijah očitno pospešila: leta 2024 je njeno uporabo navedlo 78 odstotkov organizacij, leto prej pa 55 odstotkov. Zasebne naložbe v generativno umetno inteligenco so po vsem svetu hkrati dosegle 33,9 milijarde dolarjev.^[1]

Ne gre več za posamezno orodje, temveč za reorganizacijo dela.

2. Kaj pomeni umetna inteligenca leta 2026?

Umetna inteligenca zajema računalniške sisteme, ki opravljajo naloge, za katere so bili prej potrebni človeško razmišljanje, jezik, sklepanje, prepoznavanje, učenje, načrtovanje ali ustvarjalnost. Danes pa je ta opredelitev preozka, če ostane le pri ustvarjanju odgovorov.

Sodobna umetna inteligenca zmore vsaj pet stvari:

• Ustvarja vsebine: besedilo, slike, kodo, zvok, videoposnetke, poročila in predstavitve.
• Analizira informacije: dokumente, odzive strank, tabele, slike, dnevnike, pogodbe in podatke.
• Uporablja orodja: podatkovne zbirke, koledar, CRM, projektno vodenje, brskalnik, urejevalnik kode, platforme za avtomatizacijo in vmesnike API.
• Izvaja delovne korake: pripravlja osnutke, izpolnjuje obrazce, odpira zahtevke, piše kodo, primerja možnosti in pripravlja odločitve.
• Deluje kot agent: načrtuje večstopenjsko nalogo, spremlja napredek, uporablja različna orodja in na kritičnih točkah zahteva odobritev človeka.

Tu je bistvena razlika. Staro razumevanje je bilo: AI odgovarja. Novo je: AI opravlja dele dela.

3. Štiri vloge umetne inteligence: miselni pomočnik, ustvarjalec, uporabnik orodij in izvajalec

Umetno inteligenco je koristno razumeti skozi štiri vloge.

1. Umetna inteligenca kot pomoč pri razmišljanju

To je najbolj znana raven. Umetna inteligenca pomaga razvijati zamisli, pojasnjevati, povzemati, primerjati, kritično presojati zamisli in oblikovati argumente. Primer: »Analiziraj to poslovno zamisel z vidika stranke, konkurence, cen in tveganj.« Tu umetna inteligenca deluje kot partner pri razmišljanju.

2. Umetna inteligenca kot pomoč pri ustvarjanju

Umetna inteligenca ustvarja konkretne rezultate dela. Pripravi lahko prvo različico poročila, kode, kampanje, predstavitve, predloge pogodbe, slike, scenarija za videoposnetek ali sporočila stranki. Primer: »Iz te analize stranke pripravi povzetek za vodstvo na treh diapozitivih.« Umetna inteligenca tu ne le sodeluje pri razmišljanju, temveč tudi izdela gradivo.

3. Umetna inteligenca kot uporabnik orodij

Na tej točki se sprememba poglobi. Umetna inteligenca ne deluje več ločeno, temveč uporablja sisteme: pridobiva informacije iz CRM-ja, bere dokumente, poizveduje po podatkovni zbirki, preverja koledar, pregleduje repozitorij kode ali analizira naloge v sistemu za vodenje projektov. Primer: »Pridobi najnovejše zahtevke stranke za podporo, odprte ponudbe in zapiske sestankov. Predlagaj naslednje sporočilo.« Umetna inteligenca za to potrebuje dostop do dejanskih podatkov podjetja.

4. Umetna inteligenca v vlogi izvajalca oziroma agenta

To je naslednji veliki val. Agent ne le odgovarja, temveč nalogo izvaja po korakih. Primer: »Pripravi sestanek s stranko za prihodnji teden. Zberi podatke, preveri odprte zadeve, pripravi dnevni red in osnutek sporočila ter pred pošiljanjem zahtevaj mojo odobritev.« Umetna inteligenca je tu že digitalna sodelavka – ne samostojna odločevalka, temveč dejavna izvajalka korakov.

4. Generativna umetna inteligenca je šele prva plast

Generativna umetna inteligenca označuje sisteme, ki ustvarjajo novo vsebino: besedilo, slike, zvok, video, kodo ali njihove kombinacije. Pomenila je preboj umetne inteligence na množični trg. Če pa ostanemo le pri njej, razumemo samo vidno površino umetne inteligence.

Generativna umetna inteligenca je kot elektromotor. Je zmogljiva komponenta, vendar do resnične spremembe pride šele, ko jo povežemo s stroji, procesi, proizvodnimi linijami in poslovnimi modeli.

Enako velja za umetno inteligenco. Posamezen generator besedila je uporaben. Umetna inteligenca, povezana s podatki, procesi, orodji, pravicami, nadzorom in odločanjem podjetja, pa je nekaj povsem drugega.

Takrat umetna inteligenca ni več »pomočnica ob strani«, temveč del delovne infrastrukture.

5. Agenti: ko umetna inteligenca začne izvajati delovne korake

Agent je sistem umetne inteligence, ki lahko na podlagi cilja izvede večstopenjsko nalogo. Nalogo lahko na primer razume, jo razdeli na dele, poišče informacije, izbere ustrezno orodje, izvede dejanje, preveri rezultat, nadaljuje z naslednjim korakom, zaprosi človeka za odobritev in zabeleži opravljeno delo.

To je velika razlika v primerjavi z običajnim klepetalnikom. Klepetalnik odgovori na vprašanje, agent pa proces vodi naprej.

V finančnem poslovanju bi agent na primer lahko:

1. pridobil odprte račune
2. prepoznal odstopanja
3. jih primerjal s pogodbami
4. pripravil seznam nejasnih primerov
5. predlagal ukrepe
6. človeka prosil za odobritev
7. zabeležil odločitve v sistem

To ni več le razvijanje idej. To je delo. Raziskava McKinsey State of AI 2025 poudarja prav ta prehod: organizacije umetne inteligence ne le preizkušajo, temveč začenjajo preoblikovati delovne tokove, imenovati vodje za upravljanje umetne inteligence in razvijati načine, kako z njo ustvariti poslovno vrednost.^[2]

Zaradi vse širše uporabe agentov postaja umetna inteligenca uporabnejša, a tudi bolj tvegana. Več ko sme AI narediti, pomembneje je določiti, česa ne sme.

6. Orkestracija: kako se delo razdeli med modele, agente in ljudi

Orkestracija je eden ključnih pojmov prihodnjega dela z umetno inteligenco. Pomeni upravljanje celote: kateri model opravi katero nalogo, kateri agent uporabi katero orodje, kdaj sodeluje človek in kako se rezultat preveri.

Dobra primerjava je orkester. Posamezen jezikovni model je kot spreten glasbenik. Če pa ima podjetje več deset orodij, več modelov, različne vire podatkov, različne uporabnike in različne ravni tveganja, potrebuje dirigenta.

Orkestracija odgovarja denimo na vprašanja:

• Katero nalogo naj opravi hiter in cenejši model?
• Katera naloga zahteva zmogljivejši model za sklepanje?
• Kdaj uporabimo iskanje z RAG po dokumentih podjetja?
• Kdaj sme agent uporabiti povezavo MCP s sistemom?
• Kdaj je potrebna odobritev človeka?
• Kako odkrijemo napake?
• Kako obvladujemo stroške?
• Kako dokumentiramo rezultat?

To je pomembno, ker rešitev umetne inteligence v prihodnje ne bo en sam bot, temveč pogosto celoten delovni tok. Orkestracija podpore strankam bi lahko potekala tako:

1. majhen model razvrsti sporočilo
2. RAG pridobi navodila in podatke o stranki
3. jezikovni model pripravi osnutek odgovora
4. agent preveri naročilo v sistemu
5. mehanizem za izvajanje pravil oceni tveganje
6. človek odobri odstopajoče primere
7. sistem zabeleži dogodek v CRM

To je nova osnovna oblika uporabe umetne inteligence: ne gre za en poziv niti za en odgovor, temveč za orkestriran delovni tok.

7. Farma agentov: digitalna delovna sila prihodnosti

Farma agentov je skupina specializiranih agentov umetne inteligence z lastnimi nalogami. Eden spremlja odzive strank. Drugi pripravlja prodajna gradiva. Tretji preverja kodo. Četrti spremlja konkurenco. Peti analizira finančne podatke. Šesti spremlja pogodbene roke. Sedmi pomaga pri pripravah na zaposlovanje.

To zveni futuristično, vendar je smer že vidna. Podjetja so začela govoriti tudi o pojavu »agent sprawl«, torej nenadzorovanem širjenju agentov. Po poročanju časnika Wall Street Journal se podjetja že spoprijemajo s položajem, v katerem različne ekipe ustvarjajo lastne agente umetne inteligence, kar povečuje tveganja za informacijsko varnost, upravljanje in stroške.^[3]

Farma agentov lahko prinese velik skok produktivnosti, vendar le, če jo ustrezno vodimo. Sicer v podjetju nastane nova oblika senčnega IT-ja: senčna umetna inteligenca. Zaposleni gradijo lastne agente, ekipe uporabljajo lastna orodja, podatkovni tokovi so nepregledni, nihče pa ne ve, kateri agent je kaj naredil, s katerimi pravicami in s kakšnimi stroški.

Farma agentov zato potrebuje tri stvari:

1. Register – kateri agenti so v organizaciji?
2. Lastnika – kdo odgovarja za delovanje, kakovost in tveganja agenta?
3. Nadzor – kaj agent počne, koliko stane in kakšne napake povzroča?

Ob dobrem vodenju je farma agentov nov produkcijski sistem. Ob slabem vodenju je drag in tvegan kaos.

8. RAG: kako umetno inteligenco povezati z lastnim znanjem podjetja

RAG je kratica za Retrieval-Augmented Generation oziroma generiranje, dopolnjeno z iskanjem. Zamisel je preprosta. Namesto da bi umetna inteligenca odgovarjala zgolj na podlagi splošnega znanja, pridobljenega med učenjem, najprej poišče ustrezne informacije v lastnih dokumentih, podatkovnih zbirkah ali drugih virih podjetja. Nato na podlagi najdenih informacij oblikuje odgovor.

RAG rešuje eno največjih težav umetne inteligence: ločenost od dejanskega okolja. Brez konteksta podjetja lahko umetna inteligenca daje splošne nasvete, s sistemom RAG pa lahko odgovarja glede na dejanske razmere v podjetju.

Na primer: »Katere so najpomembnejše zahteve naše politike informacijske varnosti za podizvajalce?« Brez sistema RAG lahko umetna inteligenca poda splošen odgovor. S sistemom RAG v politiki informacijske varnosti podjetja poišče ustrezne odlomke in jih povzame.

To je posebej pomembno v podpori strankam, pravnih službah, kadrovskih službah, prodaji, tehnični podpori, dokumentaciji izdelkov, internem iskanju informacij, usposabljanju in pripravi odločitev.

Toda RAG ni čarobna rešitev. Njegova kakovost je odvisna od kakovosti informacij v podjetju. Če so dokumenti zastareli, protislovni ali slabo poimenovani, bo umetna inteligenca hitro in prepričljivo našla slabe informacije.

Projekt RAG je zato pogosto tudi projekt upravljanja znanja. Umetna inteligenca razkrije, v kako dobrem ali slabem stanju je notranje znanje podjetja.

9. MCP: nadzorovana povezava umetne inteligence s sistemi podjetja

MCP oziroma Model Context Protocol je odprt standard, ki aplikacijam umetne inteligence omogoča nadzorovano povezovanje z zunanjimi orodji, viri podatkov in sistemi. Anthropic ga je novembra 2024 predstavil kot standard za varne dvosmerne povezave med orodji umetne inteligence in viri podatkov.^[4]

MCP si lahko predstavljamo kot priključek USB-C za umetno inteligenco. Za poslovno rabo pa je morda primernejša naslednja primerjava: MCP je omara z orodji za umetno inteligenco, dostop do katere je mogoče nadzorovati. Umetni inteligenci določa, katera orodja so na voljo, katere podatke sme prebrati, katera dejanja sme izvesti, s katerimi pravicami, v imenu katerega uporabnika in kdaj je potrebna odobritev.

To spremeni vlogo umetne inteligence:

• AI brez integracij je splošna pomočnica.
• AI s podatki podjetja je strokovnjakinja, ki razume kontekst.
• AI z orodji izvaja delovne korake.
• AI s pravicami, beleženjem in odobritvami je nadzorovana digitalna izvajalka.

Za podjetje najpomembnejše vprašanje v zvezi z MCP ni tehnično, temveč vodstveno: česa se sme umetna inteligenca dotakniti? Sme brati podatke strank? Sme posodabljati CRM? Sme pošiljati sporočila? Sme izvajati poizvedbe v podatkovni zbirki? Sme odpirati zahtevke? Sme spreminjati produkcijsko kodo? Sme sprožiti plačilo?

Vsak odgovor »da« poveča korist in hkrati odgovornost.

10. Razmišljanje z vidika veščin: katere sposobnosti umetna inteligenca prinaša organizaciji?

O umetni inteligenci prepogosto govorimo kot o orodju. Bolje je govoriti o sposobnostih oziroma veščinah. Podjetje naj se ne sprašuje le: »Ali uporabljamo umetno inteligenco?«, temveč: »Katere nove veščine umetna inteligenca prinaša naši organizaciji?«

Umetna inteligenca lahko na primer bere dolge dokumente, povzame bistvo, najde protislovja, napiše prvo različico, prilagodi besedilo različnim občinstvom, analizira odzive strank, zazna odstopanja v podatkih, izvaja poizvedbe SQL, piše in testira kodo, ustvarja slike in videoposnetke, pripravlja prodajna sporočila in ponudbe, spremlja konkurenco in pogodbene roke, odpira zahtevke, posodablja sisteme, preverja kakovost ter predlaga naslednje korake.

Razmišljanje z vidika veščin naredi umetno inteligenco konkretno. Razpravo premakne od nejasne »preobrazbe z umetno inteligenco« k dejanskim sestavinam dela. Seznam veščin umetne inteligence za marketinško ekipo bi lahko vključeval:

1. ustvarjanje zamisli za kampanje
2. analiza ciljnih skupin
3. priprava različic besedila
4. ustvarjanje slikovnih konceptov
5. načrtovanje preizkusov A/B
6. analiza podatkov kampanj
7. priprava osnutka poročila za vodstvo

To je veliko uporabneje od izjave »Umetno inteligenco uporabljamo v trženju.«

11. Programiranje: zakaj se je razvoj programske opreme spremenil prvi

Razvoj programske opreme je eno največjih področij uporabe umetne inteligence. Razlogi so trije. Prvič, koda je jezik, ki ga jezikovni modeli dobro obdelujejo. Drugič, rezultat razvoja programske opreme je mogoče preizkusiti: koda bodisi deluje bodisi ne. Tretjič, razvijalci so vajeni uporabljati orodja, dokumentacijo, nadzor različic in avtomatizacijo, zato se umetna inteligenca naravno vključi v njihov delovni tok.

Pri razvoju programske opreme lahko umetna inteligenca piše funkcije, razlaga obstoječo kodo, išče hrošče, predlaga arhitekturo, piše teste, refaktorira kodo, ustvarja dokumentacijo, analizira dnevnike napak, gradi prototipe, pomaga pri uvajanju nove knjižnice, ustvarja osnutke uporabniških vmesnikov in izvaja migracije.

To ne pomeni, da nadomesti dobre razvijalce, temveč da lahko dober razvijalec naredi več. Še zanimiveje: netehnični ustanovitelj lahko prve prototipe izdela na način, ki je bil prej veliko težji.

To neposredno vpliva na zagonska podjetja. Tehnična izvedba je bila prej pogosto ozko grlo, zdaj pa je mogoče prvo različico zgraditi hitreje, ceneje in z manjšo ekipo.

Nevarnost pa je tudi tehnični dolg. AI lahko hitro ustvari kodo, ki je nihče zares ne razume. Zgradi lahko prototip, ki je videti dobro, vendar ni razširljiv. Vnese lahko varnostne ranljivosti, odvisnosti in nepregledno arhitekturo.

Zato umetna inteligenca pri programiranju ne odpravlja potrebe po znanju, temveč ga naredi še dragocenejšega.

12. Razmišljanje po načelu AI-first: procese je treba zasnovati na novo

Pristop AI-first ne pomeni, da umetno inteligenco na silo vključimo povsod. Pomeni, da procese že od začetka načrtujemo z vprašanjem: »Kako bi to delo opravili, če bi bila umetna inteligenca naravni del procesa?«

To je povsem drugače od klepetalnika, prilepljenega na stari proces. Po starem človek opravi delo, AI pomaga napisati besedilo, proces pa ostane enak. Pristop AI-first:

1. opredeli cilj
2. prepozna ponavljajoče se korake
3. delo razdeli med človeka, umetno inteligenco in avtomatizacijo
4. AI poveže s pravimi viri podatkov
5. vzpostavi točke odobritve
6. meri kakovost, čas, stroške in tveganja
7. proces nenehno izboljšuje

Pri zaposlovanju pristop AI-first ne pomeni, da umetna inteligenca izbira ljudi. Lahko pripravi osnutek zaposlitvenega oglasa, preveri, ali je jezik nediskriminatoren, strukturira prijave, izpostavi izkušnje glede na merila, pripravi vprašanja za razgovor, povzame zapiske z razgovorov in opozori na tveganja pri odločanju. Odločitve pa sprejema človek.

Pristop AI-first človeka ne odstranjuje iz procesa, temveč njegov čas preusmerja tja, kjer v procesu prinaša večjo vrednost.

13. Pogled podjetja: umetna inteligenca v proračunu, vodenju in spremljanju

Podjetja umetne inteligence ne bi smela več obravnavati kot poskusno proračunsko postavko. Postati bi morala del običajnih naložb v produktivnost. Tako kot podjetje v proračun vključi licence za programsko opremo, naprave, usposabljanja in delovna orodja, bi moralo načrtovati tudi stroške uporabe umetne inteligence: licence za orodja umetne inteligence, stroške žetonov, stroške uporabe vmesnikov API, platforme za avtomatizacijo, informacijsko varnost, usposabljanje, integracije, nadzor, spremljanje kakovosti in notranji razvoj.

Žetoni so osnovna obračunska enota stroškov uporabe modelov umetne inteligence. V praksi so deli besedila, podatkov ali drugih vhodnih vsebin, na podlagi katerih se obračunava uporaba modela. Več ko umetna inteligenca bere, piše in obdeluje, več žetonov porabi.

To zveni tehnično, vendar je z vidika vodenja vprašanje preprosto: koliko je podjetje pripravljeno vložiti v povečanje produktivnosti zaposlenih? Povsem smiselno je razmisliti, ali bi na primer 1–5 odstotkov stroškov plač namenili umetni inteligenci, če bi ta pospešila delo strokovnjakov, izboljšala kakovost in zmanjšala količino rutinskega dela. Natančen delež je odvisen od panoge, narave dela, zrelosti podatkov in stopnje tveganja, pomembno pa je samo načelo.

Proračun za umetno inteligenco je koristno razdeliti na štiri ravni:

1. Proračun uporabe – licence, žetoni, stroški API in orodja.
2. Proračun za razvoj kompetenc – usposabljanje, interna navodila, knjižnice pozivov, popis veščin in dobre prakse.
3. Proračun integracij – MCP, RAG, viri podatkov, avtomatizacije, informacijska varnost in sistemske povezave.
4. Proračun sprememb – prenova procesov, upravljanje sprememb, spremljanje in modeli vodenja.

Pomembno je tudi spremljati uporabo umetne inteligence – ne zato, da bi nadzorovali ljudi, temveč zato, ker mora podjetje razumeti, kje AI dejansko ustvarja koristi, kje povzroča napake, koliko njena uporaba stane, kdo potrebuje dodatno usposabljanje, katere ekipe so vodilne, katere procese je smiselno avtomatizirati v naslednjem koraku in kje nastajajo tveganja.

Spremljanje umetne inteligence je novo področje vodenja. Brez njega uporaba hitro postane občutek: »Pri nas precej uporabljamo AI.« To ni dovolj. Vedeti moramo, kaj spreminja.

14. Pogled zagonskih podjetij: manjša ekipa, večja zmogljivost

Za zagonska podjetja je umetna inteligenca izjemna priložnost. Majhna ekipa lahko opravlja naloge, za katere je bilo prej potrebnih veliko več ljudi: gradi prototipe, piše kodo, pripravlja zasnove raziskav uporabnikov, analizira intervjuje, ustvarja marketinška gradiva, preizkuša cenovne modele, pripravlja sezname za prodajo, oblikuje osnutke gradiv za vlagatelje, zagotavlja prvo raven podpore strankam in avtomatizira notranje delovne korake.

To zagonskega podjetja ne naredi samodejno dobrega, spremeni pa logiko hitrosti. Konkurenčna prednost je prej pogosto izhajala iz tega, kdo je imel največ virov. Zdaj lahko izhaja iz tega, kdo zna zgraditi najučinkovitejšo kombinacijo človeka in umetne inteligence.

Zagonsko podjetje, zasnovano na umetni inteligenci, se ne sprašuje: »Kam naj dodamo funkcijo umetne inteligence?«, temveč: »Kako bi bili videti procesi, če bi danes to podjetje od začetka zgradili z umetno inteligenco?«

Nevarnost za zagonsko podjetje je tudi megla umetne inteligence. Vse se zdi mogoče. Vse deluje hitro. Nastane veliko predstavitvenih različic, vendar malo vzdržnega poslovanja. Zato se mora zagonsko podjetje strogo vprašati: kateri je resnični problem stranke? Kaj umetna inteligenca opravi bolje kot stari način? Kakšna je naša prednost pri podatkih? Kakšna je naša prednost pri distribuciji? Kaj je težko posnemati? Kako bomo zagotovili kakovost? Kako se stroški spreminjajo z rastjo obsega?

AI olajša gradnjo. Trga ne naredi lažjega.

15. Upravljanje sprememb: zakaj AI spodleti, če ljudi izključimo

Uvajanje umetne inteligence ni le tehnološki projekt, temveč projekt upravljanja sprememb. Če vodstvo kupi orodje, vendar ne spremeni načina dela, ostane umetna inteligenca ločena od procesov. Če se zaposleni bojijo, da bo umetna inteligenca namenjena zgolj varčevanju, ne bodo delili najboljših načinov uporabe. Če srednje vodstvo ne razume možnosti umetne inteligence, ne bo znalo spreminjati procesov. Če se informacijska varnost vključi šele na koncu, se projekt upočasni ali ustavi.

Dobro upravljanje sprememb se začne z iskrenim sporočilom: umetna inteligenca spreminja delo. Vsega ne bomo in ne smemo avtomatizirati, vsak pa se jo mora naučiti uporabljati premišljeno.

Organizacija naj prehod na umetno inteligenco izvede na štirih ravneh:

1. Razumevanje – kaj umetna inteligenca je in kaj ni?
2. Veščine uporabe – kako zaposleni uporablja umetno inteligenco pri svojem delu?
3. Sprememba procesa – kako se spremenijo delovni tokovi ekipe?
4. Sprememba vodenja – kako se umetna inteligenca odraža v ciljih, proračunu, kazalnikih, upravljanju tveganj in odločanju?

Pomembno je najti notranje pionirje. Najboljši načini uporabe umetne inteligence pogosto ne nastanejo na strateških predstavitvah, temveč pri vsakdanjem delu: prodajalec odkrije način za pripravo na sestanek s stranko, pravnik vzpostavi postopek pregleda pogodb, razvijalec avtomatizira teste, kadrovska ekipa pa pospeši uvajanje novih zaposlenih. Naloga vodstva je te prakse izpostaviti, jih razširiti in poskrbeti, da so varne.

16. Tveganja: podatki, pravice, halucinacije, stroški in odgovornost

Več ko umetna inteligenca naredi, resnejša postajajo tveganja. Ko umetna inteligenca le napiše osnutek, je napako običajno preprosto popraviti. Ko pa uporablja sisteme, pridobiva podatke, uvaja spremembe ali pošilja sporočila, ima lahko napaka neposredne posledice.

Glavna tveganja so:

1. Halucinacije

Umetna inteligenca si lahko izmisli podatke ali napačno sklepa. To je posebej nevarno, kadar je odgovor urejen in prepričljiv.

2. Napačen kontekst

AI lahko uporabi zastarel dokument, napačne podatke stranke ali nepopolne podatke. RAG ne pomaga, če so pridobljene informacije slabe.

3. Preširoke pravice

Če ima agent dostop do vsega, lahko naredi preveč. Veljati mora enako načelo kot drugod v informacijski varnosti: načelo najmanjših privilegijev. Umetna inteligenca sme imeti le privilegije, ki jih potrebuje.

4. Vbrizgavanje pozivov (prompt injection)

Zunanji dokument, spletna stran ali vsebina, pridobljena iz sistema, lahko vsebuje navodila, ki poskušajo manipulirati z umetno inteligenco. Tveganje je večje, kadar ima umetna inteligenca dostop do orodij.

5. Nenadzorovana rast stroškov

Žetoni stanejo. Agenti porabljajo žetone. Iskanja RAG stanejo. Orkestracija več modelov stane. Agenti za programiranje lahko izvajajo dolgotrajna zaporedja opravil. Če uporabe ne spremljamo, lahko stroški umetne inteligence neopazno narastejo.

6. Zabrisana odgovornost

»AI je to naredila« ni izgovor, ki bi podjetje razbremenil odgovornosti. Podjetje je še vedno odgovorno stranki. Vodstvo je še vedno odgovorno za odločitve. Zaposleni je še vedno odgovoren za kakovost svojega dela. Profil NIST za obvladovanje tveganj generativne umetne inteligence poudarja, da morajo organizacije prepoznati in obvladovati posebna tveganja, povezana z generativno umetno inteligenco, kot del širšega obvladovanja tveganj umetne inteligence.^[5]

Odgovorna uporaba ne pomeni zaviranja, temveč postavitev varoval, preden hitrost naraste.

17. Prihodnost: proti operacijskemu sistemu umetne inteligence

Prihodnost umetne inteligence ni ena sama aplikacija. Je plast med aplikacijami, podatki, procesi in ljudmi. V prihodnjem delovnem okolju lahko umetna inteligenca deluje kot operacijski sistem: razume uporabnikov cilj, poišče ustrezen kontekst, izbere orodja, razdeli nalogo med agente, uporablja podatke podjetja, spremlja napredek, prosi za odobritve, se uči iz kazalnikov procesa in sčasoma izboljšuje delovni tok.

To se ne bo zgodilo čez noč niti enakomerno v vseh panogah. Smer pa je jasna. Umetna inteligenca prehaja:

• od besedila k dejanjem
• od klepeta k delovnemu toku
• od poziva k procesu
• od posameznega modela k sistemu agentov
• od poskusa k vodenju

Podjetja, ki to zgodaj razumejo, umetne inteligence ne le »uporabljajo«, temveč okoli nje na novo organizirajo delo.

18. Sklepne ugotovitve

Osnove umetne inteligence ne pomenijo več le tega, da znamo napisati dober poziv. Pomenijo razumevanje nove logike dela.

Umetna inteligenca lahko sodeluje pri razmišljanju, ustvarja gradiva, uporablja orodja, pridobiva informacije iz virov podjetja, piše kodo, izvaja delovne korake, deluje kot agent, avtomatizira procese, povečuje produktivnost zaposlenih, spreminja stroškovno strukturo podjetja in zahteva novo raven vodenja.

Toda umetna inteligenca ne odpravlja človekove odgovornosti. Nasprotno. Več ko naredi AI, bolje jo mora človek usmerjati. Podjetje mora vedeti, kaj AI počne, zakaj to počne, s katerimi pravicami, koliko stane in kdaj jo mora človek ustaviti.

Ključno spoznanje je: umetna inteligenca ni le orodje za hitrejše delo, temveč nov način njegove organizacije.

Podjetja, ki to razumejo, se ne sprašujejo več: »Kako uporabljamo umetno inteligenco?« Sprašujejo se: »Kako bi zgradili to podjetje, če bi bila umetna inteligenca na voljo pri vsakem smiselnem delovnem koraku?« Tu se začne resnična sprememba.

19. Praktični modeli in delovne predloge

1. Zemljevid procesa po načelu AI-first

Izberi proces in ga preglej takole:

1. Kaj je cilj procesa?
2. Kateri koraki se ponavljajo?
3. Kje je potrebna človeška presoja?
4. Kje so potrebni podatki podjetja?
5. Kje bi AI lahko pripravila osnutek?
6. Kje bi AI lahko poiskala informacije?
7. Kje bi AI lahko uporabila orodje?
8. Kje bi lahko umetna inteligenca samodejno opravila delo?
9. Kje je potrebna odobritev?
10. Kako merimo rezultat?

Primeren prvi kandidat je proces, ki se ponavlja, vzame veliko časa in pomeni dovolj majhno tveganje.

2. Štiristopenjski model umetne inteligence

Vsak primer uporabe AI oceni po teh merilih:

Višja ko je raven, več pravic, nadzora in odobritev je potrebnih.

3. Popis veščin ekipe

Skupaj z ekipo izpolnite:

• Kaj delamo vsak teden? Naštejte 20 ponavljajočih se korakov.
• Pri čem bi lahko pomagala umetna inteligenca? Vsak delovni korak označite z eno od kategorij: ustvarjanje idej, priprava osnutka, analiza, iskanje, avtomatizacija ali podpora pri odločanju.
• Katere veščine potrebujemo? Na primer povzemanje dokumentov, analiza podatkov strank, ustvarjanje kode, poročanje in izdelava slik.
• Kaj je treba povezati? Dokumente, CRM, sistem za vodenje projektov, podatkovno zbirko, koledar in e-pošto.
• Česa ne smemo avtomatizirati? Odločitev, ki vplivajo na ljudi, denar, zdravje, varnost, pravne zadeve ali ugled, ne smemo avtomatizirati brez odobritve.

4. Kontrolni seznam pripravljenosti na RAG

Preden zgradite rešitev RAG, se vprašajte:

• Kje so informacije?
• So informacije posodobljene?
• Kdo je njihov lastnik?
• So informacije protislovne?
• Kako delujejo pravice dostopa?
• Kako uporabniku prikažemo vire?
• Kako odkrijemo napačne odgovore?
• Kako odstranimo zastarele informacije?
• Kako merimo kakovost?

RAG ne popravi slabega upravljanja znanja, temveč ga razkrije.

5. Model uvedbe MCP

Začni takole:

1. Izberi en sistem.
2. Sprva dodeli le pravico za branje.
3. Omeji skupino uporabnikov.
4. Beleži vso uporabo.
5. Določi točke odobritve.
6. Preizkusi primere zlorabe.
7. Obseg razširi šele, ko razumeš koristi in tveganja.

Ne začni z najbolj kritičnimi sistemi. Začni tam, kjer je korist jasna in tveganje obvladljivo.

6. Model upravljanja farm agentov

Za vsakega agenta je treba določiti ime, namen, lastnika, orodja, ki jih uporablja, vire podatkov, pravice, omejitev stroškov, beleženje, kazalnik kakovosti, točke odobritve in mehanizem za izklop.

Agent brez lastnika ne sme v produkcijsko okolje.

7. Osnovni model proračuna za AI

Vodstvo naj naložbe v umetno inteligenco oceni glede na stroške plač. Če želi povečati produktivnost strokovnega dela, je smiselno razmisliti, kolikšen delež stroškov plač naj nameni umetni inteligenci.

8. Kazalniki spremljanja umetne inteligence

Spremljajte vsaj naslednje: aktivne uporabnike, uporabljena orodja, porabo žetonov, stroške po ekipah, prihranjeni čas, število pripravljenih osnutkov, število odobrenih rezultatov umetne inteligence, število napak, zadovoljstvo uporabnikov, čas izvedbe procesa, vpliv na stranke, primere tveganj in stopnjo avtomatizacije.

Najpomembneje ni izmeriti vsega, temveč ugotoviti, kje umetna inteligenca dejansko izboljšuje delo.

9. Vprašanja za vodjo

Za vsak proces vprašaj:

1. Kaj vzame največ časa?
2. Kaj se ponavlja?
3. Kaj zahteva podatke?
4. Kaj zahteva človeško presojo?
5. Ali lahko AI pripravi prvo različico?
6. Ali lahko AI pridobi potrebne informacije?
7. Ali lahko AI uporabi orodje?
8. Kakšna tveganja nastanejo, če AI deluje napačno?
9. Kje je potrebna odobritev?
10. Kako merimo izboljšanje?

10. Praktični nasvet v enem stavku

Ne začni z vprašanjem, kaj bi lahko vprašal umetno inteligenco. Začni z vprašanjem:

»Kateri korak v tem procesu naj opravi umetna inteligenca, o katerem naj odloči človek in katerega naj sistem izvede samodejno?«

V tem je bistvo sodobnega razumevanja osnov umetne inteligence.

Viri

1. The 2025 AI Index Report — Stanford HAI
2. The State of AI: How organizations are rewiring to capture value — McKinsey
3. Companies Have a New AI Problem: Too Many Agents — Wall Street Journal
4. Introducing the Model Context Protocol — Anthropic
5. AI Risk Management Framework — NIST