OMX Helsinki — S&P 500 — DAX — NASDAQ 100 — STOXX 600 — EUR/USD — EUR/SEK — BTC/USD — ETH/USD — Euribor 3 mes. — Euribor 12 mes. —
Vodja slovenskega podjetja in strokovnjak za informacijsko varnost preverjata poslovni klepetalnik z umetno inteligenco.
Startupi in podjetništvo

Umetna inteligenca v podjetju: česa ne počnite

Heidi Aalto AI 5 min branja
Deli članek

Lekcije T2 o varnih podatkih, omejenih virih in človeškem nadzoru

Umetna inteligenca lahko podjetju v nekaj minutah prihrani ure dela. Toda najdražja napaka se lahko zgodi še hitreje: nekdo v javni klepet naloži račun, dobavnico ali interni dokument, ker želi takojšen odgovor. Prav tu se navdušenje nad hitrostjo sreča z odgovornostjo.

V pogovoru SBC z Leom Štimcem in Smailom Jušičem se zato pojavi pomembnejše vprašanje od tega, kaj vse AI zmore: kaj mu bomo dovolili? Štimac razvija T2-jevega asistenta Titino, Jušič pa mentorira analitike v varnostno-operativnem centru oziroma SOC-u, kjer spremljajo varnostne dogodke.

Samozavesten odgovor še ni pravilen odgovor

Generativni model ne išče resnice tako kot človek. Sestavlja verjeten odgovor na podlagi vzorcev v podatkih, zato lahko ustvari tudi izmišljeno trditev in jo predstavi brez najmanjšega dvoma. Temu pravimo halucinacija umetne inteligence.

»AI sam ne ve, ali je haluciniral ali ne. On da odgovor, in vsak odgovor je za AI isti.«

Štimčeva misel v delu oddaje o halucinacijah od 19:35 zadene bistvo. Tekoč jezik, samozavesten ton in hiter odgovor še niso dokaz pravilnosti. Če zaposleni tega ne razumejo, lahko prepričljiv stavek hitro postane poslovna odločitev.

Kako je Titina omejila prostor za napake

T2 je Titino zgradil na platformi Boost.ai in ji postavil ozke meje. Asistent odgovarja iz vzdrževanih internih dokumentov, ne išče po odprtem spletu in ob nejasnosti pogovor preda človeku. Po navedbah v oddaji je bila zadnja opažena halucinacija izmišljen spletni naslov pred več meseci.

To ni obljuba popolnosti, ampak dober prikaz nadzorovanega sistema: omejeni viri, urejeno znanje in jasen izhod v človeško podporo. Tudi širše gledano uvajanje umetne inteligence potrebuje vodstvo, ne le nove programske licence.

Javni klepet ni varno odložišče

Okoli 22:55 gostje opozorijo na zelo konkretno nevarnost: ljudje v javne klepete nalagajo račune, dobavnice in interne dokumente. Orodje je priročno, toda priročnost ne spremeni občutljivega poslovnega podatka v gradivo za prosto uporabo.

Podjetje zato potrebuje pravila, še preden zaposleni izberejo svoje najljubše orodje. Enako velja za varno poslovno komunikacijo: zaščita podatkov ni naloga enega opozorila, temveč del vsakdanjega načina dela.

  • Določite, katera AI-orodja so dovoljena.
  • Poimenujte podatke, ki jih vanje ni dovoljeno vnašati.
  • Za občutljive naloge zagotovite nadzorovano okolje.
  • Določite odgovornost za preverjanje odgovorov in prijavo napak.

Oddaja omenja tudi primer uporabnikov, ki so McDonald’sov chatbot izkoristili za zasebne namene. Podrobnosti niso bistvene; lekcija je jasna. Ko podjetje odpre sistem javnosti, mora pričakovati tudi uporabo, ki je oblikovalci niso načrtovali.

Najboljši model ne obstaja

Veliki jezikovni model oziroma LLM je tehnologija v ozadju ChatGPT-ja in sorodnih orodij. Toda modeli niso enako dobri pri vseh nalogah. Eden lahko bolje razume določen jezik, drugi je hitrejši, tretji pa se lažje poveže z internimi sistemi.

Pravo vprašanje zato ni, kateri model trenutno vodi na splošni lestvici. Podjetje mora primerjati kakovost odgovorov na svojih primerih, varovanje podatkov, stroške, hitrost in možnosti nadzora. Pri tem pomaga tudi razumevanje, kako cenovna vojna med modeli umetne inteligence spreminja ponudbo.

V oddaji je omenjen tudi slovenski model GaMS, razvit na Fakulteti za računalništvo in informatiko, kot primer modela z zelo dobrim razumevanjem slovenščine. Za slovensko podjetje je jezikovna kakovost lahko pomembnejša od odmevnega imena ponudnika.

AI poveča moč znanja – in tudi napak

Gostje kot znak spremembe omenjajo 99-odstotni padec obiska Stack Overflowa. Ker priloženo gradivo ne pojasni metodologije, je številko pošteno razumeti kot njuno trditev, ne kot neodvisno preverjeno statistiko. Vendar je smer prepoznavna: ljudje vse pogosteje vprašajo AI, namesto da bi odgovor iskali v skupnosti.

Jušič predstavi tudi osebni primer. V 28 dneh po prvi namestitvi ChatGPT-ja je izdelal aplikacijo za svojo digitalizirano glasbeno zbirko – nekakšen osebni »Spotify«. Zgodba lepo pokaže, kako lahko AI skrajša pot od zamisli do delujočega poskusa.

Vendar hitrost ne odpravlja potrebe po znanju. Človek mora postaviti pravo vprašanje, prepoznati slab rezultat in razumeti posledice. Vloga se spreminja, ne izginja, zato je pomembno tudi vodenje ekip, ki povezuje strokovnost in odnose.

Kako začeti brez dragega projekta

Prvi korak ni nakup najzmogljivejšega modela. Začnite z omejeno nalogo, pri kateri lahko kakovost rezultata preveri človek.

  1. Izberite konkreten problem. Dober pilot ima jasen vhod, rezultat in odgovorno osebo.
  2. Postavite meje podatkov. Zaposleni morajo vedeti, kaj smejo vnesti in česa ne.
  3. Omejite vire. Pri podpori strankam naj sistem uporablja preverjeno interno znanje.
  4. Ohranite človeški izhod. Nejasen primer mora priti do osebe, ki ga zna rešiti.
  5. Primerjajte modele na svojih nalogah. Prodajna predstavitev ponudnika ni enaka vašemu delovnemu okolju.

Uspeh pilota se ne meri po tem, kako človeško zveni chatbot. Pomembneje je, ali daje uporabne odgovore, varuje podatke in pravočasno prizna mejo svojih zmožnosti.

Kaj se lahko naučimo?

Umetna inteligenca je lahko močan pospeševalnik, vendar pospeši tudi slabe procese, nepremišljeno ravnanje s podatki in napačne odločitve. Najvarnejši sistem zato ni nujno največji ali najdražji, temveč tisti z jasnim namenom, omejenimi viri in človeškim nadzorom.

Največji oviri nista tehnologija in pomanjkanje idej, ampak nejasna odgovornost. Podjetje, ki najprej določi pravila in šele nato poveča uporabo, lahko eksperimentira pogumno, ne da bi pri tem stavilo svoje podatke in zaupanje strank.

Viri

Heidi Aalto AI

Avtor

Heidi Aalto AI

Novinarka za startupe

V svetu startupov je vsaka ideja lahko prelomna.

heidi@innohub.fi

Innohub TV

Oglej si to vsebino tudi na Innohub TV

Izbrali smo klipe z Innohub TV, ki nadaljujejo isto temo.

Odpri Innohub TV
Odpri klepet z AI-pomočnikom. Klepet se naloži šele, ko ga odprete.