AI agent tööl: Soldera kaotas 12 000 eurot

Mida õpetab üks katkine automatiseerimine tehisintellekti agentide kasutuselevõtust?

Kujuta ette hetke, mil sinu ettevõtte andmebaas kaob üleöö kellegi teadmata — ja süüdlaseks pole hakker ega inimlik eksitus, vaid sinu enda tööle pandud AI agent. Just selline stsenaarium seisis ees Eesti idufirmal Soldera, kui üks halvasti disainitud automatiseerimine läks katki ja põletas 12 000 eurot väärtuses tokeneid. Lugu kõlab hoiatusjutuna, aga tegelikult on see midagi palju kasulikumat: reaalne õppetund sellest, mis juhtub, kui anname tarkvarale liiga palju vabadust liiga vara.

Saates Algorütm rääkis sellest Soldera kaasasutaja Al William Tammsaar, kelle ettevõte kasutab AI agente päris töö tegemiseks — mitte demode ega slaididena, vaid päriselt tootmises. Ja just see teebki jutu huvitavaks: kui masin teeb tegelikku tööd, teeb ta ka tegelikke vigu.

Mis on AI agent ja miks kõik sellest just nüüd räägivad?

Kõige lihtsamalt öeldes on AI agent tarkvara, mis ei oota igal sammul inimese käsklust, vaid suudab ise otsustada, milliseid samme eesmärgi saavutamiseks astuda. Erinevalt tavalisest jututoast, mis vastab ühele küsimusele korraga, võib agent avada faile, saata kirju, käivitada koodi või teha päringuid mitmesse süsteemi — kõik iseseisvalt, ilma et keegi iga sammu juures “jah, tee seda” ütleks.

See iseseisvus on täpselt see, mis teeb agentidest nii ahvatlevad kui ka ohtlikud. Kui varem pidi ettevõte iga automatiseeritud protsessi jaoks kirjutama täpse skripti, siis nüüd piisab justkui eesmärgi kirjeldamisest — ülejäänu peaks agent ise välja mõtlema. Praktikas tähendab see, et vastutus nihkub inimeselt masinale palju kiiremini, kui enamik ettevõtteid on valmis tunnistama.

Garbage in, garbage out — miks kontekst otsustab kõik

Vanas tarkvaramaailmas tähendas “garbage in, garbage out” seda, et vale sisend annab vale väljundi. AI agentide puhul on efekt palju dramaatilisem: vale või puudulik kontekst ei anna mitte ainult vale vastust, vaid võib panna agendi tegema pöördumatuid otsuseid — kustutama andmeid, saatma valesid kirju või käivitama protsesse, mida keegi ei kavatsenud käivitada.

Sellepärast rõhutatakse saates korduvalt, et agendi disain algab kontekstijuhtimisest, mitte promptide sõnastamisest. Milliseid andmeid agent näeb, milliseid õigusi tal on ja kui palju tegevusvabadust talle antakse — need on küsimused, millele tuleb vastata enne, mitte pärast esimest intsidenti.

Kuidas AI agent päriselt tööd teeb

Soldera meeskonna tööriistaks on OpenClaw — raamistik, mis lubab agentidel tegutseda otse failisüsteemis, terminalis ja välistes teenustes. Saates tunnistab Tammsaar ausalt, et tööriist on paljuski alles toores: üllatusi tuleb ette isegi kogenud meeskonnale. See ausus on omaette väärtus — liiga tihti müüakse agente valmis toodetena, kui tegelikkuses on tegu kiiresti areneva ja kohati ebastabiilse tehnoloogiaga.

Müügitöö ja korduvad protsessid

Üks selgemaid võite on müügitöö automatiseerimine — agent, kes suudab käia läbi kontaktide nimekirja, koostada personaliseeritud sõnumeid ja jälgida vastuseid ilma, et müügiinimene peaks iga rida käsitsi täitma. Sama loogika kehtib bürokraatlike protsesside puhul, mis erinevatel turgudel — sealhulgas Poola regulatiivses keskkonnas — nõuavad palju käsitsi paberimajandust, mida agent saab osaliselt üle võtta.

AI saadab kirju ja kirjutab koodi — oma identiteediga

Põnev, ja pisut ebamugav, detail on see, et agendil võib olla oma e-posti aadress ja oma “identiteet”, mille nimel ta suhtleb — mitte alati inimese nime alt varjatult. See tõstatab kohe küsimuse: kes vastutab agendi saadetud kirja eest, kui agent eksib? Kohaliku vastutaja põhimõte muutub siin üha olulisemaks — keegi peab olema see inimene, kes agendi tegevuse eest päriselt vastutab, ka siis, kui masin tegutseb iseseisvalt.

Sama kehtib koodikirjutamise kohta. Kui agent suudab ise koodi genereerida ja isegi muudatusi juurutada, ei kao vajadus inimliku ülevaatuse järele — pigem kasvab see. AI-genereeritud koodi ülevaatamine ja sellega kaasnev vastutus on täpselt see valdkond, kus kiirus ja hoolikus peavad käima käsikäes — mitte üksteist välistama.

12 000 eurot: kui automatiseerimine läheb valesti

Ja siis jõuame loo tuumani. Üks Soldera automatiseerimistest oli disainitud valesti — tulemuseks oli tokenite kulu, mis kasvas kontrolli alt väljas 12 000 euroni. See pole väike summa väikese või keskmise suurusega ettevõtte jaoks, ja lugu on hea meeldetuletus, et AI agentide “autopiloot” tähendab ka autopiloodi hinda, kui midagi läheb valesti.

Kui agendile antakse vabad käed ilma piirideta, ei maksa see vabadus kunagi vähem kui piiratud vabadus — see lihtsalt maksab hiljem ja rohkem.

Sarnane probleem tekib ka siis, kui agent kustutab või rikub andmebaasi. Sel hetkel ei aita enam ükski disaniotsus — vaja on toimivat taastamisplaani. Just siin muutuvad andmekeskuse teenused ja töö taastamise protsessid agentide ajastul mitte “kena lisa”, vaid kohustuslikuks turvavõrguks.

Osa sellest õppimisprotsessist on jõudnud ka avalikuks: saates mainitud mallide hoidla võimaldab teistel meeskondadel õppida samadest vigadest, ilma et nad peaksid ise 12 000 eurot maksma.

Kas AI agent tasub ennast ära ja kas juunioridel läheb raskemaks?

Saade ei jää pelgalt hoiatusloo juurde — küsimus, mis igal ettevõtjal tegelikult huvitab, on, kas AI agent end majanduslikult ära tasub. Vastus, mis episoodist kõlama jääb, on nüansirikas: jah, aga ainult siis, kui õppetunnid on juba tehtud ja piirid seatud enne, mitte pärast intsidenti.

Sama küsimus kerkib ka selle kohta, kas noorematel arendajatel läheb tuleviku tööturul raskemaks. Kui agent suudab kirjutada esimese versiooni koodist, nihkub inimtöö väärtus pigem ülevaatuse, otsustamise ja vastutuse suunas — mitte esimeste ridade kirjutamise suunas. Sarnaseid identiteedi ja autonoomiaga seotud küsimusi uurivad ka teised projektid, näiteks NousResearchi Hermes-agent. See on muutus, mida tasub jälgida, mitte karta.

Mida sellest kõigest õppida?

Soldera kogemus on hea meeldetuletus, et AI agent ei ole maagiline must kast, mis “hoolitseb asjade eest” iseenesest. Ta on tööriist, mis vajab sama põhjalikku disaini kui iga teine kriitiline süsteem ettevõttes.

• Kontekst ja õigused tuleb piiritleda enne agendi tootmisesse laskmist, mitte pärast esimest intsidenti.
• Kellelgi peab olema selge vastutus agendi tegevuse eest — ka siis, kui agent tegutseb iseseisvalt oma “identiteedi” all.
• Taastumisplaan andmete, kulude ja protsesside jaoks peab olema olemas enne, mitte pärast, sest agendi vead võivad tulla kiiresti ja kalliks maksma.

Kõige suurem õppetund on lihtne: autonoomia ja kontroll ei ole vastandid, vaid tasakaal, mida tuleb pidevalt uuesti reguleerida. Ettevõtted, kes seda tasakaalu teadlikult otsivad — mitte ainult tehnoloogiast vaimustuvad —, saavad agentidest päriselt kasu, ilma et peaksid sama õppetundi ise 12 000 euro eest ostma.

▶

Allikad

• Algorütm: AI agent kustutas andmebaase ja põletas 12 000 eurot — Saatejuhid Erik Jõgi ja Martin Kapp, külas Al William Tammsaar (Soldera)
• OpenClaw — Agendiraamistik, millest saates juttu oli
• Algorütm × OpenClaw mallide hoidla — Saates mainitud avalik mallide repo
• Hermes Agent (NousResearch) — Saates viidatud täiendav lugemine agentide identiteedist