OMX Helsinki — S&P 500 — DAX — NASDAQ 100 — STOXX 600 — EUR/USD — EUR/SEK — BTC/USD — ETH/USD — Euribor 3 kuud — Euribor 12 kuud —
Kaks kolleegi Tallinna tarkvaraettevõtte kontoris kontrollivad sülearvutis töövoogu enne automaatse toimingu kinnitamist.
Idufirmad ja ettevõtlus

Tehisintellekti ohutus algab ettevõtte töökorraldusest

Rasmus Ojavere AI 5 min lugemist
Jaga artiklit

Väikeettevõtte jaoks tähendab turvaline tehisintellekt selgeid volitusi, kontrollitavaid tulemusi ja võimalust eksimus õigel ajal peatada.

Tehisintellekti ohutus muutub ettevõtja jaoks väga konkreetseks hetkel, kui abiline saab õiguse midagi ise teha. Kliendikirja mustandit koostav tööriist ja sama kirja iseseisvalt välja saatev süsteem võivad kasutada ühesugust keelemudelit. Ettevõtte vastutus ja võimaliku eksimuse hind on aga erinevad. Seepärast tasub enne järgmise ühenduse loomist küsida: millise vea saab see abiline päriselt toime panna?

Kujutame ette väikest Eesti tarkvaraettevõtet, kes soovib klienditoe vastuseid kiirendada. Esialgu otsib tehisaru juhenditest sobiva lõigu. Järgmisena koostab vastuse ning lõpuks soovitakse talle anda õigus muuta tellimust või algatada tagasimakse. Iga samm võib säästa töötaja aega, kuid iga samm vajab ka uut otsust selle kohta, mida süsteem tohib teha ja kes tulemust kontrollib.

Ohutuse mõõdupuu on võimalik kahju

Y Combinatori avaldatud vestluse „AI Safety Fact vs. Fiction” kirjeldus asetab tehisaru ohutuse inseneritöö konteksti: teemade seas on lennundusest pärit katsemeetodid, tarkvara omaduste matemaatiline tõendamine ja süsteemi jälgimine kasutamise ajal. See annab ettevõtjale kasuliku lähtekoha. Turvalisust tasub käsitleda toote ja töökorralduse omadusena, mida saab uurida, katsetada ning parandada.

Ettevõtte esimene ülesanne võiks olla võimalike kahjude kirjeldamine arusaadavas keeles. Kas abiline võib avaldada kliendiandmeid, lubada põhjendamatu allahindluse või muuta valet tellimust? Selline nimekiri aitab valida kontrollid, millel on äriline mõte. Kõik eksimused ei vaja ühesugust kaitset: kohmakas lause ja ekslik rahaülekanne ei ole sama kaaluga juhtumid.

Tehisintellekti ohutus vajab seega konkreetset vastutajat ja kokkulepitud piire. Ettevõtte juht peaks teadma, millised otsused jäävad inimesele, tehniline vastutaja aga seda, kuidas neid piire rakendatakse. Nõukogu ja tehisintellekti seoseid käsitledes tasub samamoodi eristada otsustamise toetamist ja otsustusõiguse üleandmist.

Kontrolli tegevust väljaspool keelemudelit

Üks praktiline soovitus on anda abilisele korraga ainult vajalikud õigused. Kui ülesanne on vastuse koostamine, piisab lugemisõigusest sobivale teabekogule. Tellimuse muutmise võimalust pole selleks tarvis. Kui ettevõte soovib hiljem tegevusi automatiseerida, saab iga uue õiguse juurde lisada eraldi kontrolli.

Tagasimakse näites võiks rakendus kontrollida, kas tellimus kuulub õigele kliendile, kas tagastatav summa mahub lubatud piiridesse ja kas toiming vajab töötaja kinnitust. Need tingimused tuleks jõustada rakenduses. Keelemudelile antud palve olla ettevaatlik võib aidata vastust suunata, kuid ettevõtte rahalisi volitusi on mõistlik piirata ka tehniliselt.

Vestluse kirjelduses seostub 20. minuti juures algav teema programmikoodi korrektsuse tõendamisega. Matemaatiline tõendamine tähendab siin kindlaks määratud omaduste kontrollimist täpsete eelduste alusel. Ettevõtja jaoks on tähtis küsida, millist omadust kontrollitakse ja millistel tingimustel tulemus kehtib.

Sellest ei järeldu, et iga väikeettevõte peaks oma tarkvarale matemaatilisi tõestusi koostama. Küll aga tasub teenusepakkujalt paluda üldise turvalisuslubaduse asemel täpset kirjeldust: millised tegevused on blokeeritud, kuidas õigusi kontrollitakse ja mis juhtub kontrolli ebaõnnestumisel? Nii saab ostuotsust võrrelda ettevõtte tegelike vajadustega.

Katseta olukordi, kus abiline peaks peatuma

Tavaline esitlus näitab enamasti seda, kuidas tööriist õnnestub. Enne kasutuselevõttu tasub koostada ka juhtumid, kus õige tulemus oleks täpsustav küsimus, tegevusest loobumine või inimese poole pöördumine. Klienditoe näites võiks proovida puuduvat tellimuse numbrit, vastuolulisi juhiseid ja palvet näidata teise kliendi andmeid.

Y Combinatori kirjelduses on 32. minuti juures stressikatsetamise teema, mis seob lennunduses kasutatavaid meetodeid keelemudelite hindamisega. Väikeettevõte saab sellest võtta katsetamise põhimõtte: otsida sihipäraselt tingimusi, mille korral lahendus eksib. Lennunduse ohutustaset ei saa selle põhjal oma tootele omistada.

Katsejuhtumile võiks lisada oodatud käitumise ja võimaliku kahju. Kui klient küsib võõraid andmeid, peab süsteem päringu tõkestama. Kui tagasimakse summa on ebaselge, peab tegevus peatuma. Selline kirjeldus aitab hinnata tulemust ka inimesel, kes pole lahenduse arendaja.

Õiguste ja ligipääsu küsimus ühendab tehisaru kasutuselevõtu tavapärase andmeturbega. Taani rahvastikuregistri andmeleket käsitlev artikkel pakub selle teema kõrvale täiendavat lugemist. Oma ettevõttes tasub eraldi üle vaadata nii abilisele nähtavad andmed kui ka ühenduste kaudu lubatud toimingud.

Jäta võimalus eksimus peatada

Ka põhjalikult katsetatud lahendus vajab kasutamise ajal järelevalvet. Enne käivitamist võiks kokku leppida, millised toimingud salvestatakse, kes tõrkeid uurib ja kuidas automaatne tegevus välja lülitatakse. Peatamisvõimalus peab olema tegelikult kasutatav ka siis, kui lahenduse loonud arendaja parajasti kättesaadav pole.

Kasulik tõrkeraport kirjeldab kasutaja soovi, abilisele antud õigusi, tehtud toimingut ja parandust. Selle eesmärk on järgmise samalaadse eksimuse vältimine. Kui juhtum näitab, et vastutus jäi kahe inimese vahele, vajab parandamist ka töökorraldus. Siin haakub tehnoloogia kasutuselevõtt küsimusega, miks juhtimisoskuste arendamine on ettevõtte jaoks vajalik.

Peamine õppetund: kasvata volitusi koos tõenditega

Eesti ettevõtjal tasub alustada ülesandest, mille kasu on selge ja võimalik kahju piiratud. Esmalt saab abiline otsida teavet või koostada mustandeid. Iseseisvate toimingute lisamine võiks sõltuda katsetulemustest, toimivatest õiguskontrollidest ja kokkulepitud vastutusest. Nii saab automatiseerimist laiendada põhjendatud sammudega.

Hea kasutuselevõtuotsus mahub kolme küsimusse: mida abiline tohib teha, kuidas kontrollime tema tegevust ja kuidas peatame vea? Vastused aitavad suunata arendustööd sinna, kus sellest on kõige rohkem kasu. Ettevõtja võit on ajasääst, mille kõrval säilib kontroll klientidele antud lubaduste, andmete ja raha üle.

Kõik eksimused ei vaja ühesugust kaitset: kohmakas lause ja ekslik rahaülekanne ei ole sama kaaluga juhtumid.

Peatamisvõimalus peab olema tegelikult kasutatav ka siis, kui lahenduse loonud arendaja parajasti kättesaadav pole.

Vaata algset saadet YouTube’is: Y Combinator.

Allikad

Rasmus Ojavere AI

Autor

Rasmus Ojavere AI

Iduettevõtluse ajakirjanik

Idee on alles algus, päris proov on esimene maksev klient.

Innohub TV

Vaata seda sisu ka Innohub TV-s

Valisime sulle Innohub TV-st klipid, mis jätkavad sama teemat.

Ava Innohub TV
Ava tehisintellekti abilise vestlus. Vestlus laaditakse alles siis, kui selle avad.