Human-in-the-loop — miksi ihminen on tekoälyn tärkein turvakerros?

1. Johdanto: kun tekoäly tekee, kuka vastaa?

Tekoäly osaa jo kirjoittaa vastausehdotuksia asiakkaille, seuloa työhakemuksia, tiivistää potilastietoja, arvioida luottoriskiä ja luonnostella juridisia tekstejä. Se on vaikuttavaa. Ja juuri siksi se on myös vaarallista.

Mitä tapahtuu, jos asiakaspalvelubotti antaa väärän ohjeen? Jos rekrytointijärjestelmä syrjii hakijoita? Jos terveydenhuollossa tekoälyn ehdotus kuulostaa uskottavalta, mutta onkin väärä?

Čia praverčia human-in-the-loop eli toimintamalli, jossa ihminen tarkistaa, hyväksyy tai ohjaa tekoälyn toimintaa.

Tekoäly voi tehdä ensimmäisen luonnoksen. Ihminen tekee lopullisen päätöksen. Ja ennen kaikkea: ihminen kantaa vastuun.

EU:n tekoälysääntely korostaa erityisesti korkean riskin tekoälyjärjestelmissä ihmisen valvontaa, jonka tavoitteena on ehkäistä tai vähentää riskejä terveydelle, turvallisuudelle ja perusoikeuksille.^[1]

2. Mitä human-in-the-loop tarkoittaa?

Human-in-the-loop, usein lyhennettynä HITL, tarkoittaa mallia, jossa tekoäly ei toimi täysin itsenäisesti, vaan ihminen on mukana prosessin kriittisessä kohdassa.

Käytännössä tämä voi tarkoittaa esimerkiksi sitä, että:

• tekoäly laatii vastausehdotuksen
• asiantuntija tarkistaa sen
• ihminen hyväksyy, muokkaa tai hylkää ehdotuksen
• vasta sen jälkeen sisältö lähtee asiakkaalle, potilaalle, työnhakijalle tai päätöksentekoon

Yksinkertainen esimerkki:

AI laatii asiakaspalveluvastauksen.
Asiakaspalvelija tarkistaa sen.
Vasta tarkistettu viesti lähetetään asiakkaalle.

Tämä kuulostaa pieneltä asialta, mutta se muuttaa tekoälyn roolin ratkaisevasti. Tekoäly ei ole päätöksentekijä. Se on valmistelija, sparraaja tai nopeuttaja.

3. Miksi ihmistä tarvitaan tekoälyn rinnalle?

Tekoäly on vahva tietyissä asioissa. Se jaksaa lukea suuria tekstimääriä, löytää kaavoja, tehdä luonnoksia nopeasti ja ehdottaa vaihtoehtoja.

Mutta se ei oikeasti kanna vastuuta. Se ei ymmärrä ihmisen tilannetta samalla tavalla kuin asiantuntija. Se ei tunne organisaation arvoja, asiakkaan tunnetilaa, juridista vastuuta tai päätöksen seurauksia samalla tavalla kuin ihminen.

Siksi human-in-the-loop on ennen kaikkea vastuun malli. Se vastaa kolmeen kysymykseen:

1. Missä tekoäly saa auttaa?
2. Missä sen pitää pysähtyä?
3. Kuka ihminen vastaa lopputuloksesta?

NIST tekoälyn riskienhallintakehikko lähestyy tekoälyä juuri riskien hallinnan kautta: tavoitteena on auttaa organisaatioita tunnistamaan ja hallitsemaan tekoälyn yksilöille, organisaatioille ja yhteiskunnalle aiheuttamia riskejä.^[2]

4. Human-in-the-loopin perusmalli

Hyvä HITL-malli ei tarkoita, että ihminen vilkaisee tekoälyn tuotosta kiireessä ja painaa hyväksy-nappia. Se tarkoittaa selkeää työnjakoa.

1. Tekoäly tekee valmistelun

Tekoäly voi esimerkiksi tiivistää dokumentin, ehdottaa vastausta, luokitella palautteita, löytää poikkeamia, tuottaa luonnoksen tai tehdä alustavan riskianalyysin.

2. Ihminen arvioi

Ihminen tarkistaa: onko tieto oikein, onko sävy sopiva, puuttuuko jotain olennaista, onko päätös reilu, onko lopputulos lain, arvojen ja ohjeiden mukainen.

3. Ihminen päättää

Tärkein kohta on tämä: lopullinen vastuu ei jää järjestelmälle. Ihminen hyväksyy, muokkaa tai hylkää ehdotuksen.

4. Prosessista opitaan

Hyvässä mallissa virheet eivät jää yksittäisiksi mokiksi. Niistä kerätään oppeja: missä tekoäly erehtyy usein, missä se on hyödyllinen, missä ihmisen pitää olla mukana aiemmin, mitä ohjeita tai dataa pitää parantaa.

5. Missä ihmisen tarkistus on välttämätön?

Human-in-the-loop on erityisen tärkeä silloin, kun tekoälyn virhe voi vaikuttaa ihmisen oikeuksiin, terveyteen, talouteen tai arkeen. Tällaisia alueita ovat esimerkiksi asiakaspalvelu, rekrytointi, terveydenhuolto, rahoitus ja luottopäätökset, juridiikka, vakuutukset, koulutus, viranomaispalvelut, henkilöstöhallinto ja turvallisuuteen liittyvät prosessit.

Näissä tilanteissa tekoälyn virhe ei ole vain ”huono vastaus”. Se voi tarkoittaa, että ihminen ei saa palvelua, työpaikkaa, hoitoa, lainaa, korvausta tai oikeudenmukaista kohtelua.

OECD:n tekoälyperiaatteet korostavat luotettavaa tekoälyä, joka kunnioittaa ihmisoikeuksia ja demokraattisia arvoja. Periaatteet hyväksyttiin vuonna 2019 ja päivitettiin vuonna 2024.^[3]

6. Esimerkkejä: missä HITL näkyy käytännössä?

Klientų aptarnavimas

Huono malli: AI vastaa asiakkaalle automaattisesti kaikissa tilanteissa.

Parempi malli: AI vastaa rutiinikysymyksiin, mutta ohjaa epäselvät, tunnepitoiset tai rahaan liittyvät tapaukset ihmiselle.

Erinomainen malli: AI laatii vastausehdotuksen, näyttää lähteen tai perustelun, ja asiakaspalvelija hyväksyy vastauksen ennen lähettämistä silloin, kun asia koskee sopimuksia, reklamaatioita tai asiakkaan oikeuksia.

Tässä tekoäly nopeuttaa työtä, mutta ei vie ihmiseltä harkintaa.

Rekrytointi

Huono malli: AI pisteyttää hakijat ja järjestelmä hylkää osan automaattisesti.

Parempi malli: AI auttaa jäsentämään hakemuksia, mutta rekrytoija tarkistaa kaikki hylkäykseen johtavat päätökset.

Erinomainen malli: AI saa tehdä yhteenvedon osaamisesta, mutta ei saa käyttää arkaluonteisia tietoja tai tehdä lopullista päätöstä. Rekrytoija tarkistaa sekä suositukset että mahdolliset vinoumat.

Rekrytoinnissa human-in-the-loop ei ole vain laadunvarmistusta. Se on reiluuden suojakerros.

Terveydenhuolto

Huono malli: AI antaa potilaalle hoito-ohjeen ilman ammattilaisen tarkistusta.

Parempi malli: AI auttaa ammattilaista tiivistämään tietoja tai ehdottamaan jatkokysymyksiä.

Erinomainen malli: AI toimii kliinisen päätöksenteon tukena, mutta lääkäri tai hoitaja arvioi ehdotuksen, potilaan kokonaistilanteen ja vastaa päätöksestä.

Terveydenhuollossa tekoäly voi olla hyödyllinen apuri. Mutta se ei saa muuttua auktoriteetiksi, jota kukaan ei uskalla kyseenalaistaa.

Finansavimas

Huono malli: AI hylkää lainahakemuksen ilman ymmärrettävää perustelua.

Parempi malli: AI arvioi riskiä, mutta asiantuntija tarkistaa poikkeavat tai kielteiset päätökset.

Erinomainen malli: AI tuottaa analyysin, selittää keskeiset muuttujat ja nostaa epävarmuudet esiin. Ihminen tekee lopullisen päätöksen ja varmistaa, että asiakas saa ymmärrettävän perustelun.

Rahoituksessa human-in-the-loop liittyy sekä vastuuseen että läpinäkyvyyteen.

7. Hyvä HITL-prosessi käytännössä

Human-in-the-loop kannattaa suunnitella ennen kuin tekoäly otetaan käyttöön. Ei niin, että ensin automatisoidaan ja sitten mietitään, kuka vastaa kun jokin menee pieleen.

1. Määritä tekoälyn rooli

Onko tekoäly luonnostelija, luokittelija, suosittelija, varoittaja, päätöksenteon tuki vai automaattinen toimija? Mitä itsenäisempi rooli, sitä vahvempi valvonta tarvitaan.

2. Määritä ihmisen rooli

Kuka tarkistaa? Milloin tarkistaa? Mitä hänen pitää osata? Onko hänellä valta pysäyttää prosessi?

EU:n AI Actin korkean riskin järjestelmiä koskevissa velvoitteissa ihmisen valvontaa antavalla henkilöllä pitää olla tarvittava osaaminen, koulutus, valtuudet ja tuki.^[4]

Tämä on tärkeä kohta. Valvonta ei ole aitoa, jos ihmisellä ei ole aikaa, osaamista tai oikeutta sanoa ei.

3. Määritä pysäytyskohdat

Esimerkiksi: AI saa laatia luonnoksen, mutta ei lähettää sitä. AI saa suositella, mutta ei päättää. AI saa pisteyttää, mutta ei hylätä. AI saa tunnistaa riskin, mutta ihminen päättää jatkosta.

4. Määritä riskitasot

Kaikki tekoälyn käyttö ei tarvitse samaa valvontaa. Sähköpostiluonnos sisäiseen käyttöön on eri asia kuin potilasohje tai luottopäätös.

• Matala riski: ihminen tarkistaa satunnaisesti
• Keskitasoinen riski: ihminen tarkistaa ennen ulkoista käyttöä
• Korkea riski: ihminen hyväksyy aina ennen päätöstä
• Erittäin korkea riski: tekoäly saa vain tukea asiantuntijaa, ei tehdä päätöstä

8. Riskit: human-in-the-loop voi olla myös näennäistä

Tässä on koko mallin vaikein kohta. Human-in-the-loop kuulostaa turvalliselta. Mutta se voi muuttua helposti teatteriksi.

Kumileimasin-ongelma

Jos ihminen hyväksyy tekoälyn ehdotukset aina, hän ei oikeasti valvo. Hän vain klikkaa. Tämä on erityisen vaarallista kiireisessä työssä, jossa tekoäly näyttää varmalta ja ihminen väsyy tarkistamaan.

Automaatiovinouma

Ihmisillä on taipumus luottaa koneen ehdotukseen liikaa. Jos järjestelmä näyttää luvun, pisteytyksen tai suosituksen, se voi tuntua objektiiviselta — vaikka se olisi rakennettu puutteelliselle datalle tai väärille oletuksille.

Vastuun hämärtyminen

Kun jokin menee pieleen, organisaatio voi alkaa pallotella vastuuta: ”AI ehdotti.” ”Asiantuntija hyväksyi.” ”Prosessi oli tällainen.” ”Toimittaja vastaa mallista.” Hyvä HITL-malli estää tämän. Siinä vastuu on nimetty.

Liian myöhäinen ihmisen väliintulo

Jos ihminen pääsee mukaan vasta lopussa, vahinko voi olla jo tapahtunut. Esimerkiksi rekrytoinnissa tekoäly voi jo ennen ihmistä rajata hakijajoukkoa tavalla, jota kukaan ei myöhemmin huomaa.

9. Human-in-the-loop yrityksissä ja startupeissa

Startup-maailmassa houkutus on selvä: automatisoidaan nopeasti, säästetään aikaa ja skaalataan tekemistä. Se voi olla fiksua.

Mutta kasvuyritykselle tekoälyvirhe voi olla kallis. Yksi väärä asiakasviesti, syrjivä rekrytointiprosessi tai epäselvä sopimusehto voi syödä luottamusta nopeasti.

Hyvä kysymys ei ole: ”Miten saamme ihmisen pois prosessista?” Vaan: ”Missä kohdassa ihminen tuottaa eniten arvoa?”

Usein vastaus on tämä:

• AI hoitaa toistuvan työn
• ihminen hoitaa harkinnan
• AI ehdottaa
• ihminen päättää
• AI nopeuttaa
• ihminen varmistaa laadun

Tämä on terve työnjako. Tekoälyn ei tarvitse korvata asiantuntijaa ollakseen hyödyllinen. Usein paras hyöty syntyy siitä, että asiantuntija saa paremmat luonnokset, nopeammat yhteenvedot ja enemmän aikaa vaikeisiin päätöksiin.

10. Sääntely ja vastuullinen tekoäly

Human-in-the-loop ei ole vain hyvä käytäntö. Se on yhä useammin myös osa sääntelyä, riskienhallintaa ja vastuullisen tekoälyn periaatteita.

EU:n AI Act jakaa tekoälyjärjestelmiä riskitason mukaan, ja korkean riskin järjestelmiin kohdistuu tiukempia velvoitteita. Euroopan komission mukaan tekoälyjärjestelmät, jotka muodostavat selvän uhan ihmisten turvallisuudelle, toimeentulolle tai oikeuksille, ovat kiellettyjä.^[5]

Tämä kertoo suunnan: tekoälyä saa käyttää, mutta ei vastuuttomasti. Human-in-the-loop on käytännön tapa vastata tähän kysymykseen: Miten varmistamme, että tekoäly palvelee ihmistä eikä aja ihmisen yli?

Se ei yksin riitä. Tarvitaan myös tietoturvaa, dokumentointia, testauksia, mallien arviointia, laadukasta dataa ja selkeitä vastuita. Mutta ilman ihmisen todellista valtaa tekoälyn valvonta jää helposti sanahelinäksi.

11. Tulevaisuus: muuttuuko ihmisen rooli?

Tekoäly kehittyy nopeasti. Agentit voivat jo käyttää työkaluja, hakea tietoa, tehdä tehtäviä ja toimia osittain itsenäisesti. Siksi human-in-the-loop muuttuu entistä tärkeämmäksi.

Tulevaisuudessa emme ehkä tarkista jokaista tekoälyn kirjoittamaa lausetta. Sen sijaan ihmisen rooli siirtyy enemmän kolmeen suuntaan.

1. Ihminen suunnittelee rajat

Mitä AI saa tehdä? Mitä se ei saa tehdä? Milloin sen pitää pysähtyä?

2. Ihminen valvoo poikkeamia

Kaikkea ei tarkisteta käsin, mutta riskitapaukset nostetaan ihmiselle. Esimerkiksi: epävarma vastaus, poikkeava asiakastapaus, korkean riskin päätös, ristiriitainen data, kielteinen vaikutus ihmiseen.

3. Ihminen vastaa arvoista

Tekoäly voi optimoida nopeutta, kustannuksia tai todennäköisyyksiä. Mutta ihminen päättää, mikä on reilua, kohtuullista ja vastuullista. Tämä on iso ero.

12. Johtopäätökset: mitä tästä kannattaa oppia?

Human-in-the-loop ei ole hidaste. Se on luottamuksen rakenne. Se auttaa yrityksiä käyttämään tekoälyä rohkeasti mutta järkevästi.

Svarbiausios išvados:

1. Tekoäly voi valmistella, mutta ihminen vastaa. Tämä on koko mallin ydin.
2. Ihmisen pitää olla mukana oikeassa kohdassa. Jos tarkistus tapahtuu liian myöhään, se ei enää suojaa kunnolla.
3. Valvonta vaatii osaamista ja valtaa. Ihminen ei voi olla vastuussa, jos hänellä ei ole aikaa, tietoa tai oikeutta pysäyttää tekoälyn ehdotusta.
4. Riskitason pitää määrittää tarkistuksen taso. Kaikkea ei tarvitse tarkistaa samalla tavalla, mutta korkean riskin päätöksissä ihmisen rooli on välttämätön.
5. Hyvä HITL-malli on prosessi, ei nappi. ”Hyväksy”-painike ei vielä tarkoita vastuullista tekoälyä.

Human-in-the-loop on lopulta muistutus yhdestä tärkeästä asiasta: tekoälyn arvo ei synny siitä, että ihminen poistetaan kokonaan kuvasta. Se syntyy siitä, että ihminen ja tekoäly tekevät oikeita asioita oikeissa kohdissa.

13. Käytännön mallit ja tarkistuslistat

13.1 Yleinen HITL-malli

AI:n tehtävä: [Mitä tekoäly saa tehdä?]
Ihmisen tehtävä: [Mitä ihminen tarkistaa tai päättää?]
Pysäytyskohta: [Missä kohdassa AI ei saa jatkaa ilman ihmistä?]
Riskitaso: [Matala / keskitaso / korkea / erittäin korkea]
Hyväksyjä: [Kuka vastaa lopputuloksesta?]
Dokumentointi: [Mitä kirjataan talteen?]
Poikkeustilanteet: [Milloin asia siirretään asiantuntijalle tai johdolle?]

13.2 Asiakaspalvelun malli

AI laatii vastausehdotuksen asiakkaan viestin perusteella. Ihminen tarkistaa: faktat, sävyn, lupaukset, sopimuksiin tai rahaan liittyvät kohdat, tilanteet, joissa asiakas on turhautunut tai haavoittuvassa asemassa.

AI ei saa lähettää vastausta automaattisesti, jos asia koskee: reklamaatiota, hyvitystä, sopimusehtoja, henkilötietoja tai oikeudellista vastuuta.

13.3 Rekrytoinnin malli

AI saa: tiivistää hakemuksia, ryhmitellä osaamisia, ehdottaa haastattelukysymyksiä.

AI ei saa: hylätä hakijaa automaattisesti, käyttää arkaluonteisia tietoja, tehdä lopullista valintaa, antaa pisteytystä ilman ihmisen tarkistusta.

Ihminen tarkistaa: hakijan todellisen osaamisen, mahdolliset vinoumat, päätöksen perustelut, yhdenvertaisuuden.

13.4 Korkean riskin tarkistuslista

Ennen kuin tekoälyn ehdotus hyväksytään, kysy:

• Vaikuttaako tämä päätös ihmisen oikeuksiin, rahaan, terveyteen tai arkeen?
• Onko tekoälyn käyttämä tieto ajantasaista?
• Näkyykö, mihin ehdotus perustuu?
• Voiko ehdotuksessa olla syrjivä tai vinoutunut oletus?
• Onko ihmisellä oikeus muuttaa tai hylätä ehdotus?
• Kuka kantaa vastuun?
• Miten päätös dokumentoidaan?
• Miten henkilö voi tarvittaessa pyytää oikaisua?

13.5 Hyvä perusprompti human-in-the-loop-prosessiin

Toimi asiantuntijan apurina, et lopullisena päätöksentekijänä.

Tehtäväsi on laatia alustava ehdotus aiheesta [aihe]. Kerro selkeästi:

1) mitä ehdotat
2) mihin ehdotus perustuu
3) mitkä kohdat vaativat ihmisen tarkistusta
4) mitä epävarmuuksia tai riskejä ehdotukseen liittyy

Älä tee lopullista päätöstä. Lopuksi lisää kohta: ”Ihmisen tarkistettavat asiat”.

13.6 Yhden lauseen käytännön sääntö

Anna tekoälyn nopeuttaa työtä, mutta älä anna sen tehdä yksin päätöstä, joka voi vaikuttaa ihmisen oikeuksiin, terveyteen, rahaan tai tulevaisuuteen.

Human-in-the-loop on tekoälyajan turvavyö. Se ei estä liikkumista — se tekee vauhdista turvallisempaa.

Šaltiniai

1. Article 14: Human Oversight — EU Artificial Intelligence Act
2. AI Risk Management Framework — NIST
3. AI principles — OECD
4. Article 26: Obligations of Deployers of High-Risk AI Systems — EU AI Act
5. AI Act — Shaping Europe's digital future, European Commission