KI-sikkerhet begynner med grensene du setter

For småbedrifter er det viktigste sikkerhetsspørsmålet hva en KI-løsning får lov til å gjøre når den tar feil.

Se for deg at bedriftens digitale assistent skriver et godt svar til en kunde. Så sender den svaret, lover en rabatt og endrer bestillingen. KI-sikkerhet blir et langt mer håndfast spørsmål idet verktøyet får myndighet til å handle på bedriftens vegne.

For en gründer er skillet avgjørende. Et dårlig tekstutkast kan forkastes. En feil som allerede har nådd kunden, må ryddes opp i. Derfor mener jeg at innføringen av kunstig intelligens bør begynne med et enkelt spørsmål: Hvor stor skade skal én feil få lov til å gjøre?

Gi verktøyet en avgrenset jobb

Det er fristende å starte med den mest imponerende løsningen: en assistent som både finner informasjon, vurderer saken og utfører oppgaven. Mitt råd er å dele dette opp. La første versjon hente fram opplysninger og foreslå et svar, mens et menneske godkjenner handlingen.

Tenk på en liten nettbutikk som vil automatisere behandlingen av returer. Som et tenkt første forsøk kan assistenten lese butikkens returvilkår og utarbeide et svar. Tilgang til å tilbakebetale penger kan vente til virksomheten har undersøkt hvordan løsningen håndterer uklare kjøpsdatoer, manglende dokumentasjon og motstridende opplysninger.

Dette er også et nyttig perspektiv på kunstig intelligens som konkurranseverktøy for mikrogründere. Vurder gevinsten ut fra arbeidet som faktisk blir enklere, inkludert tiden som går med til kontroll og feilretting. En avgrenset oppgave kan være et bedre sted å begynne enn en omfattende omlegging.

Bruk forskningen til å stille bedre spørsmål

Y Combinators beskrivelse av AI Safety Fact vs. Fiction trekker fram sikkerhetsforskning, matematisk verifikasjon og metoder fra luftfarten. Stanford-professorene Clark Barrett og Mykel Kochenderfer er oppført som deltakere. Beskrivelsen gir et interessant utgangspunkt for næringslivet: å undersøke sikkerhet gjennom konkrete egenskaper og prøving.

Kapitteloversikten setter av en del til verifikasjon av kode fra 20:35. Matematisk verifikasjon handler om å bevise bestemte egenskaper under angitte forutsetninger. Som kjøper ville jeg derfor spurt leverandøren nøyaktig hvilken egenskap et eventuelt sikkerhetsbevis dekker, og hvilke forutsetninger som må være oppfylt.

For en liten bedrift kan spørsmålet formuleres uten forskerspråk: Kan systemet endre en konto det bare skulle lese? Kan det sende opplysninger til feil mottaker? Be leverandøren vise hvordan slike grenser håndheves. En generell forsikring om at produktet er trygt, gir lite grunnlag for å avgjøre hvilke tilganger det bør få.

Test situasjonene du håper å slippe

I kapittelet fra 32:11 er temaet adaptiv stresstesting, ifølge den oppgitte oversikten. Kanalbeskrivelsen knytter dette til metoder utviklet for å validere flysystemer, som nå brukes på språkmodeller. For en gründer er det nærliggende å hente inspirasjon fra selve arbeidsmåten: Let etter forholdene som får løsningen til å svikte.

Lag gjerne en liten samling vanskelige prøvesaker før løsningen møter kunder. Bruk oppdiktede kundedata og ta med spørsmål som mangler nødvendig informasjon, forespørsler som faller utenfor vilkårene, og beskjeder som ber assistenten se bort fra reglene. Bestem på forhånd hva et akseptabelt svar eller en akseptabel handling er.

I returbutikken kan riktig resultat være at saken sendes videre til en medarbeider. Vurder da om assistenten oppdager at dokumentasjon mangler, og om den lar være å love tilbakebetaling. Formålet med prøven er å finne ut om løsningen respekterer grensen virksomheten har satt.

Jeg ville også tatt vare på prøvesakene og kjørt dem på nytt etter vesentlige endringer. Da får bedriften et konkret sammenligningsgrunnlag. Hvis en ny versjon feiler på en sak den tidligere håndterte riktig, har dere noe presist å undersøke sammen med leverandøren.

Gjør ansvaret synlig i driften

KI-sikkerhet bør ha en navngitt eier i virksomheten. I en liten bedrift kan det være gründeren selv, men oppgaven må være tydelig: Hvem godkjenner nye tilganger, følger opp feil og bestemmer når automatiseringen skal stanses?

Dette hører naturlig hjemme i styrets arbeid med KI og strategi. Be om en enkel oversikt over hvilke oppgaver som er automatisert, hvilke data løsningene bruker, og hvilke handlinger som krever godkjenning. En slik oversikt kan gi styret et mer konkret beslutningsgrunnlag enn en liste over innkjøpte verktøy.

Sett samtidig av tid til å bygge KI-kompetanse hos medarbeiderne. De som bruker løsningen, bør vite hvordan de melder fra om en feil og hvem de kontakter når noe virker galt. Be dem gjerne øve på en prøvesak der assistenten foreslår noe som skal avvises.

Min anbefaling er å gjøre stans like konkret som oppstart. Avtal hvem som kan slå av automatiske handlinger, og hvordan arbeidet håndteres manuelt mens en feil undersøkes. For en liten virksomhet bør dette kunne beskrives kort og forstås av alle som berøres.

Det viktigste å ta med inn i neste forsøk

Velg én arbeidsoppgave, avgrens tilgangen og skriv ned hva som skal skje når informasjon mangler. Prøv deretter å få løsningen til å bryte disse grensene med oppdiktede saker. Utvid ansvaret først når dere har et begrunnet svar på hva som fungerer, hva som svikter, og hvordan feil blir fanget opp.

Jeg mener småbedrifter bør møte kunstig intelligens med både nysgjerrighet og eierskap. La ambisjonen være å frigjøre tid til kunder, fagarbeid og utvikling. Bedriften bør beholde myndigheten til å bestemme hvilke oppgaver teknologien får utføre alene.

KI-sikkerhet bør ha en navngitt eier i virksomheten.

Bedriften bør beholde myndigheten til å bestemme hvilke oppgaver teknologien får utføre alene.

▶

Se den opprinnelige episoden på YouTube: Y Combinator.

Kilder

• Y Combinator: AI Safety Fact vs. Fiction | YC Paper Club — Grunnlaget er kanalbeskrivelsen og den oppgitte kapitteloversikten, ikke en kontrollert transkripsjon. Aktuelle temaer er kodeverifikasjon fra 20:35 og adaptiv stresstesting fra 32:11. Eksemplene fra småbedrifter er tenkte, og anbefalingene er selvstendige vurderinger.