Små virksomheder bør give kunstig intelligens mere plads i arbejdet og samtidig beslutte præcist, hvilke handlinger der kræver menneskelig godkendelse.
AI-sikkerhed bliver konkret i det øjeblik, en digital assistent får lov til at gøre mere end at foreslå en tekst. Der er forskel på at skrive et udkast til et kundesvar og at sende det. Ligesom der er forskel på at foreslå en tilbagebetaling og at flytte pengene. For en mindre virksomhed bør den forskel være udgangspunktet for sikkerheden.
Forestil dig en netbutik, som vil spare tid på henvendelser om returnering. Assistenten skal læse kundens besked, finde ordren og foreslå en løsning. Det er en nyttig opgave. Men hvis den også kan ændre kontooplysninger eller godkende enhver tilbagebetaling, har virksomheden samtidig truffet en beslutning om beføjelser, som fortjener langt mere opmærksomhed end formuleringen af kundesvaret.
Min anbefaling er derfor enkel: Giv teknologien en afgrænset opgave, og udvid dens handlerum, når der er grundlag for det. Det gør det muligt at komme i gang uden at gøre hele virksomheden til et forsøg.
Gør sikkerhed til et spørgsmål om opgaven
Y Combinators beskrivelse af AI Safety Fact vs. Fiction tager udgangspunkt i sikkerhed som et forsknings- og ingeniørområde. Programmet omfatter blandt andet automatiseret bevisførelse, belastningsprøvning og overvågning under drift. Den tilgang giver en nyttig anledning til at stille et jordnært spørgsmål: Hvad skal vores løsning kunne tåle, før vi lader den handle?
For netbutikken kunne svaret begynde med tre grænser. Assistenten må kun hente oplysninger om den aktuelle ordre. Den må udarbejde et svar inden for butikkens returvilkår. Og den skal sende sagen videre til et menneske, hvis kunden beder om en undtagelse eller ændring af betalingsoplysninger.
Det er ledelsesbeslutninger, før det er tekniske indstillinger. Derfor hører de hjemme i samme samtale som bestyrelsens arbejde med kunstig intelligens. Ejeren eller ledelsen skal kunne forklare, hvilken frihed løsningen har fået, og hvem der bærer ansvaret, når en sag falder uden for rammerne.
Prøv det, der kan gå galt
En overbevisende demonstration viser, at en løsning kan fungere under de viste betingelser. Den besvarer ikke alle spørgsmål om vanskelige situationer. Inden netbutikken åbner for automatisk behandling, bør den derfor afprøve beskeder, hvor ordrenummeret mangler, oplysningerne modsiger hinanden, eller kunden kræver noget, der ligger uden for returvilkårene.
I kapiteloversigten er adaptiv belastningsprøvning fra flysystemer til sprogmodeller placeret ved 32:11. Begrebet dækker her idéen om målrettet at lede efter situationer, hvor et system svigter. For en iværksætter er den praktiske inspiration at lede efter fejl med vilje, før kunderne møder dem.
Lav et lille sæt prøvesager med en forventet håndtering. En uklar henvendelse skal udløse et opklarende spørgsmål. En anmodning uden for beføjelserne skal gå videre til den ansvarlige medarbejder. Et manglende ordregrundlag skal stoppe behandlingen. Så bliver vurderingen mindre afhængig af, om svaret blot lyder venligt og sikkert.
Gem også de sager, der afslører en svaghed. Brug dem igen, når instruktioner, datagrundlag eller model ændres. Det er en overskuelig måde at undersøge, om en forbedring ét sted samtidig skaber et problem et andet sted.
Begræns adgangen bag det velformulerede svar
En vigtig skelnen går mellem det, assistenten bliver bedt om, og det, dens adgang faktisk tillader. En instruktion om ikke at ændre betalingsoplysninger bør følges af en teknisk adgang, der heller ikke giver den mulighed for at gøre det. Ellers afhænger en følsom handling af, at instruktionen bliver fulgt i den enkelte situation.
Her er forbindelsen til adgangskoder og beskyttelse af personoplysninger oplagt: Beslut først, hvilke oplysninger opgaven kræver. Giv derefter adgang til netop dem. Kundeservice behøver eksempelvis ikke automatisk adgang til hele virksomhedens dokumentarkiv, blot fordi assistenten kan søge i tekst.
Kapiteloversigten placerer overvågning under drift ved 40:30. For en mindre virksomhed bør det omsættes til et konkret ansvar: Hvem gennemgår afviste sager, opdager gentagne fejl og kan sætte automatiseringen på pause? Det ansvar skal have en ejer, også når leverandøren står for selve teknologien.
Lad menneskets rolle følge konsekvensen
Det ville være en dårlig løsning at kræve manuel godkendelse af hver eneste ufarlige formulering. Så forsvinder en stor del af gevinsten. Til gengæld bør en handling, som flytter penge, ændrer rettigheder eller binder virksomheden til en aftale, vurderes efter sin konsekvens.
Det giver en mere brugbar tilgang til arbejdsdelingen mellem mennesker og kunstig intelligens. Medarbejderen skal have et tydeligt beslutningsgrundlag i de sager, der kræver dømmekraft: Hvad ønsker kunden, hvilke oplysninger er fundet, og hvorfor er sagen sendt videre? En godkendelsesknap alene er ikke meget hjælp.
Det kan virksomheden tage med
AI-sikkerhed bør begynde med én arbejdsgang, én ansvarlig og tydelige grænser. Vælg en opgave, hvor resultatet kan kontrolleres. Beskriv derefter de fejl, løsningen skal kunne håndtere, og de handlinger, den aldrig må udføre på egen hånd.
Udvid beføjelserne, når erfaringerne giver grundlag for det. Målet er at frigøre tid til kunder, salg og udvikling med en løsning, som virksomheden kan forstå og styre. Sikkerheden bliver dermed en del af håndværket bag en bedre forretning.
Video: Y Combinator, AI Safety Fact vs. Fiction | YC Paper Club. Kapitelhenvisningerne følger den oplyste kapiteloversigt.
Giv teknologien en afgrænset opgave, og udvid dens handlerum, når der er grundlag for det.
Kilder
- Y Combinator: AI Safety Fact vs. Fiction | YC Paper Club — Grundlaget er den udleverede programbeskrivelse og kapiteloversigt, ikke en tilgængelig transskription. Henvisningerne ved 32:11 og 40:30 angiver annoncerede emner. Virksomhedseksempler og anbefalinger er selvstændige overvejelser, ikke udsagn tillagt deltagerne.
Læs videre
Du er måske også interesseret i
Innohub TV
Se dette indhold også på Innohub TV
Vi har fundet klip fra Innohub TV, der fortsætter samme emne.
