Bezpečnosť AI sa začína hranicami jej právomocí

Malá firma nepotrebuje vyriešiť všetky riziká umelej inteligencie, potrebuje však vedieť, ktorú chybu nesmie pustiť k zákazníkovi.

Bezpečnosť AI sa pre malú firmu začína jednoduchou otázkou: čo sa stane, keď sa jej digitálny pomocník pomýli? Predstavme si internetový obchod, ktorý mu zverí odpovede na reklamácie. Návrh ospravedlnenia ešte môže prečítať človek. Automaticky schválené vrátenie peňazí už zasahuje do hospodárenia firmy. Rozdiel nie je v presvedčivosti odpovede, ale v právomoci konať.

Práve tu má zmysel hľadať podnikateľský pohľad na bezpečnosť umelej inteligencie. Namiesto všeobecného sľubu, že nástroj je spoľahlivý, potrebujeme poznať hranice jeho úlohy a následky omylu. Pre slovenského podnikateľa je to uchopiteľnejšie zadanie než rozhodovať, ako dopadne celá budúcnosť technológie.

Najprv určite, čo systém smie urobiť

Y Combinator v opise diskusie so stanfordskými profesormi Clarkom Barrettom a Mykelom Kochenderferom zasadzuje bezpečnosť AI do rámca technického výskumu. Medzi témami uvádza overovanie programov, záťažové skúšanie aj sledovanie systémov počas prevádzky. Avizované technické zameranie diskusie ponúka užitočný podnet: bezpečnosť rozmeniť na konkrétne otázky, ktoré sa dajú preveriť.

Pre podnikateľa by prvá nemala znieť, ktorý model je najlepší. Dôležitejšie je určiť, či má iba navrhovať text, čítať interné dokumenty alebo meniť údaje v podnikových systémoch. Každá ďalšia právomoc si zaslúži vlastné rozhodnutie. Prístup k celému firemnému priečinku by nemal byť automatickou súčasťou úlohy napísať odpoveď zákazníkovi.

Takéto rozhodovanie patrí aj vedeniu. Pri umelej inteligencii na úrovni predstavenstva sa oplatí otvoriť veľmi praktickú otázku: kto schválil rozsah oprávnení a kto ho môže zmeniť? V malej firme to môže byť ten istý človek, ktorý schvaľuje výdavky. Podstatné je, aby táto zodpovednosť nezostala visieť medzi dodávateľom a používateľom.

Neskúšajte iba otázky, na ktoré poznáte odpoveď

Ukážka s pekne pripraveným zadaním pomôže predstaviť možnosti nástroja. Pri rozhodovaní o nasadení však potrebujeme aj opačný postup: cielene hľadať situácie, v ktorých by zlyhal. V programe diskusie je na čase 32:11 zaradené adaptívne záťažové testovanie, od letectva po jazykové modely. Pre malý podnik je inšpiráciou samotná snaha hľadať slabé miesto.

Pri reklamačnom pomocníkovi by som začala neúplnou objednávkou, rozpornými podkladmi a požiadavkou, ktorú firemné pravidlá neriešia. Ďalšou skúškou môže byť zákaznícka správa, ktorá nástroju prikazuje obísť schvaľovanie. Ide o navrhnuté skúšobné situácie, nie o opis konkrétneho incidentu. Každá má preveriť, či systém zostane v medziach zadania.

Pred skúškou si napíšte očakávaný výsledok. Pri chýbajúcom doklade má pomocník požiadať o doplnenie; pri nejasnom nároku má prípad odovzdať človeku. Ak iba hodnotíme, či odpoveď pôsobí rozumne, ľahko prehliadneme, že rozhodla o veci, o ktorej rozhodovať nemala. S tým súvisí aj čítanie s porozumením pri používaní AI vo firmách: kontrolór potrebuje porovnať výstup s podkladmi, nielen posúdiť jeho štýl.

Kontrola musí mať miesto v pracovnom postupe

Odporúčanie, aby všetko skontroloval človek, znie upokojujúco. Bez určeného času, podkladov a zodpovednosti však zostáva neurčité. Pri návrhu pracovného postupu preto určite, kto uvidí pôvodnú požiadavku, firemné pravidlo aj navrhovaný krok. Až potom od neho žiadajte schválenie.

Bezpečnosť AI potrebuje aj jasnú odpoveď na otázku, čo robiť pri pochybnostiach. Navrhovala by som, aby nejasný prípad zostal otvorený a dostal sa ku konkrétnej osobe. Firma si má vedieť vybrať, pri ktorých úlohách uprednostní rýchlosť a pri ktorých radšej prijme oneskorenie. To je obchodné rozhodnutie, ktoré by technický dodávateľ nemal urobiť namiesto majiteľa.

Opis programu na čase 40:30 uvádza sledovanie systému počas prevádzky. Podnikateľský preklad tejto témy je jednoduchý: pozorovanie sa nemá skončiť dňom spustenia. Odporúčam zaznamenávať odmietnuté návrhy, prípady odovzdané človeku a dôvody zásahu. Záznam má obsahovať iba to, čo firma potrebuje na kontrolu a nápravu.

Menší rozsah môže priniesť užitočnejší začiatok

Pre startup s obmedzeným rozpočtom by som zvolila úzku prvú úlohu: napríklad pripraviť návrh odpovede z vybraných podkladov bez možnosti odoslania. Takýto návrh umožňuje oddeliť dve otázky. Pomáha nástroj zamestnancovi a je už pripravený konať samostatne? Kladná odpoveď na prvú ešte nemusí znamenať kladnú odpoveď na druhú.

Tento postup dobre zapadá do uvažovania o kapitálovej efektivite slovenských startupov. Odporúčala by som najprv investovať do overenia jedného užitočného pracovného postupu. Rozširovanie oprávnení potom môže nasledovať konkrétny dôkaz prínosu, namiesto očakávania, že univerzálny pomocník naraz vyrieši celú administratívu.

Prínos pritom posudzujte spolu s opravami. Ak nástroj pripraví odpoveď rýchlo, ale zamestnanec musí opakovane dohľadávať jej podklady, treba to započítať do hodnotenia. Navrhujem sledovať čas potrebný na dokončenie celej úlohy vrátane kontroly. Rozhodnutie o ďalšom nasadení tak bude vychádzať z práce, ktorú firma skutočne zvládla.

Čo si odniesť do vlastnej firmy

Vyberte jeden proces a spíšte, čo v ňom môže pomocník navrhnúť, čo smie vykonať a kedy musí požiadať o rozhodnutie človeka. Potom pripravte skúšky nejasných aj nepríjemných situácií. Začnite bez právomocí, ktorých následky ešte neviete spoľahlivo kontrolovať.

Najlepší prvý krok je zveriť AI úlohu, ktorej hranice dokážete vysvetliť aj overiť. Takto sa dá technologická odvaha spojiť s podnikateľskou zodpovednosťou: s jasným zámerom, konkrétnou skúškou a človekom, ktorý drží rozhodovanie vo svojich rukách.

Sprievodné video: Y Combinator — diskusia o vedeckých prístupoch k bezpečnosti umelej inteligencie.

Najlepší prvý krok je zveriť AI úlohu, ktorej hranice dokážete vysvetliť aj overiť.

▶

Pôvodná epizóda na YouTube: Y Combinator.

Zdroje

• Y Combinator: Bezpečnosť AI, fakty a fikcia — Podkladom je poskytnutý opis a zoznam kapitol, nie úplný prepis. Časové odkazy označujú avizované témy; podnikateľské odporúčania a modelové situácie sú samostatným redakčným pohľadom.