Megbízható mesterséges intelligencia: biztonság vs sebesség

Miért nem elég, ha egy AI-rendszer csak biztonságos – és mit tanulhatunk egy kiberbiztonsági szakértőtől

Egy önéletrajz fehér betűkkel elrejtett sora. Egy 125 soros kártékony kód. Egy AI-ügynök, amely fájlokat törölhet emberi jóváhagyás nélkül. A kérdés, amit ma minden cégvezetőnek fel kellene tennie magának, egyszerű: vajon megbízható mesterséges intelligencia működik-e a háttérben, vagy csak egy gyors és látványos eszköz? Erről beszélt a DIG-IT Podcast legújabb adásában Tusor Tamás, a Tigra Zrt. IT biztonsági üzletágának szakmai vezetője.

A beszélgetés kiindulópontja egyszerű volt: tényleg megváltozott a kiberbiztonság logikája a mesterséges intelligencia korában, vagy csak felgyorsult és kiszélesedett a támadási felület, mert ma már bárki hozzáfér ugyanazokhoz az eszközökhöz? A válasz árnyaltabb, mint elsőre tűnik – és minden olyan cégnek érdemes átgondolnia, amely most vezet be AI-alapú automatizációt.

Biztonságos vagy megbízható? Nem ugyanaz a kettő

Az adásban elhangzott egyik legfontosabb fordulat, hogy a nemzetközi kiberbiztonsági szakma – köztük az OWASP – fokozatosan elmozdult a „biztonságos” (safe) kifejezéstől a „megbízható” (trustworthy) mesterséges intelligencia fogalma felé. A váltás nem csak szóhasználat kérdése. Egy rendszer lehet technikailag biztonságos – vagyis nem enged be illetéktelen hozzáférést –, és közben mégsem megbízható, mert kiszámíthatatlanul viselkedik, vagy mert nem garantálható, hogy ne keverje össze a bemeneti adatot egy utasítással.

Ez a különbségtétel különösen fontos azoknak a kis- és középvállalkozásoknak, amelyek most fontolgatják, hogy AI-eszközökkel gyorsítsák fel a fejlesztést. A gyorsaság csábító, de a megbízható mesterséges intelligencia nem azzal egyenlő, hogy egy eszköz gyorsan és látványosan működik – sokkal inkább azzal, hogy kiszámíthatóan és ellenőrizhetően teszi azt, amit elvárunk tőle.

A rejtett utasítás: amikor az adat maga a támadás

A beszélgetés egyik legszemléletesebb része a prompt injection jelenségéről szólt. Képzeljünk el egy önéletrajzot, amelybe a jelentkező fehér betűkkel, a háttérszínnel megegyező szövegszínnel rejt el egy utasítást – olyat, amit egy automatizált AI-alapú szűrőrendszer beolvas, de emberi szem soha nem venne észre. A probléma gyökere, hogy egy nyelvi modell nem tudja megbízhatóan megkülönböztetni, mi az adat, és mi az utasítás. Számára minden, amit beolvas, ugyanabba a szövegfolyamba tartozik.

Dávid és Góliát a kódban

Ugyanez a logika érvényesül a szoftverfejlesztésben is. Az adásban elhangzott példa szerint néhol mindössze 125 sornyi kártékony kód is elég ahhoz, hogy térdre kényszerítsen egy sokmilliós sornyi kódbázisú, modern rendszert. Amíg a támadó oldalon ember dolgozott, ez a Dávid–Góliát-aránytalanság valahol korlátozott maradt – időbe telt a felderítés és a kivitelezés is. Az önállóan cselekvő, autonóm támadó AI-ügynökök megjelenésével azonban ez a korlát is eltűnik: a támadás sebessége ugyanúgy nőhet, mint amekkorának a védekezésnek is kellene.

Az autonóm ügynökök vörös vonala

Ha egy AI-ügynök önállóan dönthet és cselekedhet, hol az a pont, ahol ez már kritikussá válik? A válasz az adásban egyértelmű volt: a kritikus, visszafordíthatatlan tranzakciókat – mint amilyen egy fájltörlés – nem szabad emberi felügyelet nélkül egy ügynökre bízni.

„Azt gondolom, hogy nem szabad MI ügynök típusú biztonsági automatizációkat humán interakció nélkül engedélyezni.”

Ez a mondat jól mutatja, hogy a vita nem az AI-ügynökök hasznosságáról szól – azok tényleg képesek felgyorsítani a biztonsági automatizációt –, hanem arról, hogy hol húzzuk meg a határt az autonómia és a felügyelet között. Ez a kérdés egyenesen összekapcsolódik azzal is, hogy mekkora önállóságot kapjanak a vállalati AI-ügynökök, és ki felel azért, ha egy automatizált döntés rosszul sül el.

A Semmelweis-effektus a kiberbiztonságban

Az egyik legerősebb – és legőszintébb – gondolat az adásban egy történelmi párhuzam volt. A vendég szerint a mai kiberbiztonsági szakemberek nagyjából abban a helyzetben vannak, mint Semmelweis Ignác a maga idejében: tudják, mi lenne a helyes eljárás, mégsem hallgatnak rájuk eléggé, amíg be nem következik a baj.

„A kiberbiztonsági szakemberek abban az állapotban vannak, amiben Semmelweis volt a maga idejében.”

Ez a probléma nem technológiai, hanem bizalmi kérdés – ugyanez a dilemma merül fel akkor is, amikor egy vállalkozás partnert vagy ügynökséget választ: kinek a szavára érdemes hallgatni, mielőtt bekövetkezik a baj, nem utána? A vendég szerint az AI körüli gondok gyökere ráadásul legtöbbször nem is magában az AI-ban van: „Azért vagyunk bajban az AI-jal, mert nincs rendben az IT biztonság először azt kell rendbe tenni” – vagyis a mesterséges intelligencia bevezetése előtt az alapokat kellene rendbe tenni.

A megbízható mesterséges intelligencia paradoxona

A legérdekesebb feszültség a beszélgetés végén bontakozott ki. A cégek azért vezetik be az AI-t, mert az gépi sebességgel dolgozik – gyorsabban, mint bármelyik emberi csapat. Csakhogy ha minden kritikus lépés előtt emberi jóváhagyást várunk el, pontosan azt az előnyt áldozzuk fel, amiért az egészet elkezdtük.

„Minél több a kontrollpont, annál lassabb lesz az egész – annál inkább eltűnik az az előny, amit az MI adna.”

Ez a paradoxon nem oldható fel egyetlen mondatban, és az adásban sem született rá csodarecept. Annyi biztos, hogy a megbízható mesterséges intelligencia nem azt jelenti, hogy nulla kockázatot vállalunk – hanem azt, hogy tudatosan döntjük el, mely lépéseknél éri meg a sebességet kontrollra váltani, és melyeknél nem. Ugyanez a mérlegelés jelenik meg ott is, ahol az automatizáció és a kapacitásnövelés összecsap a kockázatkezeléssel: a gyorsaság önmagában sosem cél, csak eszköz.

Mit tanulhatnak ebből a vállalkozások?

A beszélgetés legfontosabb tanulsága talán az, hogy az AI körüli biztonsági kérdéseket nem lehet megkerülni azzal, hogy gyorsan bevezetünk egy új eszközt. Három dolog érdemes átgondolásra minden vállalkozás számára:

• Az alapok előbb: ha az IT-biztonság már most sem stabil, egy AI-ügynök ráépítése csak felerősíti a meglévő réseket.
• A „biztonságos” és a „megbízható” nem szinonima: egy eszköz attól még nem megbízható, hogy technikailag zárt – a kiszámíthatóság és az ellenőrizhetőség legalább ennyire számít.
• A kritikus döntéseknél az emberi felügyelet nem akadály, hanem védőháló, különösen ott, ahol egy hibás automatizált lépés visszafordíthatatlan kárt okozhat.

A sebesség és a kontroll közötti egyensúly minden vállalkozásnál más lesz – de biztos, hogy ezt a kérdést tudatosan, és nem utólag, egy incidens után érdemes megválaszolni.

▶

Források

• DIG-IT Podcast – MI integráció kontra kiberbiztonsági környezet (vendég: Tusor Tamás, Tigra Zrt.) — A cikk alapjául szolgáló podcast-epizód