Siguranța IA: cine aprobă deciziile din firma ta?

Un asistent inteligent merită mai multă autonomie numai după ce firma stabilește ce poate face, cum îl verifică și cine intervine.

Un asistent care redactează o ofertă și unul care o trimite clientului par să facă aproape același lucru. Pentru antreprenor, diferența este însă decisivă: în primul caz verifici o propunere, în al doilea trebuie să gestionezi consecințele unei acțiuni. Siguranța IA începe tocmai la această graniță dintre sugestie și decizie.

Pentru o firmă mică din România, întrebarea utilă nu este dacă poate avea încredere, în general, în inteligența artificială. Este ce anume îi permite să facă în relația cu un client, cu o comandă sau cu documentele firmei. Recomandarea mea este să legăm autonomia de verificări concrete, înainte să o legăm de entuziasmul pentru tehnologie.

De la promisiunea generală la sarcina precisă

Descrierea publicată de Y Combinator pentru conversația cu profesorii Stanford Clark Barrett și Mykel Kochenderfer propune o abordare inginerească a siguranței. Printre temele anunțate se află verificarea codului prin metode matematice și testarea sistemelor în condiții dificile. Capitolul indicat la 27:55 pune în centru întrebarea esențială: cum stabilim că un sistem este sigur?

Descrierea și reperele temporale nu țin locul unei transcrieri. Ele oferă însă un punct de plecare pentru o alegere de management: să cerem dovezi pentru o sarcină delimitată, în locul unei promisiuni că un instrument se descurcă la orice. Recomandările de mai jos sunt aplicarea acestei perspective la o firmă mică, nu concluzii atribuite invitaților.

Să luăm un exemplu ipotetic: un magazin online românesc vrea un asistent pentru solicitările de retur. Aș începe prin a-i permite să găsească politica aplicabilă și să pregătească răspunsul. Aprobarea rambursării ar rămâne o acțiune separată, cu reguli explicite și o persoană responsabilă.

O asemenea delimitare nu cere un departament nou. Cere o propoziție clară despre atribuții: asistentul propune răspunsul, iar angajatul aprobă plata. Aceeași întrebare despre responsabilitate merită păstrată și când discutăm despre instrumentele de inteligență artificială pentru conducerea companiei: cine are ultimul cuvânt?

Testul valoros începe unde demonstrația se oprește

O demonstrație cu o cerere simplă poate arăta că produsul merită explorat. Eu aș cere apoi probe cu solicitări incomplete, contradictorii sau în afara atribuțiilor sale. Pentru magazinul imaginar, acestea ar putea fi o comandă fără identificator, o cerere privind alt client sau un mesaj care solicită ignorarea procedurii.

În capitolul marcat la 32:11, programul conversației anunță testarea adaptivă în condiții extreme, de la aviație la modele lingvistice. Ideea de explorat pentru antreprenor este căutarea deliberată a situațiilor dificile. Exemplul aviației nu certifică însă un asistent comercial și nu permite transferarea automată a standardelor între domenii.

Aș construi probele pornind de la greșelile pe care firma vrea să le evite. Dacă problema este promisiunea unei rambursări neaprobate, testul trebuie să urmărească exact această promisiune. Un răspuns elegant, care depășește mandatul primit, ar trebui considerat un rezultat nereușit.

La fel de important este răspunsul potrivit când lipsesc informațiile. În exemplul nostru, aș prefera ca asistentul să ceară identificatorul comenzii sau să trimită cazul unui coleg. Disponibilitatea de a opri o acțiune trebuie inclusă în criteriile de acceptare, nu tratată ca o slăbiciune a produsului.

Controlul se proiectează și în afara conversației

Nu aș pune întreaga responsabilitate într-o instrucțiune de tipul „nu divulga date”. Aș cere ca accesul asistentului să fie limitat la informațiile necesare sarcinii. Dacă pregătește răspunsuri despre retururi, echipa trebuie să justifice separat orice acces la alte documente ale companiei.

Pentru cititorii interesați de această latură, discuția poate continua cu protejarea accesului la date. În proiectul unei automatizări, aș verifica împreună cu furnizorul cine vede informațiile, ce operațiuni sunt permise și cum poate fi retras accesul. Sunt întrebări de achiziție, nu detalii de amânat până după lansare.

Aș solicita și o urmă verificabilă a operațiunilor importante: ce a propus sistemul, cine a aprobat și ce s-a executat. Echipa ar trebui să stabilească ce înregistrează, fără să copieze inutil datele clienților. Altfel, investigarea unei erori riscă să devină o reconstituire din amintiri.

Programul Y Combinator include și monitorizarea în timpul funcționării, la reperul 40:30. Pentru firma imaginară, aș transforma această temă într-o procedură simplă: cine urmărește cazurile problematice, cine poate suspenda automatizarea și cum revine echipa la lucrul manual. Procedura trebuie încercată înainte să fie necesară.

Lecția pentru antreprenori: autonomia se câștigă

Siguranța IA merită tratată ca o condiție pentru extinderea utilizării. Aș începe cu pregătirea răspunsurilor, aș verifica rezultatele și aș acorda atribuții suplimentare numai acolo unde există criterii clare. Fiecare pas ar trebui să aibă un responsabil și o cale de întoarcere.

Există, desigur, riscul opus: verificări atât de greoaie încât instrumentul nu mai ajută pe nimeni. De aceea, recomand controale proporționale cu efectul acțiunii. O reformulare pentru uz intern și aprobarea unei plăți nu au nevoie de aceeași procedură.

Pentru o firmă care urmărește o creștere construită pe rezultate reale, proba relevantă este utilitatea în activitatea zilnică. Aș măsura timpul economisit alături de corecturile necesare și de cazurile trimise oamenilor. Autonomia trebuie să urmeze dovezile, nu să le înlocuiască.

Autonomia trebuie să urmeze dovezile, nu să le înlocuiască.

▶

Urmăriți episodul original pe YouTube: Y Combinator.

Surse

• Y Combinator — conversație despre siguranța inteligenței artificiale — Bază documentară: descrierea și lista capitolelor furnizate, fără transcriere. Repere indicate în program: evaluarea siguranței, 27:55; testarea adaptivă în condiții extreme, 32:11; monitorizarea în funcționare, 40:30. Recomandările pentru firme reprezintă analiza editorială, nu declarații atribuite invitaților.