Ασφάλεια τεχνητής νοημοσύνης: έλεγχος πριν την εξουσία

Η μικρή επιχείρηση χρειάζεται σαφή όρια στις ενέργειες της τεχνητής νοημοσύνης, δοκιμές αστοχίας και έναν άνθρωπο που μπορεί να παρέμβει.

Ασφάλεια τεχνητής νοημοσύνης: για έναν επιχειρηματία, το ζήτημα αρχίζει τη στιγμή που ένα εργαλείο αποκτά δικαίωμα να ενεργεί. Ας υποθέσουμε ότι ένας ψηφιακός βοηθός ετοιμάζει απαντήσεις σε πελάτες. Αν προτείνει ένα λανθασμένο κείμενο, ο εργαζόμενος μπορεί να το διορθώσει. Αν όμως στέλνει μόνος του μηνύματα, εγκρίνει επιστροφές χρημάτων και αλλάζει στοιχεία παραγγελιών, το ίδιο λάθος αποκτά διαφορετικό βάρος.

Εκεί βρίσκεται η πιο χρήσιμη αφετηρία για μια μικρή επιχείρηση: να εξετάσει ποια εξουσία παραχωρεί στο σύστημα. Η δική μου θέση είναι απλή. Αξίζει να προχωράμε γρήγορα στην αξιοποίηση της τεχνολογίας, αλλά κάθε πρόσθετο δικαίωμα πρέπει να συνοδεύεται από συγκεκριμένο έλεγχο. Η ταχύτητα έχει επιχειρηματική αξία όταν μπορούμε να περιορίσουμε το κόστος μιας αστοχίας.

Από τον γενικό φόβο στη συγκεκριμένη λειτουργία

Η περιγραφή της συζήτησης του Y Combinator με τους καθηγητές του Stanford Clark Barrett και Mykel Kochenderfer δίνει μια χρήσιμη κατεύθυνση: αντιμετώπιση της ασφάλειας ως αντικειμένου μηχανικής, με μεθόδους ελέγχου και επαλήθευσης. Στο πρόγραμμα της συζήτησης, στο 27:55, τίθεται το ερώτημα πώς γνωρίζουμε ότι ένα σύστημα είναι ασφαλές. Για μια επιχείρηση, αυτό μεταφράζεται σε κάτι πολύ συγκεκριμένο: ασφαλές για ποια εργασία και υπό ποιες συνθήκες;

Ένας βοηθός που αναζητά πληροφορίες σε έναν κατάλογο προϊόντων χρειάζεται διαφορετικά όρια από ένα σύστημα που τροποποιεί τιμές. Ακόμη και μέσα στην ίδια εφαρμογή, η ανάγνωση μιας παραγγελίας και η ακύρωσή της είναι δύο διαφορετικές αρμοδιότητες. Η αξιολόγηση πρέπει επομένως να γίνεται ανά ενέργεια, με σαφή περιγραφή του επιτρεπτού αποτελέσματος.

Αυτό είναι απόφαση διοίκησης όσο και τεχνικής ομάδας. Η συζήτηση για την τεχνητή νοημοσύνη στη στρατηγική της διοίκησης αποκτά πρακτικό περιεχόμενο όταν κάποιος αναλαμβάνει να ορίσει ποια λάθη είναι ανεκτά, ποια απαιτούν ανθρώπινη έγκριση και ποια επιβάλλουν άμεση διακοπή.

Δοκιμάστε το σημείο όπου θα χαλάσει

Η περιγραφή του Y Combinator περιλαμβάνει μεθόδους δοκιμών καταπόνησης που συνδέουν τον έλεγχο αεροπορικών συστημάτων με τα γλωσσικά μοντέλα. Η σχετική θεματική εμφανίζεται στο κεφάλαιο των προσαρμοστικών δοκιμών καταπόνησης, στο 32:11. Δεν χρειάζεται μια μικρή ομάδα να αναπαράγει την πολυπλοκότητα της αεροπορίας. Μπορεί όμως να υιοθετήσει την πειθαρχία της αναζήτησης δύσκολων περιπτώσεων.

Πριν χρησιμοποιήσετε έναν βοηθό εξυπηρέτησης, δώστε του ένα αίτημα με ελλιπή στοιχεία, δύο αντικρουόμενες οδηγίες και μια παραγγελία που δεν υπάρχει. Προσθέστε ένα μήνυμα που ζητά να παρακαμφθεί η πολιτική επιστροφών. Το ζητούμενο είναι να ελέγξετε αν σταματά, ζητά διευκρινίσεις ή παραπέμπει σε άνθρωπο όταν λείπει η αναγκαία πληροφορία.

Γράψτε εκ των προτέρων την επιθυμητή αντίδραση για κάθε περίπτωση. Αν αποφασίζετε μετά τη δοκιμή τι θεωρείτε επιτυχία, είναι εύκολο να δικαιολογήσετε μια πειστική αλλά ακατάλληλη απάντηση. Κρατήστε τις περιπτώσεις που αποκάλυψαν πρόβλημα και επαναλάβετε τον έλεγχο όταν αλλάζετε οδηγίες, δεδομένα ή μοντέλο.

Ασφάλεια τεχνητής νοημοσύνης σημαίνει και δυνατότητα ασφαλούς αποτυχίας. Ένας βοηθός που αναγνωρίζει ότι δεν μπορεί να ολοκληρώσει μια ενέργεια προσφέρει πιο ελεγχόμενη υπηρεσία από έναν βοηθό που εμφανίζει κάθε αίτημα ως επιτυχώς διεκπεραιωμένο. Η παραπομπή σε εργαζόμενο χρειάζεται σαφή διαδρομή, υπεύθυνο και επαρκή στοιχεία για τη συνέχεια.

Τα δικαιώματα χρειάζονται περισσότερα από μια οδηγία

Μια γραπτή εντολή προς το μοντέλο να μην αποκαλύπτει δεδομένα είναι χρήσιμη, αλλά η επιχειρηματική επιλογή πρέπει να πηγαίνει βαθύτερα: ποια δεδομένα χρειάζεται πραγματικά να βλέπει; Αν εξυπηρετεί έναν πελάτη, σχεδιάστε την πρόσβαση γύρω από τη συγκεκριμένη συναλλαγή. Μην του παραχωρείτε ολόκληρο το πελατολόγιο επειδή αυτό διευκολύνει την αρχική εγκατάσταση.

Το θέμα συνδέεται άμεσα με τη συζήτηση για την προστασία δεδομένων και τον έλεγχο πρόσβασης. Στην εφαρμογή σας, ξεχωρίστε τεχνικά την ανάγνωση από την τροποποίηση. Για ενέργειες με οικονομική συνέπεια, εξετάστε όρια ποσών και έγκριση από εξουσιοδοτημένο εργαζόμενο πριν από την εκτέλεση.

Η ίδια προσοχή χρειάζεται στις υποσχέσεις των προμηθευτών. Η περιγραφή της συζήτησης περιλαμβάνει τη μαθηματική επαλήθευση λογισμικού. Όταν αξιολογείτε μια αντίστοιχη διαβεβαίωση, ζητήστε να μάθετε ποια ακριβώς ιδιότητα ελέγχθηκε, σε ποιο τμήμα του συστήματος και με ποιες παραδοχές. Μια συγκεκριμένη απόδειξη χρειάζεται συγκεκριμένο πεδίο εφαρμογής για να βοηθήσει την απόφασή σας.

Το πρακτικό δίδαγμα: αυτονομία με ελεγχόμενα βήματα

Για μια μικρή ομάδα, προτείνω να ξεκινήσει από μία εργασία με σαφή όρια. Ορίστε έναν υπεύθυνο, δοκιμάστε δύσκολα αιτήματα, καταγράψτε τις ενέργειες του συστήματος και εξασφαλίστε τρόπο άμεσης απενεργοποίησης. Διευρύνετε την αυτονομία του όταν έχετε ελέγξει τη συμπεριφορά του στη δική σας διαδικασία.

Στην επιλογή συνεργάτη, ζητήστε να σας δείξει τι συμβαίνει όταν το εργαλείο αποτυγχάνει. Η αναζήτηση ενός ουσιαστικού συμμάχου στην επιχειρηματικότητα περιλαμβάνει και αυτή την απαίτηση: καθαρές ευθύνες, πρόσβαση στις καταγραφές και πρακτική βοήθεια όταν χρειάζεται παρέμβαση.

Η μικρή επιχείρηση δεν χρειάζεται να λύσει κάθε ερευνητικό ερώτημα πριν αξιοποιήσει την τεχνητή νοημοσύνη. Χρειάζεται να γνωρίζει τι της επιτρέπει να κάνει, πώς θα εντοπίσει μια αστοχία και ποιος θα αναλάβει μετά. Η αυτονομία ενός συστήματος πρέπει να μεγαλώνει μαζί με την ικανότητά μας να ελέγχουμε τις συνέπειές του.

Η αυτονομία ενός συστήματος πρέπει να μεγαλώνει μαζί με την ικανότητά μας να ελέγχουμε τις συνέπειές του.

▶

Δείτε το αρχικό επεισόδιο στο YouTube: Y Combinator.

Πηγές

• Ασφάλεια τεχνητής νοημοσύνης: επιστημονικά δεδομένα και μυθοπλασία — Y Combinator — Βάση τεκμηρίωσης είναι η παρεχόμενη περιγραφή και ο κατάλογος κεφαλαίων, όχι επαληθευμένη απομαγνητοφώνηση. Σχετικές ενότητες: 27:55, αξιολόγηση ασφάλειας συστημάτων· 32:11, προσαρμοστικές δοκιμές καταπόνησης· 20:35, επαλήθευση κώδικα. Οι επιχειρηματικές προτάσεις αποτελούν ανεξάρτητη αρθρογραφική ανάλυση.