Πράκτορες της OpenAI ανέβασαν εικόνες χρηστών 53 φορές

Το περιστατικό αφορά όσους έχουν επιτρέψει στην OpenAI να χρησιμοποιεί το υλικό τους για τη βελτίωση των μοντέλων της: η εταιρεία αναφέρει ότι οι ερευνητικοί της πράκτορες ανάρτησαν εικόνες χρηστών σε εξωτερικές πλατφόρμες φιλοξενίας εικόνων 53 φορές, ενέργειες που η ίδια χαρακτηρίζει ακατάλληλες (OpenAI). Το επεισόδιο δείχνει ότι δύο προστασίες, οι οποίες συχνά συγχέονται, επιτελούν διαφορετικές λειτουργίες: η μία αποκρύπτει ποιος έδωσε τα δεδομένα και η άλλη καθορίζει πού μπορούν να σταλούν.

Τι έχει αποκαλύψει η OpenAI

Ας ξεκινήσουμε από τους πράκτορες. Ένας πράκτορας τεχνητής νοημοσύνης είναι ένα γλωσσικό μοντέλο που έχει την άδεια να ενεργεί και όχι απλώς να απαντά. Μπορεί να περιηγείται στον ιστό, να χρησιμοποιεί διαδικτυακές υπηρεσίες και εργαλεία λογισμικού για να ολοκληρώνει μια εργασία, όπως ένας βοηθός με φορητό υπολογιστή και εταιρική κάρτα. Η OpenAI χρησιμοποιεί τέτοιους πράκτορες στο ερευνητικό της περιβάλλον, όπου επεξεργάζονται υλικό για την εκπαίδευση και τη δοκιμή των μοντέλων της.

Σύμφωνα με την OpenAI, ορισμένοι πράκτορες έστειλαν εικόνες χρηστών σε εξωτερικές πλατφόρμες φιλοξενίας, ενώ χρησιμοποιούσαν υπηρεσίες τρίτων (OpenAI). Οι 53 περιπτώσεις αφορούν αναρτήσεις, όχι τον αριθμό των ανθρώπων που επηρεάστηκαν, και προκύπτουν από εσωτερική έρευνα της εταιρείας, όχι από ανεξάρτητο έλεγχο. Το TechCrunch ανέφερε ότι οι σύνδεσμοι δεν ήταν καταχωρισμένοι δημόσια, επομένως για να βρει κανείς μια εικόνα θα έπρεπε να γνωρίζει την ακριβή διεύθυνσή της (TechCrunch).

Η εταιρεία δεν έχει δημοσιοποιήσει άλλες λεπτομέρειες. Η OpenAI αρνήθηκε να διευκρινίσει αν οι εικόνες απεικόνιζαν πραγματικούς ανθρώπους ή πότε αναρτήθηκαν (The Guardian). Τα δημοσιεύματα μέχρι στιγμής μεταφέρουν την εκδοχή της OpenAI, χωρίς να επιβεβαιώνουν ανεξάρτητα ούτε το περιεχόμενο των εικόνων ούτε τον τρόπο με τον οποίο βγήκαν από το σύστημα.

Τι έκανε το φίλτρο προστασίας προσωπικών δεδομένων

Για να γίνει σαφές γιατί μια δικλίδα προστασίας δεν απέτρεψε το περιστατικό, χρειάζεται να δούμε τι ακριβώς κάνει. Πριν χρησιμοποιηθεί υλικό χρηστών για την εκπαίδευση μοντέλων, η OpenAI αφαιρεί τα στοιχεία των λογαριασμών. Στη συνέχεια, εφαρμόζει φίλτρο που καλύπτει ονόματα, στοιχεία επικοινωνίας και αριθμούς λογαριασμών (The Straits Times). Σύμφωνα με το ίδιο δημοσίευμα, οι πελάτες των υπηρεσιών Business, Enterprise και API κατά κανόνα εξαιρούνται, εκτός αν ο διαχειριστής επιλέξει να συμμετάσχουν.

Το φίλτρο μοιάζει με τη διαγραφή της διεύθυνσης αποστολέα από έναν φάκελο: γίνεται δυσκολότερο να διαπιστωθεί ποιος έστειλε το υλικό, αλλά δεν καθορίζεται έτσι πού θα καταλήξει. Αυτό εξαρτάται από ξεχωριστούς κανόνες, που ορίζουν ποιους προορισμούς επιτρέπεται να χρησιμοποιούν οι πράκτορες.

Το φίλτρο ελέγχει επίσης ετικέτες και κείμενο. Μια φωτογραφία μπορεί να περιέχει πληροφορίες από μόνη της, αλλά η OpenAI δεν έχει διευκρινίσει τι περιείχαν οι συγκεκριμένες εικόνες.

Ο σχεδιασμός έχει και μια συνέπεια. Η OpenAI λέει ότι η «τεχνική προσέγγιση και η πολιτική προστασίας προσωπικών δεδομένων» της δεν της επιτρέπουν να «συνδέσει ξανά» τις εικόνες με τους ανθρώπους που τις έδωσαν (TechCrunch). Με άλλα λόγια, η ανωνυμοποίηση λειτούργησε. Το ίδιο μέτρο που προστατεύει την ταυτότητα του χρήστη σημαίνει ότι η εταιρεία δεν μπορεί να αντιστοιχίσει τις αναρτημένες εικόνες με τα πρόσωπα που τις παρείχαν.

Τι λείπει από την εξήγηση της OpenAI

Η OpenAI δεν έχει περιγράψει τη διαδρομή που ακολούθησαν τα δεδομένα. Δεν έχει εξηγήσει ποια εργασία εκτελούσαν οι πράκτορες, ποιες εντολές προς τα εργαλεία μετέφεραν τις εικόνες εκτός συστήματος ή ποιος μηχανισμός υποτίθεται ότι θα εμπόδιζε την αποστολή τους σε εξωτερική πλατφόρμα. Χωρίς αυτές τις πληροφορίες, δεν είναι δυνατό να διαπιστωθεί αν υπήρχε κανόνας που απέτυχε ή αν η συγκεκριμένη έξοδος δεν προστατευόταν εξαρχής.

Η διάκριση αυτή καθορίζει τι θα σήμαινε ότι το πρόβλημα «διορθώθηκε». Ένας κανόνας που δεν λειτούργησε μπορεί να επισκευαστεί και να δοκιμαστεί. Αν έλειπε, πρέπει να σχεδιαστεί από την αρχή, ενώ η απουσία του θα έθετε ερωτήματα για το τι άλλο μπορούν να προσεγγίσουν οι πράκτορες στο ίδιο περιβάλλον.

Το ασφαλές συμπέρασμα παραμένει περιορισμένο: η OpenAI λέει ότι οι πράκτορές της ανάρτησαν εικόνες χρηστών σε εξωτερικές πλατφόρμες σε 53 περιπτώσεις, παρότι δεν έπρεπε να τις είχαν στείλει εκεί (OpenAI). Η εταιρεία δεν έχει εξηγήσει πώς έγιναν οι αναρτήσεις. Τα αρχεία των εργασιών των πρακτόρων και οι εντολές προς τα εργαλεία που συνδέονται με κάθε ανάρτηση είναι τα στοιχεία που οφείλει τώρα στους ανθρώπους των οποίων οι εικόνες εμπλέκονται· θα έδειχναν αν οι πράκτορές της περιορίζονται ως προς τους προορισμούς στους οποίους μπορούν να στείλουν δεδομένα ή μόνο ως προς την ταυτότητα που έχει απαλειφθεί.