Το ChatGPT σε αυστηρότερη εποπτεία

Αν οι τίτλοι για την απόφαση των Βρυξελλών να εντάξουν το ChatGPT, το Reddit και το Roblox στους αυστηρότερους κανόνες για την ασφάλεια στο διαδίκτυο έδωσαν την εντύπωση ότι διαπιστώθηκε παράβαση, αυτή είναι η λάθος ανάγνωση. Η Ευρωπαϊκή Επιτροπή πρόσθεσε τις τρεις υπηρεσίες στον κατάλογο των πλατφορμών που έχουν τόσο μεγάλη εμβέλεια ώστε οι τεχνικές και εμπορικές επιλογές τους να επηρεάζουν όχι μόνο τους χρήστες τους, αλλά και τη δημόσια σφαίρα. Πρόκειται λιγότερο για «κλήση» λόγω παραβίασης και περισσότερο για μετάβαση από την αυτοδήλωση σε υποχρεωτικό έλεγχο.

Ο κανόνας του μεγέθους

Ο Κανονισμός για τις Ψηφιακές Υπηρεσίες θέτει ένα σαφές όριο: κάθε διαδικτυακή υπηρεσία με περισσότερους από 45 εκατομμύρια μηνιαίους χρήστες στην ΕΕ περνά στο ανώτερο επίπεδο εποπτείας (Ευρωπαϊκή Επιτροπή). Το όριο αυτό αντιστοιχεί περίπου στο ένα δέκατο του πληθυσμού της Ένωσης, δηλαδή στο σημείο όπου οι Βρυξέλλες θεωρούν ότι η αρχιτεκτονική μιας υπηρεσίας μπορεί να παράγει συνέπειες σε ευρωπαϊκή κλίμακα (επισκόπηση της Επιτροπής για τον Κανονισμό).

Και οι τρεις υπηρεσίες ξεπέρασαν αυτό το όριο. Το ChatGPT δήλωσε περίπου 159 εκατομμύρια χρήστες στην ΕΕ για τη λειτουργία αναζήτησης, το Reddit 57,2 εκατομμύρια και το Roblox περίπου 47 εκατομμύρια (Euronews, Yahoo News). Ο συνολικός αριθμός των υπηρεσιών που έχουν χαρακτηριστεί πλέον ως πολύ μεγάλες πλατφόρμες ή μηχανές αναζήτησης ανέρχεται σε 28 (IEU Monitoring).

Το Reddit φιλοξενεί περιεχόμενο που δημιουργούν οι χρήστες. Το Roblox φιλοξενεί παιχνίδια που δημιουργούν οι ίδιοι οι χρήστες. Και οι δύο περιπτώσεις ταιριάζουν στο βασικό μοντέλο για το οποίο γράφτηκε ο Κανονισμός για τις Ψηφιακές Υπηρεσίες. Το ChatGPT είναι η πιο ενδιαφέρουσα περίπτωση. Συνθέτει απαντήσεις αντλώντας πληροφορίες από τον ιστό και τις παρουσιάζει σε ενιαία συνομιλιακή μορφή, ενώ η Επιτροπή το ταξινόμησε ως μηχανή αναζήτησης επειδή, όταν ο χρήστης υποβάλλει ερώτημα, ανακτά και ιεραρχεί εξωτερική πληροφορία (Straits Times). Μια μηχανή αναζήτησης διαμορφώνει τι βρίσκει ο χρήστης. Ένα chatbot που αναζητεί στον ιστό προχωρά ένα βήμα παραπέρα, συμπυκνώνοντας πολλές πηγές σε μία απάντηση, κάτι που δυσκολεύει τον χρήστη να καταλάβει γιατί έλαβε αυτή την απάντηση και όχι κάποια άλλη.

Είναι η πρώτη φορά που ένα ευρέως χρησιμοποιούμενο chatbot τεχνητής νοημοσύνης περνά σε αυτό το επίπεδο εποπτείας. Ο Κανονισμός για την Τεχνητή Νοημοσύνη, που είναι χωριστό νομοθέτημα, επιβάλλει υποχρεώσεις διαφάνειας στα chatbots. Ο χαρακτηρισμός βάσει του Κανονισμού για τις Ψηφιακές Υπηρεσίες κάνει κάτι διαφορετικό: αντιμετωπίζει την υπηρεσία ως υποδομή πληροφόρησης αρκετά μεγάλη ώστε να δημιουργεί κινδύνους μέσω του σχεδιασμού της σε μεγάλη κλίμακα, όχι απλώς μέσω μιας μεμονωμένης ανάρτησης ή απάντησης (Les Echos, ZDNet France).

Ετήσιος έλεγχος, εξωτερικός επιθεωρητής, ανοιχτά βιβλία

Οι τρεις υπηρεσίες έχουν τέσσερις μήνες από την επίσημη κοινοποίηση για να συμμορφωθούν. Στην πράξη, οι υποχρεώσεις μετακινούν το σύστημα από το «εμπιστευθείτε μας, κάνουμε εποπτεία περιεχομένου» σε διακυβέρνηση που πρέπει να αποδεικνύεται και να ελέγχεται (Κανονισμός 2022/2065). Τρεις αλλαγές είναι οι πιο ουσιαστικές.

Πρώτον, θεσπίζεται ετήσιος έλεγχος κινδύνων. Οι εταιρείες πρέπει να εντοπίζουν τους κινδύνους που δημιουργούν ο σχεδιασμός, οι αλγόριθμοι και τα πρότυπα χρήσης των υπηρεσιών τους, από το παράνομο περιεχόμενο και την προστασία των ανηλίκων έως τις επιπτώσεις στον δημόσιο διάλογο και την ασφάλεια (EDAA). Δεύτερον, μπαίνει εξωτερικός ελεγκτής. Ανεξάρτητοι ελεγκτές, και όχι οι ίδιες οι εταιρείες, θα αξιολογούν αν τα μέτρα προστασίας λειτουργούν πράγματι (Prighter). Τρίτον, ανοίγει πρόσβαση για την έρευνα. Η Επιτροπή και πιστοποιημένοι ακαδημαϊκοί θα μπορούν να ζητούν εξηγήσεις για τον τρόπο με τον οποίο οι αλγόριθμοι ιεραρχούν και προτείνουν περιεχόμενο, βάσει πλαισίου που θεσπίστηκε με κατ’ εξουσιοδότηση κανονισμό του 2025.

Τίποτε από αυτά δεν σημαίνει ότι ένας αξιωματούχος της ΕΕ θα παρεμβάλλεται ανάμεσα σε ένα ερώτημα προς το ChatGPT και στην απάντησή του, ούτε ότι θα εγκρίνει μεμονωμένες αναρτήσεις στο Reddit. Στόχος είναι το σύστημα: η λογική κατάταξης, οι μηχανισμοί εποπτείας περιεχομένου, η διαφημιστική αρχιτεκτονική, ο σχεδιασμός για την προστασία των παιδιών. Όταν η Επιτροπή διαπιστώνει παραβάσεις, χρησιμοποιεί ξεχωριστά εργαλεία επιβολής, όπως έχει ήδη κάνει με το πρόστιμο των 120 εκατ. ευρώ στο X και με τα προκαταρκτικά πορίσματα κατά της Meta για εθιστικό σχεδιασμό. Τα πρόστιμα μπορούν να φθάσουν έως το 6% του παγκόσμιου ετήσιου κύκλου εργασιών (Brussels Times).

Γιατί πρέπει να το προσέξουν οι οικογένειες

Για τους γονείς, το Roblox είναι η πιο χειροπιαστή περίπτωση. Περίπου το 70% των χρηστών του είναι κάτω των 18 ετών (Biz Chosun). Οι κατευθυντήριες γραμμές του Κανονισμού για τους ανηλίκους απαγορεύουν τη στοχευμένη διαφήμιση βάσει προφίλ όταν μια υπηρεσία γνωρίζει ότι ο χρήστης είναι παιδί. Ο χαρακτηρισμός στο ανώτερο επίπεδο εποπτείας υποχρεώνει το Roblox να αξιολογήσει αν τα παιχνίδια που δημιουργούν οι χρήστες, τα συστήματα συνομιλίας και οι αλγόριθμοι προτάσεων παράγουν κινδύνους για παιδιά σε μεγάλη κλίμακα (κατευθυντήριες γραμμές της Επιτροπής για τους ανηλίκους). Η εταιρεία έχει ήδη εισαγάγει ελέγχους ηλικίας με αναγνώριση προσώπου, περιορισμούς συνομιλίας ανά ηλικιακή κατηγορία και εποπτεία με τεχνητή νοημοσύνη. Το ερώτημα είναι αν αυτά τα εργαλεία λειτουργούν συνδυαστικά και σε κλίμακα· πλέον η Επιτροπή θα έχει θεσμική δυνατότητα να το κρίνει.

Η εκτελεστική αντιπρόεδρος Χένα Βίρκουνεν παρουσίασε τους χαρακτηρισμούς ως τρόπο ώστε οι υπηρεσίες αυτές να ελέγχονται ανάλογα με την εμβέλειά τους (UPI). Οι εξουσίες επιβολής πίσω από αυτή τη διατύπωση είναι πραγματικές. Έως τα τέλη Δεκεμβρίου, οι εταιρείες θα πρέπει να μπορούν να παρουσιάσουν ολοκληρωμένες αξιολογήσεις κινδύνου, ρυθμίσεις ελέγχου και διαδικασίες πρόσβασης για ερευνητές. Το κρίσιμο πλέον δεν είναι ο ίδιος ο χαρακτηρισμός, αλλά αν ο ελεγκτικός μηχανισμός της Επιτροπής θα αποδειχθεί αρκετά ακριβής ώστε να ξεχωρίζει την ουσιαστική λογοδοσία από την καλογραμμένη συμμόρφωση στα χαρτιά.