Από εχθες, 2 Αυγούστου, μπήκε σε εφαρμογή ένα από τα πιο πρακτικά και άμεσα κομμάτια του ευρωπαϊκού Κανονισμού για την Τεχνητή Νοημοσύνη (AI Act): οι κανόνες διαφάνειας. Στην πράξη, αυτό σημαίνει ότι τα chatbots οφείλουν να ενημερώνουν ξεκάθαρα τους χρήστες πως συνομιλούν με σύστημα Τεχνητής Νοημοσύνης και όχι με άνθρωπο, ενώ τα deepfakes και άλλο περιεχόμενο που έχει δημιουργηθεί ή αλλοιωθεί με ΤΝ θα πρέπει να φέρει σχετική σήμανση. Πρόκειται για ένα βήμα που στοχεύει στη μείωση της εξαπάτησης και της χειραγώγησης στο διαδίκτυο, ενισχύοντας ταυτόχρονα την ασφάλεια και την εμπιστοσύνη στις ψηφιακές υπηρεσίες.
Οι νέες υποχρεώσεις δεν είναι απλώς «τυπικές» ανακοινώσεις. Η Ευρωπαϊκή Επιτροπή ξεκινά παράλληλα να επιβάλλει υποχρεώσεις και στους παρόχους των ισχυρότερων μοντέλων γενικού σκοπού, δηλαδή εκείνων που μπορούν να χρησιμοποιηθούν σε πολλαπλές εφαρμογές (από μηχανές αναζήτησης και ψηφιακούς βοηθούς, μέχρι αυτόνομους «πράκτορες» ΤΝ). Με άλλα λόγια, ο AI Act επιχειρεί να φέρει διαφάνεια τόσο στη σχέση χρήστη–συστήματος όσο και στη λειτουργία της ίδιας της βιομηχανίας που αναπτύσσει τα πιο ισχυρά μοντέλα.
AI Act: κανόνες διαφάνειας που αλλάζουν την εμπειρία χρήσης
Η βασική αρχή είναι απλή: όταν αλληλεπιδράς με ΤΝ, πρέπει να το γνωρίζεις. Τα διαδραστικά συστήματα ΤΝ, όπως τα chatbots, θα χρειάζεται να καθιστούν σαφές ότι ο συνομιλητής δεν είναι άνθρωπος. Αυτό δεν αφορά μόνο τις εφαρμογές εξυπηρέτησης πελατών, αλλά και κάθε περιβάλλον όπου ο χρήστης μπορεί να επηρεαστεί από το ύφος, την «αυθεντία» ή την πειστικότητα ενός συστήματος.
Αντίστοιχα, εικόνες, βίντεο και ηχητικά αρχεία που έχουν παραχθεί ή επεξεργαστεί με ΤΝ και μπορούν να εκληφθούν ως αυθεντικά —τα λεγόμενα deepfakes— θα πρέπει επίσης να επισημαίνονται. Η υποχρέωση αυτή αποκτά ιδιαίτερη σημασία σε περιόδους εκλογών, σε κρίσεις δημόσιας υγείας ή ασφάλειας, αλλά και σε καθημερινές περιπτώσεις όπου ένα ψεύτικο βίντεο μπορεί να πλήξει τη φήμη ενός ατόμου ή να προκαλέσει πανικό.
Σημαντικό στοιχείο του πλαισίου είναι ότι δεν μιλάμε απαραίτητα για μία ενιαία, ίδια «ορατή» ένδειξη σε κάθε περίπτωση. Η εφαρμογή εξαρτάται από το είδος του συστήματος και του περιεχομένου. Σε ορισμένες περιπτώσεις η σήμανση μπορεί να είναι εμφανής στο κοινό, ενώ σε άλλες μπορεί να αφορά κυρίως τεχνικά σήματα που βοηθούν στον εντοπισμό και την ιχνηλάτηση.
Σήμανση deepfakes και «μηχανικά αναγνώσιμα» σήματα
Πέρα από τις ορατές επισημάνσεις, ο AI Act εισάγει και μία τεχνικά κρίσιμη απαίτηση: το περιεχόμενο που δημιουργείται ή τροποποιείται με τη βοήθεια ΤΝ πρέπει να φέρει σήματα αναγνώσιμα από μηχανές. Αυτό διευκολύνει πλατφόρμες, ερευνητές και αρμόδιες αρχές να εντοπίζουν πιο γρήγορα ύποπτο ή παραπλανητικό υλικό, να κατανοούν τη διαδρομή του και να λαμβάνουν μέτρα όταν χρειάζεται.
Ο στόχος είναι διπλός: αφενός να μειωθεί η εξαπάτηση (π.χ. «αυτό το βίντεο είναι αληθινό» ενώ δεν είναι), αφετέρου να ενισχυθεί η λογοδοσία χωρίς να μπλοκάρεται η καινοτομία. Για τον λόγο αυτό, η νομοθεσία δεν προϋποθέτει ότι κάθε κείμενο, εικόνα ή βίντεο που παράγεται με ΤΝ θα φέρει υποχρεωτικά την ίδια προβεβλημένη ένδειξη προς όλους τους χρήστες. Το «πώς» θα φαίνεται η διαφάνεια προσαρμόζεται στο ρίσκο και στο πλαίσιο χρήσης.
Στο μικροσκόπιο τα ισχυρότερα μοντέλα γενικού σκοπού (GPAI)
Από σήμερα, το ευρωπαϊκό Γραφείο Τεχνητής Νοημοσύνης αποκτά τη δυνατότητα να επιβάλλει κανόνες του AI Act στους παρόχους μοντέλων ΤΝ γενικού σκοπού (GPAI). Αυτά τα μοντέλα δεν είναι «ένα εργαλείο για μία δουλειά». Αντίθετα, μπορούν να εκτελούν πολλές εργασίες και να ενσωματώνονται σε πλήθος προϊόντων: από chatbots και συστήματα αναζήτησης μέχρι εφαρμογές παραγωγικότητας και αυτοματισμούς που λαμβάνουν πρωτοβουλίες.
Οι πάροχοι αυτών των μοντέλων υποχρεούνται να:
– τηρούν τεχνική τεκμηρίωση,
– παρέχουν πληροφορίες στις αρμόδιες αρχές και στις επιχειρήσεις που «χτίζουν» πάνω στα μοντέλα τους,
– εφαρμόζουν πολιτική συμμόρφωσης με το ευρωπαϊκό δίκαιο πνευματικής ιδιοκτησίας,
– δημοσιεύουν επαρκώς αναλυτική περίληψη του περιεχομένου που χρησιμοποιήθηκε για την εκπαίδευση των μοντέλων.
Η τελευταία απαίτηση δεν σημαίνει δημοσιοποίηση ολόκληρων datasets, αλλά μεγαλύτερη διαφάνεια ως προς τις πηγές και τις κατηγορίες υλικού. Έτσι, δημιουργούνται καλύτερες συνθήκες για έλεγχο, υπευθυνότητα και τεκμηριωμένη συζήτηση για το τι «έμαθε» ένα μοντέλο και με ποια πιθανή μεροληψία.
«Συστημικοί κίνδυνοι» και πρόσθετες υποχρεώσεις ασφάλειας
Για τα πλέον προηγμένα μοντέλα, η ευρωπαϊκή νομοθεσία προβλέπει επιπλέον υποχρεώσεις επειδή ενδέχεται να δημιουργούν «συστημικούς κινδύνους». Οι εταιρείες που τα αναπτύσσουν θα πρέπει να αξιολογούν και να περιορίζουν κινδύνους μεγάλης κλίμακας, όπως:
– χρήση για κυβερνοεπιθέσεις,
– επιβλαβής χειραγώγηση ανθρώπων,
– απειλές για θεμελιώδη δικαιώματα,
– συμβολή σε χημικά, βιολογικά, ραδιολογικά και πυρηνικά περιστατικά.
Η Κομισιόν αναφέρεται επίσης στον κίνδυνο συστήματα ΤΝ να ενεργούν πέρα από τον ανθρώπινο έλεγχο. Αυτό δεν αποτελεί επιβεβαίωση ότι έχουν ήδη συμβεί τέτοια περιστατικά, αλλά καθιστά σαφές ότι οι πάροχοι των ισχυρότερων μοντέλων οφείλουν να το εξετάζουν σοβαρά στις αξιολογήσεις ασφαλείας.
Ποιος ελέγχει την εφαρμογή και τι ακολουθεί
Η επιβολή των κανόνων μοιράζεται μεταξύ ευρωπαϊκών και εθνικών αρχών. Το Γραφείο ΤΝ θα εποπτεύει συστήματα που προσφέρονται από τον ίδιο πάροχο με το μοντέλο γενικού σκοπού στο οποίο βασίζονται, καθώς και ορισμένα συστήματα που είναι ενσωματωμένα σε πολύ μεγάλες πλατφόρμες και μηχανές αναζήτησης στο πλαίσιο του Digital Services Act. Για τα υπόλοιπα συστήματα, αρμόδιες θα είναι οι εθνικές αρχές των κρατών-μελών, ενώ ο Ευρωπαίος Επόπτης Προστασίας Δεδομένων θα ελέγχει τη χρήση ΤΝ από τα θεσμικά όργανα και τους οργανισμούς της ΕΕ.
Η Επιτροπή ενεργοποιεί επίσης μηχανισμούς καταγγελιών για πολίτες και επιχειρήσεις, καθώς και ξεχωριστό ασφαλές κανάλι για εργαζομένους (whistleblowers) και για εταιρείες που αναπτύσσουν εφαρμογές πάνω σε μοντέλα τρίτων. Παράλληλα, δημοσιεύτηκε ένας πρώτος κατάλογος με περισσότερους από 180 οργανισμούς που έχουν υπογράψει τον Κώδικα Πρακτικής για τη διαφάνεια περιεχομένου που παράγεται από ΤΝ, επιχειρώντας να μετατρέψουν τις γενικές αρχές του AI Act σε εφαρμόσιμες τεχνικές και οργανωτικές πρακτικές.
Τέλος, αξίζει να σημειωθεί ότι δεν τίθενται σήμερα σε ισχύ όλες οι διατάξεις: οι κανόνες για τα συστήματα υψηλού κινδύνου μετατίθενται για τις 2 Δεκεμβρίου 2027, ενώ για συστήματα που ενσωματώνονται σε προϊόντα με ειδική ευρωπαϊκή νομοθεσία η εφαρμογή μεταφέρεται στις 2 Αυγούστου 2028. Νέες απαγορεύσεις για συστήματα που παράγουν χωρίς συναίνεση σεξουαλικά ρητό υλικό ή υλικό σεξουαλικής κακοποίησης παιδιών προβλέπεται να ισχύσουν από τις 2 Δεκεμβρίου 2026.
Με τους κανόνες διαφάνειας να ξεκινούν τώρα, ο AI Act στέλνει ένα ξεκάθαρο μήνυμα: η ΤΝ μπορεί να παραμείνει ισχυρό εργαλείο καινοτομίας, αλλά δεν μπορεί να λειτουργεί ως «μαύρο κουτί» που μπερδεύει τον χρήστη ή θολώνει τα όρια ανάμεσα στο αυθεντικό και στο τεχνητό. Η διαφάνεια, ειδικά σε chatbots και deepfakes, γίνεται πλέον θεμέλιο για καλύτερη ασφάλεια, πιο υπεύθυνη χρήση και μεγαλύτερη εμπιστοσύνη στο ψηφιακό οικοσύστημα.
