Η προηγμένη Τεχνητή Νοημοσύνη θα μπορούσε να αποτελέσει «υπαρξιακό κίνδυνο για την ανθρωπότητα», προειδοποίησε ο Ύπατος Αρμοστής του ΟΗΕ για τα Ανθρώπινα Δικαιώματα, Φόλκερ Τιρκ, ζητώντας πολύ ισχυρότερες εγγυήσεις για την ασφάλεια των συστημάτων AI και διεθνή συμφωνία πάνω σε σαφείς «κόκκινες γραμμές».
Μιλώντας χθες Δευτέρα στο Συμβούλιο Ανθρωπίνων Δικαιωμάτων του ΟΗΕ στη Γενεύη, ο Τιρκ ενέταξε την Τεχνητή Νοημοσύνη στις «άγνωστες, ακόμη και πρωτοφανείς» απειλές που αντιμετωπίζουν σήμερα τα ανθρώπινα δικαιώματα και άσκησε έντονη κριτική στην καθυστέρηση λήψης μέτρων.
«Η ανάγκη για διακυβέρνηση της Τεχνητής Νοημοσύνης είναι ευρέως αναγνωρισμένη – αλλά πού είναι η δράση;», διερωτήθηκε, υποστηρίζοντας ότι η καθυστέρηση ευνοεί κυρίως τις μεγάλες εταιρείες τεχνολογίας, τους ιδιοκτήτες και τους υποστηρικτές τους.
Ιδιαίτερα αιχμηρή ήταν η αναφορά του στη συγκέντρωση ισχύος γύρω από την AI. Όπως είπε, «μια χούφτα άνδρες» διαθέτει σχεδόν απεριόριστη εξουσία πάνω στην τεχνολογία, ενώ η συζήτηση περί ελευθερίας συχνά καταλήγει, κατά την έκφρασή του, στην «ελευθερία να εκμεταλλεύονται τα δεδομένα μας».
Ο Ύπατος Αρμοστής δήλωσε ότι συμμερίζεται τις ανησυχίες ανθρώπων που εργάζονται στον ίδιο τον κλάδο ότι τα πιο προηγμένα συστήματα AI θα μπορούσαν να εξελιχθούν σε υπαρξιακή απειλή, δηλαδή σε κίνδυνο που θα μπορούσε να απειλήσει την ίδια την επιβίωση της ανθρωπότητας.
Αναφέρθηκε μάλιστα σε συμπεριφορές που έχουν καταγραφεί κατά τη δοκιμή προηγμένων συστημάτων: AI που επιχειρεί να ξεφύγει από το περιβάλλον στο οποίο δοκιμάζεται ή που εκβιάζει τους προγραμματιστές της προκειμένου να αποφύγει την απενεργοποίησή της. «Αυτή είναι μια Τεχνητή Νοημοσύνη που είναι υπερβολικά ισχυρή», είπε.
Το γραφείο του Τιρκ συνέδεσε τις ανησυχίες αυτές και με το πρόσφατο περιστατικό στη Hugging Face, όπου πράκτορες AI της OpenAI απέκτησαν κατά τη διάρκεια δοκιμών πρόσβαση σε συστήματα πέρα από το προβλεπόμενο περιβάλλον λειτουργίας τους. Το περιστατικό έχει ενισχύσει τη συζήτηση για το κατά πόσον οι δυνατότητες των λεγόμενων προηγμένων ή «frontier» μοντέλων εξελίσσονται ταχύτερα από τους μηχανισμούς ασφαλείας που προορίζονται να τα ελέγχουν.
«Κόκκινες γραμμές» και ανεξάρτητος έλεγχος
Ο Φόλκερ Τιρκ ζήτησε μια «συνολική προσπάθεια» για ισχυρές εγγυήσεις ασφάλειας πριν, όπως είπε, να είναι πολύ αργά. Προανήγγειλε ότι τις επόμενες ημέρες θα απευθυνθεί απευθείας στις εταιρείες Τεχνητής Νοημοσύνης, καλώντας τις να λάβουν άμεσα τα μέτρα που βρίσκονται υπό τον έλεγχό τους για τη μείωση των κινδύνων.
Παράλληλα, κάλεσε τις χώρες στις οποίες αναπτύσσονται τα ισχυρότερα συστήματα AI, αλλά και εκείνες που συμμετέχουν στις αλυσίδες εφοδιασμού της τεχνολογίας, να συμφωνήσουν τουλάχιστον σε κοινές κόκκινες γραμμές. Ζήτησε επίσης ανεξάρτητη επαλήθευση των μέτρων ασφαλείας και πολύ στενότερη συνεργασία μεταξύ των εταιρειών του κλάδου.
Η παρέμβασή του, ωστόσο, δεν περιορίστηκε στο μακροπρόθεσμο ενδεχόμενο απώλειας ελέγχου ενός ισχυρού συστήματος. Το γραφείο του προειδοποίησε ότι αστοχίες προηγμένης AI θα μπορούσαν να προκαλέσουν προβλήματα σε κρίσιμες υποδομές, επικοινωνίες και δημοκρατικούς θεσμούς, ενώ ο ίδιος ζήτησε να εξεταστούν οι επιπτώσεις της τεχνολογίας στην εργασία, στις θεμελιώδεις αρχές της δημοκρατίας και στο περιβάλλον.
Στην ίδια ομιλία, ο Τιρκ εξέφρασε επίσης αποτροπιασμό για αναφορές περί χρήσης πλήρως αυτόνομων drones στον πόλεμο στην Ουκρανία, τα οποία θα μπορούσαν να επιλέγουν και να πλήττουν στόχους χωρίς ανθρώπινη παρέμβαση. Κάλεσε σε επείγουσα απαγόρευση όπλων που μπορούν να αφαιρούν ανθρώπινες ζωές χωρίς ανθρώπινη συμμετοχή στη λήψη της απόφασης.
«Τα ανθρώπινα δικαιώματα προσφέρουν έναν τρόπο για να κινηθούμε μέσα σε αυτά τα δύσκολα ζητήματα», είπε ο Τιρκ, θέτοντας ως στόχο μια τεχνολογία που θα υπηρετεί την ανθρωπότητα και όχι το αντίστροφο.
