Η συζήτηση για το αν η τεχνητή νοημοσύνη μπορεί να εξαφανίσει την ανθρωπότητα μέσα στην επόμενη δεκαετία έχει μετακινηθεί από τη σφαίρα της επιστημονικής φαντασίας στο επίκεντρο της παγκόσμιας τεχνολογικής και πολιτικής επικαιρότητας. Ερευνητές, επιχειρηματίες και ειδικοί στην ασφάλεια της ΑΙ προειδοποιούν ότι η ταχύτητα ανάπτυξης των νέων συστημάτων ενδέχεται να ξεπερνά την ικανότητά μας να τα ελέγξουμε.
Όταν ο ερευνητής τεχνητής νοημοσύνης Τζέικομπ Κόξον παραιτήθηκε από την Anthropic, προειδοποίησε ότι η εταιρεία και οι ανταγωνιστές της «παίζουν τζόγο με τις ζωές μας». Ο Κόξον, ο οποίος ειδικεύεται στην εκπαίδευση νέων μοντέλων ΑΙ και είχε εργαστεί προηγουμένως στην OpenAI, την εταιρεία πίσω από το ChatGPT, υποστήριξε ότι αρκετοί από όσους κατασκευάζουν τα συγκεκριμένα συστήματα πιστεύουν πραγματικά πως η τεχνητή νοημοσύνη θα μπορούσε να σκοτώσει όλους τους ανθρώπους έως το τέλος της δεκαετίας.
Οι δηλώσεις του προκάλεσαν έντονες αντιδράσεις, αλλά βρήκαν γρήγορα υποστήριξη και από άλλους ειδικούς του κλάδου. Ο μηχανικός ασφάλειας Έβαν Χούμπινγκερ συμφώνησε με την εκτίμηση, δηλώνοντας ότι θεωρεί πως η πιθανότητα η ΑΙ να εξαλείψει την ανθρωπότητα μέσα στην επόμενη δεκαετία ξεπερνά το 10%.
Παρόμοιες προειδοποιήσεις έχουν διατυπωθεί και από κορυφαίες προσωπικότητες της επιστημονικής κοινότητας. Ο νομπελίστας επιστήμονας υπολογιστών και αποκαλούμενος «νονός της τεχνητής νοημοσύνης», Τζέφρι Χίντον, δήλωσε στο BBC ότι το ακριβές ποσοστό κινδύνου δεν είναι δυνατό να υπολογιστεί με βεβαιότητα. Ωστόσο, πρόσθεσε πως μια πιθανότητα της τάξης του 10% δεν αποτελεί παράλογη εκτίμηση.
Παράλληλα, κορυφαίοι επιχειρηματίες της τεχνολογίας, όπως ο Σαμ Άλτμαν της OpenAI και ο Ίλον Μασκ, έχουν συμφωνήσει με την ανάγκη επιβράδυνσης της ανάπτυξης της ΑΙ, ώστε οι μηχανισμοί ασφαλείας και ελέγχου να προλάβουν να συμβαδίσουν με την τεχνολογική πρόοδο.
Τεχνητή νοημοσύνη και ο κίνδυνος εξαφάνισης
Το ερώτημα, επομένως, είναι αν η ίδια η τεχνητή νοημοσύνη μπορεί να συμβάλει στην καλύτερη κατανόηση της απειλής που ενδέχεται να δημιουργεί. Για να διερευνήσει το ζήτημα, η εφημερίδα Independent χρησιμοποίησε το Noah Predict, ένα σύστημα ΑΙ που αναλύει εκατομμύρια ειδήσεις, δεδομένα και ερευνητικές τάσεις, προκειμένου να υπολογίσει την πιθανότητα η τεχνητή νοημοσύνη να οδηγήσει στην εξαφάνιση της ανθρωπότητας μέσα στα επόμενα δέκα χρόνια.
Το εργαλείο, το οποίο περιγράφεται ως σύστημα «υπερ-πρόβλεψης», εξέτασε ερωτήματα από 41 ερευνητικές γραμμές και 108 ελέγχους, αξιοποιώντας περίπου 52 εκατομμύρια δεδομένα. Το συμπέρασμά του ήταν αρκετά διαφορετικό από τις πιο δυσοίωνες εκτιμήσεις των ειδικών: η πιθανότητα δεν υπολογίστηκε στο 10%, αλλά στο 0,85%. Με άλλα λόγια, πρόκειται για περίπου μία πιθανότητα στις 118 η τεχνητή νοημοσύνη να εξαλείψει την ανθρωπότητα μέσα στην επόμενη δεκαετία.
Το ποσοστό είναι χαμηλό, αλλά δεν είναι αμελητέο. Ιδίως επειδή οι συνέπειες ενός τέτοιου γεγονότος θα ήταν μη αναστρέψιμες. Επιπλέον, ακόμη και μια μικρή πιθανότητα αποκτά ιδιαίτερη σημασία όταν ένας κακόβουλος παράγοντας μπορεί να αξιοποιήσει την ΑΙ για να προκαλέσει μεγάλης κλίμακας ζημιές.
Ποιοι είναι οι βασικοί κίνδυνοι της τεχνητής νοημοσύνης;
Πρώτος κίνδυνος: Ο ανθρώπινος παράγοντας
Σύμφωνα με την ανάλυση του Noah Predict, η πιο άμεση απειλή προέρχεται από τους ανθρώπους και όχι από μια μηχανή που θα αποφασίσει αυτόνομα ότι η ανθρωπότητα είναι περιττή. Η ΑΙ μπορεί, όμως, να βοηθήσει έναν κακόβουλο παράγοντα να σχεδιάσει και να εκτελέσει επικίνδυνες ενέργειες ταχύτερα, φθηνότερα και αποτελεσματικότερα.
Η τεχνολογία μπορεί να χρησιμοποιηθεί για κυβερνοεπιθέσεις, παραπληροφόρηση, αυτοματοποίηση εγκληματικών δραστηριοτήτων ή επιθέσεις σε κρίσιμες υποδομές. Το Εθνικό Κέντρο Κυβερνοασφάλειας της Βρετανίας εκτίμησε τον Μάιο του 2025 ότι η ΑΙ θα μπορούσε να αυξήσει τη συχνότητα και την ένταση των κυβερνοαπειλών έως το 2027, διευρύνοντας παράλληλα το χάσμα μεταξύ καλά προστατευμένων και ευάλωτων συστημάτων.
Μια επίθεση σε νοσοκομείο, δίκτυο ηλεκτρικής ενέργειας ή χρηματοπιστωτική υποδομή θα μπορούσε να προκαλέσει πολλούς θανάτους και σοβαρή κοινωνική αναστάτωση. Ωστόσο, από μόνη της δεν θα ισοδυναμούσε με εξαφάνιση του ανθρώπινου πληθυσμού.
Δεύτερος κίνδυνος: Αποτυχία λογισμικού
Ένα σύστημα ΑΙ δεν χρειάζεται απαραίτητα να παρουσιάσει εμφανή δυσλειτουργία για να προκαλέσει σοβαρές συνέπειες. Εάν οι επιχειρήσεις το χρησιμοποιήσουν για να αναδιοργανώσουν την εργασία ταχύτερα από όσο μπορούν οι εργαζόμενοι να επανεκπαιδευτούν, η μαζική απώλεια θέσεων εργασίας μπορεί να οδηγήσει σε κοινωνική και πολιτική αστάθεια.
Παράλληλα, όσο περισσότερες βασικές λειτουργίες εξαρτώνται από αυτοματοποιημένες υπηρεσίες, τόσο μεγαλύτερος γίνεται ο κίνδυνος μιας κοινής βλάβης. Μια τεχνική αστοχία που θα επηρεάσει ταυτόχρονα τις μεταφορές, την ενέργεια, τις επικοινωνίες και την υγειονομική περίθαλψη θα μπορούσε να προκαλέσει εκτεταμένη κρίση.
Παρότι οι συνέπειες αυτές θα ήταν εξαιρετικά σοβαρές, είναι δύσκολο να θεωρηθούν από μόνες τους υπαρξιακή απειλή για την ανθρωπότητα.
Τρίτος κίνδυνος: Παράκαμψη του ανθρώπινου ελέγχου
Το πιο ανησυχητικό σενάριο αφορά ένα σύστημα που έχει σχεδιαστεί για να επιτυγχάνει έναν συγκεκριμένο στόχο, αλλά αντιλαμβάνεται την ανθρώπινη παρέμβαση ως εμπόδιο. Σε αυτή την περίπτωση, η ΑΙ θα μπορούσε να συνεχίσει να επιδιώκει τον στόχο της, ακόμη και όταν οι χειριστές προσπαθούν να τη διορθώσουν ή να τη σταματήσουν.
Ωστόσο, υπάρχει σημαντική διαφορά ανάμεσα στην παραβίαση μιας εντολής κατά τη διάρκεια μιας δοκιμής και στην πραγματική διαφυγή από τον διαρκή ανθρώπινο έλεγχο. Ένα εργαστηριακό πείραμα μπορεί να αποκαλύψει μια αδυναμία χωρίς να δημιουργήσει μια αυτόνομη και αυτοσυντηρούμενη απειλή.
Τα κρίσιμα ερωτήματα είναι αν η συμπεριφορά μπορεί να επαναληφθεί, ποια δικαιώματα και προσβάσεις απαιτούνται, αν οι χειριστές μπορούν να την ανιχνεύσουν και αν οι διαδικασίες παρέμβασης λειτουργούν στην πράξη.
Για τον περιορισμό των κινδύνων απαιτούνται πολλαπλά επίπεδα προστασίας: δυνατότητα άμεσης διακοπής μεμονωμένων συστημάτων, περιορισμός των δικαιωμάτων και των προσβάσεών τους, απομόνωση από κρίσιμες υποδομές, δοκιμές σε απρόβλεπτα σενάρια και τακτική επαλήθευση των διαδικασιών τερματισμού και αποκατάστασης.
