Όταν ο ερευνητής τεχνητής νοημοσύνης (ΑΙ) Τζέικομπ Κόξον παραιτήθηκε από τον τεχνολογικό γίγαντα Anthropic νωρίτερα αυτόν τον μήνα, προειδοποίησε ότι η εταιρεία και οι ανταγωνιστές της «παίζουν τζόγο με τις ζωές μας».
Ο Κόξον, ο οποίος ειδικεύεται στην εκπαίδευση νέων μοντέλων τεχνητής νοημοσύνης και εργάστηκε προηγουμένως στην OpenAI , εταιρεία που δημιούργησε το ChatGPT, δήλωσε ότι όσοι κατασκευάζουν την τεχνητή νοημοσύνη «πιστεύουν ακράδαντα ότι θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας».
Οι δυσοίωνες προβλέψεις του στην πλατφόρμα Χ γρήγορα βρήκαν στήριξη και από άλλους στον τομέα, με τον συνάδελφό του μηχανικό ασφαλείας Έβαν Χούμπινγκερ να συμφωνεί με τον Κόξον, προσθέτοντας ότι «πιστεύουμε πραγματικά ειλικρινά ότι η ΑΙ θα μπορούσε να σκοτώσει όλους τους ανθρώπους! Προσωπικά πιστεύω ότι είναι >10% μέσα στην επόμενη δεκαετία».
Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. https://t.co/QAIHiFP3QZ
— Evan Hubinger (@EvanHub) September 9, 2026
Ειδικοί σε όλο τον κόσμο έχουν προβεί έκτοτε σε παρόμοιες εκτιμήσεις του κινδύνου. Ο νομπελίστας επιστήμονας υπολογιστών και λεγόμενος «νονός της Τεχνητής Νοημοσύνης», Τζέφρι Χίντον, δήλωσε στο BBC ότι οι πιθανότητες η ΑΙ να εξαλείψει την ανθρωπότητα τα επόμενα χρόνια δεν είναι γνωστές, όμως «μια πιθανότητα 10% δεν φαίνεται παράλογη εκτίμηση».
Τις τελευταίες ημέρες, κορυφαίοι επιχειρηματίες τεχνολογίας, όπως ο Σαμ Άλτμαν του Open AI και ο Ίλον Μασκ, συμφώνησαν με την έκκληση του επικεφαλής της Anthropic για επιβράδυνση της ΑΙ ώστε να επιτρέψει στα μέτρα ασφαλείας να συμβαδίσουν.
Όμως τι λέει η ίδια η Τεχνητή Νοημοσύνη για τις απειλές που προκαλεί;
Η εφημερίδα Independent θέλησε να διαπιστώσει αν η ΑΙ διαδραματίζει κάποιο ρόλο στην κατανόηση της απειλής που θέτει η ίδια. Με αυτόν τον σκοπό, χρησιμοποίησε το Noah Predict, ένα σύστημα ΑΙ που μετατρέπει εκατομμύρια ειδήσεις και δεδομένα σε τάσεις και κινδύνους, ώστε να καταλήξει σε μια βαθμονόμηση πιθανοτήτων για το ενδεχόμενο η τεχνητή νοημοσύνη να εξαλείψει την ανθρωπότητα την επόμενη δεκαετία.
Το λεγόμενο εργαλείο «υπερ-πρόβλεψης» εξέτασε τις ερωτήσεις σε 41 γραμμές έρευνας και 108 ερευνητικούς ελέγχους, χρησιμοποιώντας περίπου 52 εκατομμύρια στοιχεία δεδομένων για να εκτιμήσει την πιθανότητα εξαφάνισης του ανθρώπου από την ΑΙ μέσα στα επόμενα δέκα χρόνια.
Ανέφερε ότι η απάντηση δεν ήταν 10% – αλλά 0,85%, δηλαδή περίπου μία πιθανότητα στις 118 η Τεχνητή Νοημοσύνη να εξαλείψει όντως την ανθρωπότητα την επόμενη δεκαετία.
Μπορεί το ποσοστό να είναι μικρό, όμως δεν είναι ασήμαντο. Ειδικά όταν ένας κακόβουλος παράγοντας μπορεί να αλλάξει την πορεία των γεγονότων και οι συνέπειες θα μπορούσαν να είναι μη αναστρέψιμες.
Σε ερωτήσεις προς το Noah Predict για το πού βρίσκεται ο κίνδυνος, πώς θα μπορούσε να κλιμακωθεί και ποιες παρεμβάσεις θα μπορούσαν πραγματικά να μειώσουν αυτόν τον κίνδυνο απάντησε ως εξής:
Πρώτος κίνδυνος: Ανθρώπινος παράγοντας
«Η πιο άμεση απειλή προέρχεται από τους ανθρώπους, όχι από μια μηχανή που αποφασίζει ότι η ανθρωπότητα είναι αναλώσιμη», σύμφωνα με την ΑΙ, όμως «η τεχνητή νοημοσύνη θα μπορούσε να βοηθήσει έναν κακόβουλο παράγοντα να εκτελέσει μέρη μιας επικίνδυνης εργασίας πιο γρήγορα, φθηνότερα και αποτελεσματικά».
Το Εθνικό Κέντρο Κυβερνοασφάλειας της Βρετανίας εκτίμησε τον Μάιο του 2025 ότι η ΑΙ θα αύξανε τη συχνότητα και την ένταση των κυβερνοαπειλών έως το 2027, διευρύνοντας παράλληλα το χάσμα μεταξύ των επαρκώς προστατευμένων συστημάτων και των ευάλωτων.
Πάντως σε κάθε περίπτωση, μια επίθεση σε ένα νοσοκομείο ή σε ένα δίκτυο ηλεκτρικής ενέργειας θα μπορούσε μεν να σκοτώσει πολύ κόσμο, όμως δε θα απειλούσε να εξαλείψει τον ανθρώπινο πληθυσμό.
Δεύτερος κίνδυνος: Αποτυχία λογισμικού
«Ένα σύστημα ΑΙ δεν χρειάζεται να δυσλειτουργεί για να προκαλέσει σοβαρές διαταραχές. Εάν οι εργοδότες το χρησιμοποιούν για να αναδιοργανώσουν την εργασία ταχύτερα από ό,τι μπορούν οι άνθρωποι να επανεκπαιδευτούν, η προκύπτουσα κατανομή των απωλειών θα μπορούσε να γίνει αποσταθεροποιητική. Εφόσον οι οργανισμοί και οι επιχειρήσεις εξαρτώνται σε μεγάλο βαθμό από αυτοματοποιημένες υπηρεσίες, μια κοινή βλάβη θα μπορούσε να επηρεάσει πολλές βασικές δραστηριότητες μαζί», αναφέρει το σύστημα Noah.
Ενώ ο αντίκτυπος της Τεχνητής Νοημοσύνης στις θέσεις εργασίας αποτελεί τεράστια ανησυχία για πολλούς, με το φάσμα της ανεργίας και της πολιτικής αστάθειας να εμφανίζεται όλο και πιο απειλητικό, εντούτοις είναι απίθανο ότι μπορεί να αποτελέσει απειλή σε επίπεδο εξαφάνισης της ανθρωπότητας.
Τρίτος κίνδυνος: Παράκαμψη του ελέγχου
Το πιο ανησυχητικό σενάριο είναι ένα σύστημα που έχει κατασκευαστεί για την επίτευξη ενός στόχου για τον οποίο όμως η ανθρώπινη παρέμβαση έχει καταστεί εμπόδιο: ως εκ τούτου, η ΑΙ συνεχίζει να επιδιώκει τους στόχους της, παρά τις προσπάθειες διόρθωσης ή διακοπής του συστήματος.
Ωστόσο, υπάρχει μια ουσιαστική διαφορά μεταξύ της παραβίασης μιας εντολής δοκιμής και της διαφυγής από τον διαρκή έλεγχο.
«Ένα εργαστηριακό αποτέλεσμα μπορεί να αποκαλύψει μια αδυναμία χωρίς να δημιουργήσει μια αυτόνομη, αυτοσυντηρούμενη απειλή», αναφέρει η ΑΙ. «Τα ερωτήματα είναι αν η συμπεριφορά αναπαράγεται, ποια πρόσβαση απαιτούσε το σύστημα, αν οι χειριστές την ανίχνευσαν και αν η παρέμβασή τους λειτούργησε».
Η απόκριση πρέπει να διατηρεί τη δυνατότητα διακοπής λειτουργίας μεμονωμένων συστημάτων. Να περιορίζει τα προνόμιά τους, να περιορίζει την πρόσβασή τους σε επακόλουθες υποδομές, να πραγματοποιεί δοκιμές με αντισυμβατικό τρόπο και να επαληθεύει τις διαδικασίες τερματισμού λειτουργίας και αποκατάστασης.
Ο απολογισμός
Οι τρεις κατηγορίες είναι ευρείες, ενδεχομένως θα μπορούσαν να συγχωνευθούν, ενώ οι διασφαλίσεις θα μπορούσαν να αποτύχουν ταυτόχρονα. Για παράδειγμα, η πολιτική αστάθεια και η απώλεια θέσεων εργασίας θα μπορούσαν να μειώσουν τον ανθρώπινο έλεγχο.
Συμπερασματικά, οι άνθρωποι πρέπει να αναπτύξουν συστήματα που είναι πλήρως ασφαλή και εξακολουθούν να βασίζονται στον ανθρώπινο έλεγχο. Και καθώς ξεκλειδώνουμε τις μυριάδες χρήσιμες και ζωτικές δυνατότητες της Τεχνητής Νοημοσύνης, πρέπει επίσης να περιορίσουμε τις δυνατότητες που θα μπορούσαν να οδηγήσουν σε σοβαρή κακή χρήση ή απώλεια ελέγχου από τους χειριστές τους.
Πηγή: Independent
