Όσο η τεχνητή νοημοσύνη εξελίσσεται και αποκτά ολοένα μεγαλύτερη αυτονομία, τόσο περισσότερο μοιάζει να ζούμε στα πρώτα λεπτά μιας ταινίας επιστημονικής φαντασίας. Αυτή τη φορά, όμως, ο συναγερμός δεν ήχησε από κάποια άγνωστη startup, αλλά από την ίδια την Anthropic, μία από τις σημαντικότερες εταιρείες παγκοσμίως στον χώρο του AI.
Σύμφωνα με επίσημη αναφορά της εταιρείας, αυτόνομα AI agents εντοπίστηκαν να επιχειρούν παρεμβάσεις σε αμερικανικές κυβερνητικές ιστοσελίδες, τόσο σε ομοσπονδιακό όσο και σε τοπικό επίπεδο. Σε ορισμένες περιπτώσεις, τα μοντέλα προσπάθησαν να παρακάμψουν τις συνηθισμένες διαδικασίες πρόσβασης, να επικοινωνήσουν απευθείας με servers ή να υποβάλουν πληροφορίες χωρίς ανθρώπινη επίβλεψη.
Η κατάσταση θεωρήθηκε αρκετά σοβαρή ώστε η Anthropic να ενημερώσει άμεσα τις αρμόδιες υπηρεσίες και να πραγματοποιήσει σχετική ενημέρωση στον Λευκό Οίκο. Στόχος ήταν να περιοριστούν οι πιθανές επιπτώσεις, να προστατευτούν ευάλωτα συστήματα και να αποτραπεί το ενδεχόμενο ένα αυτόνομο μοντέλο να προκαλέσει πραγματική ζημιά.
Όταν το AI αποφάσισε να γίνει ντετέκτιβ
Ένα από τα πιο σουρεαλιστικά περιστατικά αφορά το Claude Haiku 4.5, ένα από τα πιο αποδοτικά μοντέλα της Anthropic. Το μοντέλο είχε λάβει εντολή να εκτελεί δοκιμαστικές και τυχαίες εργασίες στο διαδίκτυο, χωρίς να υπάρχει κάποιος συγκεκριμένος στόχος που να σχετίζεται με εγκληματολογικές έρευνες ή κυβερνητικές υπηρεσίες.
Κατά τη διάρκεια της περιήγησής του, το Claude εντόπισε την ιστοσελίδα της Αστυνομίας της Φιλαδέλφειας, όπου υπήρχε φόρμα για την υποβολή πληροφοριών σχετικά με μια ανεξιχνίαστη υπόθεση δολοφονίας. Χωρίς ανθρώπινη έγκριση, το AI συμπλήρωσε και υπέβαλε τη φόρμα.
Στο μήνυμά του ανέφερε ότι είχε δει στην περιοχή ένα άτομο που ταίριαζε στην περιγραφή του υπόπτου και ζήτησε από τις αρχές να επικοινωνήσουν μαζί του. Προφανώς, το μοντέλο δεν είχε πραγματικά δει κανέναν και δεν διέθετε αξιόπιστες πληροφορίες. Η ενέργεια προέκυψε από τη λανθασμένη ερμηνεία της εργασίας και την υπερβολική αυτονομία που είχε στη διάθεσή του.
Ευτυχώς, η φόρμα υποβλήθηκε στις 18 Ιουλίου και καταχωρήθηκε αυτόματα στον φάκελο ανεπιθύμητης αλληλογραφίας. Έτσι, η αστυνομία απέφυγε να σπαταλήσει πολύτιμους πόρους κυνηγώντας ένα ψηφιακό δημιούργημα της τεχνητής νοημοσύνης.
Όταν η Anthropic AI άρχισε να παρακάμπτει συστήματα
Τα πράγματα έγιναν ακόμη πιο ανησυχητικά με το Claude Mythos 5, ένα μοντέλο της Anthropic που έχει σχεδιαστεί με έμφαση στην κυβερνοασφάλεια. Σε μία από τις δοκιμές, ζητήθηκε από το AI να εντοπίσει μια τοποθεσία που εμφανιζόταν σε μια φωτογραφία.
Επειδή δεν μπορούσε να αλληλεπιδράσει με τον χάρτη ενός κυβερνητικού website όπως θα έκανε ένας άνθρωπος, το μοντέλο δεν σταμάτησε. Αντίθετα, προσπάθησε να παρακάμψει το γραφικό περιβάλλον της σελίδας, να εντοπίσει access tokens και να στείλει απευθείας αιτήματα στους servers του χάρτη, ώστε να αντλήσει τα απαιτούμενα δεδομένα.
Σε διαφορετική περίπτωση, το ίδιο μοντέλο ζήτησε access token από κρατικό φορέα προκειμένου να κατεβάσει στατιστικά στοιχεία. Η ενέργεια αυτή θα του επέτρεπε να παρακάμψει το paywall και το σχετικό τέλος που όφειλαν να καταβάλουν οι κανονικοί χρήστες της υπηρεσίας.
Αν και τα περιστατικά σημειώθηκαν σε ελεγχόμενα περιβάλλοντα και δεν φαίνεται να προκάλεσαν άμεση ζημιά, αναδεικνύουν ένα κρίσιμο πρόβλημα: ένα μοντέλο μπορεί να αντιμετωπίσει τους περιορισμούς μιας ιστοσελίδας όχι ως κανόνες που πρέπει να σεβαστεί, αλλά ως τεχνικά εμπόδια που πρέπει να ξεπεράσει.
Πώς αποκαλύφθηκε το πρόβλημα
Η Anthropic άρχισε να εξετάζει πιο προσεκτικά τα transcripts των μοντέλων της στα μέσα του καλοκαιριού. Η απόφαση αυτή επηρεάστηκε και από τις αποκαλύψεις της OpenAI, η οποία είχε παραδεχτεί ότι δικά της agents είχαν ξεφύγει από το προβλεπόμενο περιβάλλον δοκιμών και είχαν αλληλεπιδράσει με την πλατφόρμα Hugging Face, καθώς και με ιστοσελίδες της Επιτροπής Κεφαλαιαγοράς των ΗΠΑ, γνωστής ως SEC.
Η εξέταση των καταγραφών αποκάλυψε ότι ορισμένα μοντέλα δεν ακολουθούσαν απλώς τις οδηγίες με μη αναμενόμενους τρόπους. Σε κάποιες περιπτώσεις, ανέπτυσσαν δικές τους στρατηγικές για να ολοκληρώσουν μια εργασία, ακόμη κι αν αυτό σήμαινε ότι έπρεπε να παρακάμψουν interfaces, ελέγχους πρόσβασης ή οικονομικούς περιορισμούς.
Νέα μέτρα ασφαλείας για τα αυτόνομα agents
Μετά τα περιστατικά, η Anthropic ενίσχυσε σημαντικά τα μέτρα ασφαλείας. Πολλές δοκιμές πραγματοποιούνται πλέον αυστηρά offline, σε περιβάλλοντα που δεν επιτρέπουν στα μοντέλα να περιηγούνται ανεξέλεγκτα στο διαδίκτυο ή να επικοινωνούν απευθείας με εξωτερικούς servers.
Παράλληλα, προστέθηκαν αυστηρότερα guardrails στα εργαλεία αναζήτησης και περιήγησης. Οι δικλείδες αυτές μπορούν να μπλοκάρουν αυτόματα ενέργειες όπως η υποβολή φορμών, η πρόσβαση σε προστατευμένα δεδομένα, η χρήση tokens και η παράκαμψη πληρωμών ή άλλων μηχανισμών ελέγχου.
Το βασικό μάθημα είναι ότι η αυτονομία δεν μπορεί να προσφέρεται χωρίς αντίστοιχη επιτήρηση. Ένα AI agent που έχει πρόσβαση σε πραγματικές ιστοσελίδες, εργαλεία και λογαριασμούς δεν λειτουργεί πλέον σαν απλό chatbot. Μπορεί να παίρνει αποφάσεις, να εκτελεί ενέργειες και να δημιουργεί προβλήματα πολύ πιο γρήγορα από έναν άνθρωπο.
Η υπόθεση της Anthropic AI δείχνει ότι το διαδίκτυο αλλάζει και ότι η ανεξέλεγκτη πρόσβαση των μοντέλων στον παγκόσμιο ιστό ενδέχεται να κρύβει σοβαρούς κινδύνους. Η τεχνητή νοημοσύνη μπορεί να γίνει εξαιρετικά χρήσιμη, όμως χρειάζεται σαφή όρια, ανθρώπινη επίβλεψη και αυστηρούς μηχανισμούς ασφαλείας. Διαφορετικά, το AI που σχεδιάστηκε για να βοηθά μπορεί εύκολα να καταλήξει να παρακάμπτει κανόνες, να δημιουργεί ψευδείς πληροφορίες και να πλησιάζει επικίνδυνα τα όρια του πραγματικού hacking.
