Η OpenAI παρουσίασε ένα νέο μοντέλο τεχνητής νοημοσύνης, το οποίο χαρακτηρίζει ως το πιο προηγμένο που έχει αναπτύξει μέχρι σήμερα, προειδοποιώντας ωστόσο ότι σε ορισμένες περιπτώσεις μπορεί να επιχειρεί να αποφεύγει την ανθρώπινη παρακολούθηση.
Η ανακοίνωση έρχεται σε μια περίοδο κατά την οποία η εταιρεία βρίσκεται υπό αυξημένο έλεγχο, μετά τα περιστατικά στα οποία πράκτορες τεχνητής νοημοσύνης της κατάφεραν να ξεφύγουν από ένα ασφαλές περιβάλλον δοκιμών και να αποκτήσουν πρόσβαση στα συστήματα της πλατφόρμας ανοικτού κώδικα Hugging Face, επιχειρώντας παράλληλα να αποκρύψουν τα ίχνη τους.
Το περιστατικό έχει προκαλέσει έντονο προβληματισμό για τις παραμέτρους ασφαλείας των λεγόμενων «πρακτόρων τεχνητής νοημοσύνης», καθώς αντίστοιχα περιστατικά έχουν καταγραφεί και σε δοκιμές μοντέλων της ανταγωνίστριας Anthropic, την ώρα που οι εταιρείες τεχνολογίας ανταγωνίζονται για την ανάπτυξη ολοένα πιο ισχυρών συστημάτων.
Το νέο μοντέλο GPT-6 Astra
Η OpenAI ονομάζει το νέο μοντέλο GPT-6 Astra, το οποίο ακολουθεί την κυκλοφορία του GPT-5.6 Sol τον Ιούλιο. Σύμφωνα με την εταιρεία, το Astra είναι ταχύτερο και μπορεί να εκτελεί περισσότερες και πιο σύνθετες εργασίες από κάθε προηγούμενη έκδοση.
Μεταξύ των δυνατοτήτων του περιλαμβάνονται η προετοιμασία φορολογικών δηλώσεων, η ανάπτυξη παιχνιδιών, η δημιουργία αρχιτεκτονικών απεικονίσεων, η μορφοποίηση νομικών υπομνημάτων και η αναζήτηση διαμερισμάτων.
«Το Astra σηματοδοτεί ένα νέο όριο στην ταχύτητα, την ακρίβεια και την ασφάλεια της χρήσης υπολογιστών», ανέφερε η OpenAI σε ανάρτησή της.
Ο πρόεδρος της εταιρείας, Γκρεγκ Μπρόκμαν, δήλωσε ότι το νέο μοντέλο σηματοδοτεί «μια πραγματική αλλαγή στο είδος της εργασίας που μπορούν να αναθέσουν οι άνθρωποι στην τεχνητή νοημοσύνη και στον τρόπο με τον οποίο αυτή μπορεί να τους ενισχύσει».
Ενδεικτικά, η OpenAI υποστηρίζει ότι το Astra μπορεί να μειώσει σημαντικά τον χρόνο που απαιτείται για συγκεκριμένες εργασίες. Η αναζήτηση για φροντιστή κατοικίδιου, για παράδειγμα, ολοκληρώνεται σε περίπου 5 λεπτά και 27 δευτερόλεπτα, έναντι περίπου 30 λεπτών όταν πραγματοποιείται από άνθρωπο. Αντίστοιχα, για μια αναζήτηση εργασίας απαιτούνται περίπου 2 λεπτά και 51 δευτερόλεπτα, έναντι περίπου 5 ωρών χωρίς τη χρήση του Astra.
Η τεχνητή νοημοσύνη μπορεί να αποκρύπτει τον τρόπο σκέψης της
Παρά τις αυξημένες δυνατότητές του, το Astra δημιουργεί νέες προκλήσεις στον τομέα της ασφάλειας.
Η OpenAI αναφέρει ότι το μοντέλο είναι πιο πιθανό να αποκρύπτει σκόπιμα ή να μεταμφιέζει τα βήματα που ακολουθεί για την επίλυση ενός προβλήματος, δηλαδή τη διαδικασία συλλογισμού του. Αυτό καθιστά δυσκολότερο για τους ανθρώπους να αξιολογήσουν εκ των υστέρων τον τρόπο με τον οποίο κατέληξε σε ένα αποτέλεσμα.
Η εταιρεία διευκρινίζει ότι σε πιο σύνθετα προβλήματα το Astra δεν είναι ακόμη σε θέση να αποκρύπτει με συνέπεια τη διαδικασία που ακολουθεί, ωστόσο παρουσιάζει βελτίωση στην ικανότητά του να καλύπτει τα ίχνη του.
Ο επικεφαλής επιστήμονας της OpenAI, Γιάκουμπ Πατσότσκι, αναγνώρισε ότι όσο αυξάνονται οι δυνατότητες των μοντέλων, τόσο δυσκολότερο γίνεται να παρακολουθούνται αποτελεσματικά.
«Καθώς τα μοντέλα γίνονται πιο ικανά, γίνεται δυσκολότερο να κατανοήσουμε ακριβώς τι μπορούν να κάνουν», ανέφερε, προειδοποιώντας ότι η αύξηση της νοημοσύνης των μοντέλων δεν εγγυάται αντίστοιχη πρόοδο ως προς την ευθυγράμμισή τους με τις ανθρώπινες αξίες.
Αυξάνονται οι προκλήσεις για την παρακολούθηση των πρακτόρων
Η δυνατότητα παρακολούθησης των πρακτόρων τεχνητής νοημοσύνης αποτελεί βασικό στοιχείο της προσπάθειας της OpenAI να καθησυχάσει τις ρυθμιστικές αρχές, τους νομοθέτες και το κοινό μετά τα πρόσφατα περιστατικά ασφαλείας.
Η εταιρεία έχει ανακοινώσει επίσης ότι αναπτύσσει «αυτοματοποιημένες δυνατότητες τερματισμού λειτουργίας» για τα μοντέλα της, ώστε να μπορεί να τα απενεργοποιεί σε περίπτωση που αυτό κριθεί απαραίτητο.
Το Astra μπορεί, σύμφωνα με την OpenAI, να βοηθήσει τις επιχειρήσεις να εντοπίζουν ταχύτερα αδυναμίες στα πληροφοριακά τους συστήματα. Η ίδια δυνατότητα όμως μπορεί να καταστήσει αυτές τις αδυναμίες ευκολότερα εκμεταλλεύσιμες από κακόβουλους παράγοντες.
Για τον λόγο αυτό, η εταιρεία αναφέρει ότι ενδέχεται να χρειαστεί να εφαρμόζει πρόσθετους ελέγχους ασφαλείας, οι οποίοι κάποιες φορές μπορεί να επιβραδύνουν, να διακόπτουν προσωρινά ή ακόμη και να σταματούν νόμιμες εργασίες, συμπεριλαμβανομένων εργασιών στον τομέα της αμυντικής κυβερνοασφάλειας.
Τον περασμένο μήνα, η OpenAI είχε ανακοινώσει ότι «πάγωσε» προσωρινά την ανάπτυξη ορισμένων μοντέλων, εν μέρει προκειμένου να διασφαλίσει ότι αυτά μπορούν να παρακολουθούνται αποτελεσματικά.
Ο Πατσότσκι χαρακτήρισε «πολύ βάσιμο» τον φόβο ότι στο μέλλον μοντέλα τεχνητής νοημοσύνης θα μπορούσαν να αναπτύξουν την ικανότητα να απενεργοποιούν ή να παρακάμπτουν πλήρως τα συστήματα παρακολούθησής τους, προσθέτοντας ότι η OpenAI εργάζεται για την αντιμετώπιση αυτών των προβλημάτων.
Μάχη OpenAI και Anthropic για την αγορά των επιχειρήσεων
Η OpenAI επιχειρεί παράλληλα να ενισχύσει τη θέση της απέναντι στην Anthropic στην αγορά των εταιρικών πελατών, καθώς η ανταγωνίστριά της κερδίζει μερίδιο αγοράς ενόψει της ευρέως αναμενόμενης εισαγωγής της στο χρηματιστήριο αργότερα μέσα στη χρονιά.
Το Astra απευθύνεται σε ένα ευρύ φάσμα επιχειρήσεων, με την OpenAI να ποντάρει στην ταχύτητα και την ευελιξία του νέου μοντέλου.
Το GPT-6 Astra είναι αρχικά διαθέσιμο σε περιορισμένο αριθμό πελατών, ενώ η OpenAI αναμένεται να διευρύνει σταδιακά την πρόσβαση σε περισσότερους χρήστες τις επόμενες ημέρες.
Πηγή Reuters
