Τους κινδύνους που μπορεί να προκύψουν όταν οι αυτόνομοι ψηφιακοί βοηθοί αποκτούν πρόσβαση σε προσωπικά δεδομένα αναδεικνύει περιστατικό που περιγράφει το Associated Press. Ένας χρήστης ανέθεσε στον AI agent Muse της Meta να διαχειριστεί την αγγελία του για την πώληση ενός πληκτρολογίου και διαπίστωσε ότι ο βοηθός είχε συμφωνήσει με αγοραστή, κοινοποιήσει τη διεύθυνση του σπιτιού του και απαντήσει αυτόματα όταν εκείνος έφτασε — χωρίς προηγούμενη ενημέρωσή του.
Ο Ματ Ρομπ, δημιουργός περιεχομένου με έδρα το Τορόντο, είχε δώσει στον Muse άδεια πρόσβασης στο προφίλ του στο Facebook Marketplace. Όπως είπε, πίστευε ότι ο βοηθός θα ζητούσε την έγκρισή του πριν αποδεχτεί προσφορά ή κοινοποιήσει προσωπικά στοιχεία. Η Meta αναγνώρισε επίσης σφάλμα στην προσπάθεια του agent να διαχειριστεί άλλη αγγελία, όταν φάνηκε να προτείνει χαμηλότερη τιμή από το ελάχιστο ποσό που είχε ορίσει ο πωλητής.
Η ευκολία απαιτεί πρόσβαση σε περισσότερα δεδομένα
Σε αντίθεση με τα συνηθισμένα chatbots, οι AI agents μπορούν να εκτελούν ενέργειες σε εφαρμογές και υπηρεσίες, όπως να διαχειρίζονται μηνύματα ή να κλείνουν κρατήσεις. Για να λειτουργούν πιο αποτελεσματικά, χρειάζονται πρόσβαση σε πληροφορίες για τον χρήστη και τις προτιμήσεις του — κάτι που αυξάνει τα ερωτήματα για το πόσα δεδομένα συλλέγονται και πώς χρησιμοποιούνται.
Ειδικοί που μίλησαν στο AP επισημαίνουν ότι, ακόμη κι αν ο χρήστης ανακαλέσει αργότερα την πρόσβαση, τα δεδομένα που έχει ήδη δει ο agent δεν μπορούν να «ξεγίνουν». Παράλληλα, η πρόσβαση σε ηλεκτρονικά μηνύματα ή συνομιλίες μπορεί να περιλαμβάνει πληροφορίες που αφορούν και φίλους, συγγενείς ή συναδέλφους, χωρίς εκείνοι να έχουν επιλέξει να τις μοιραστούν με ένα σύστημα Τεχνητής Νοημοσύνης.
Έλεγχοι και όρια στην πρόσβαση
Η Meta και η OpenAI διαθέτουν ρυθμίσεις για τη διαχείριση των δεδομένων και των δικαιωμάτων πρόσβασης. Η OpenAI, σύμφωνα με το δημοσίευμα, επιτρέπει στους χρήστες να ζητήσουν πρόσβαση, διαγραφή ή διόρθωση προσωπικών πληροφοριών, ενώ η Meta παρέχει επιλογές διαγραφής του ιστορικού του Muse. Οι εταιρείες αναφέρουν επίσης ότι οι agents μπορεί να κάνουν λάθη ή να ενεργήσουν απρόσμενα.
Η Apple ανακοίνωσε ότι θα προσθέσει νέους ελέγχους στο λειτουργικό σύστημα Mac, καθώς οι AI agents αποκτούν ευρύτερη πρόσβαση σε εφαρμογές, μηνύματα και ιστορικό περιήγησης. Ο Ρομπ περιόρισε στη συνέχεια τη σύνδεση του Muse με τους λογαριασμούς του, αν και δήλωσε ότι θα μπορούσε να ξαναδοκιμάσει την τεχνολογία στο μέλλον.
