Εκατοντάδες λογαριασμοί στο TikTok συγκεντρώνουν δισεκατομμύρια προβολές χάρη σε περιεχόμενο που δημιουργούν με εργαλεία τεχνητής νοημοσύνης— συχνά αντιμεταναστευτικό ή σεξουαλικοποιημένο — σύμφωνα με νέα έκθεση της AI Forensics, μιας μη κερδοσκοπικής οργάνωσης με έδρα το Παρίσι. Οι ερευνητές της οργάνωσης εντόπισαν 354 λογαριασμούς, οι οποίοι είχαν κάνει συνολικά 43.000 αναρτήσεις που είχαν παραχθεί με εργαλεία γενετικής τεχνητής νοημοσύνης και είχαν συγκεντρώσει 4,5 δισ. προβολές σε διάστημα ενός μήνα.
Σύμφωνα με την AI Forensics, ορισμένοι από αυτούς τους λογαριασμούς προσπαθούν να χειραγωγήσουν τον αλγόριθμο του TikTok δημοσιεύοντας μαζικά περιεχόμενο με την ελπίδα κάποια ανάρτησή τους να γίνει viral. Για παράδειγμα, ένας λογαριασμός έκανε έως και 70 δημοσιεύσεις την ημέρα ή πάντα την ίδια ώρα, ένδειξη αυτοματοποιημένης λειτουργίας. Σύμφωνα με την έκθεση, οι περισσότεροι λογαριασμοί δημιουργήθηκαν στις αρχές του έτους.
Τον περασμένο μήνα, το TikTok αποκάλυψε ότι υπήρχαν τουλάχιστον 1,3 δισ. αναρτήσεις που είχαν δημιουργηθεί με τεχνητή νοημοσύνη στην πλατφόρμα. Κάθε μέρα αναρτώνται στην πλατφόρμα περισσότερα από 100 εκατομμύρια κομμάτια περιεχομένου, γεγονός που δείχνει ότι το επισημασμένο υλικό αποτελεί μόνο ένα μικρό μέρος του TikTok. Η πλατφόρμα επιτρέπει πλέον στους χρήστες να περιορίσουν την προβολή περιεχομένου που έχει δημιουργηθεί με τεχνητή νοημοσύνη στη ροή τους. Από τους λογαριασμούς που δημοσίευαν περιεχόμενο πιο συχνά, οι μισοί εστίαζαν στο γυναικείο σώμα.
Η AI Forensics διαπίστωσε ότι οι λογαριασμοί δεν επισημαίνουν το μισό από το περιεχόμενό τους, ενώ λιγότερο από το 2% έφερε την επίσημη ετικέτα ΤΝ του TikTok — κάτι που, σύμφωνα με τη ΜΚΟ, ενισχύει τον κίνδυνο παραπλάνησης. Οι ερευνητές πρόσθεσαν ότι οι λογαριασμοί αυτοί συχνά δεν εντοπίζονται από τους ελεγκτικούς μηχανισμούς του TikTok για μήνες, παρότι δημοσιεύουν περιεχόμενο που παραβιάζει τους όρους χρήσης της πλατφόρμας. Δεκάδες από τους λογαριασμούς που εντόπισε η μελέτη έχουν πλέον διαγραφεί, με ορισμένους να έχουν αφαιρεθεί από τους διαχειριστές του TikTok.
Μέρος του περιεχομένου εμφανιζόταν ως ψεύτικα δελτία ειδήσεων με αντιμεταναστευτικές αφηγήσεις, καθώς και ως σεξουαλικοποιημένες απεικονίσεις του γυναικείου σώματος — ακόμη και κοριτσιών που φαίνονταν να είναι ανήλικα. Οι μισοί από τους δέκα πιο ενεργούς λογαριασμούς δημοσίευαν περιεχόμενο που εστίαζε στο γυναικείο σώμα, ενώ ορισμένα από τα παραποιημένα δελτία ειδήσεων έφεραν ακόμη και λογότυπα γνωστών ΜΜΕ, όπως το Sky News και το ABC.
Το TikTok δήλωσε ότι οι ισχυρισμοί της έκθεσης είναι «αβάσιμοι» και ότι οι ερευνητές στοχοποίησαν την πλατφόρμα για ένα ζήτημα που επηρεάζει πολλά κοινωνικά δίκτυα. Τον Αύγουστο, ο Guardian είχε αποκαλύψει ότι σχεδόν 1 στα 10 κανάλια με τη γρηγορότερη ανάπτυξη στο YouTube παγκοσμίως ανέβαζαν αποκλειστικά περιεχόμενο που είχε δημιουργηθεί με εργαλεία τεχνητής νοημοσύνης.
«Στο TikTok αφαιρούμε επιβλαβές περιεχόμενο που παράγεται από τεχνητή νοημοσύνη, μπλοκάρουμε εκατοντάδες εκατομμύρια ψεύτικους λογαριασμούς (bots), επενδύουμε σε κορυφαίες τεχνολογίες επισήμανσης ΤΝ και προσφέρουμε εργαλεία που επιτρέπουν στους χρήστες να ελέγχουν την εμπειρία τους», δήλωσε εκπρόσωπος του TikTok.
Οι πιο δημοφιλείς λογαριασμοί που εντόπισε η AI Forensics, με βάση τον αριθμό προβολών, δημοσίευαν «slop» — περιεχόμενο παραγόμενο από ΤΝ, παράλογο ή αλλόκοτο, σχεδιασμένο να κατακλύζει τις ροές των χρηστών. Ορισμένα χαρακτηριστικά παραδείγματα είναι ζώα που συμμετέχουν σε διαγωνισμούς καταδύσεων ή μωρά που μιλούν. Οι ερευνητές είπαν ότι κάποια από αυτά είναι «διασκεδαστικά» και «χαριτωμένα».
Οι οδηγίες του TikTok απαγορεύουν τη χρήση ΤΝ για δημιουργία ψεύτικων έγκυρων πηγών ενημέρωσης και την απεικόνιση ανήλικων ή ενηλίκων χωρίς τη συγκατάθεσή τους.
«Η έρευνα για τους αυτοματοποιημένους λογαριασμούς δείχνει πώς το περιεχόμενο ΤΝ έχει ενσωματωθεί πλέον στην πλατφόρμα και στο ευρύτερο οικοσύστημα viral περιεχομένου», δήλωσαν οι ερευνητές.
Οι ερευνητές ανέλυσαν δεδομένα από τα μέσα Αυγούστου έως τα μέσα Σεπτεμβρίου. Μέρος του περιεχομένου στόχευε άμεσα στην οικονομική εκμετάλλευση των χρηστών, είτε μέσω προώθησης συμπληρωμάτων υγείας από ψεύτικους influencers, είτε μέσω διαφήμισης εργαλείων δημιουργίας viral περιεχομένου που έχει δημιουργηθεί με ΤΝ, είτε μέσω αναζήτησης χορηγιών.
Η AI Forensics, που έχει επίσης αναδείξει την εξάπλωση περιεχομένου ΤΝ στο Instagram, χαιρετίζει την απόφαση του TikTok να επιτρέπει στους χρήστες να περιορίζουν την έκθεσή τους σε τέτοιο υλικό — επισημαίνει όμως ότι η σήμανση ΤΝ περιεχομένου χρειάζεται σημαντική βελτίωση.
«Δεδομένης της σημαντικής αποτυχίας εντοπισμού αυτού του περιεχομένου, παραμένουμε επιφυλακτικοί σχετικά με την αποτελεσματικότητα του νέου εργαλείου», ανέφεραν.
Οι ερευνητές πρόσθεσαν ότι το TikTok θα πρέπει να εξετάσει τη δημιουργία ξεχωριστής ενότητας αποκλειστικά για περιεχόμενο ΤΝ, ώστε να διακρίνεται σαφώς από το υλικό που δημιουργείται από ανθρώπους.
Διαβάστε επίσης: Γέμισε το TikTok με ψεύτικα AI βίντεο που δείχνουν ηλικιωμένους να «συλλαμβάνονται» από στελέχη της ΕΛ.ΑΣ.
ΠΗΓΗ: Guardian
