Η Mind, μια φιλανθρωπική οργάνωση ψυχικής υγείας, που δραστηριοποιείται στην Αγγλία και την Ουαλία, ξεκίνησε έρευνα σχετικά με την τεχνητή νοημοσύνη (ΤΝ) και τις επιπτώσεις της στην ψυχική υγεία, μετά από αποκάλυψη του Guardian ότι τα AI Overviews της Google παρείχαν στους ανθρώπους «πολύ επικίνδυνες» ιατρικές συμβουλές.
Στο πλαίσιο της έρευνας, μια επιτροπή θα εξετάσει τους κινδύνους και τα μέτρα προστασίας που απαιτούνται καθώς η τεχνητή νοημοσύνη επηρεάζει ολοένα και περισσότερο τη ζωή εκατομμυρίων ανθρώπων που αντιμετωπίζουν προβλήματα ψυχικής υγείας. Στην έρευνα θα συμμετέχουν κορυφαίοι γιατροί και επαγγελματίες ψυχικής υγείας, ασθενείς, φορείς υγείας, πολιτικοί και τεχνολογικές εταιρείες. Η Mind ανέφερε ότι στόχος της είναι η δημιουργία ενός ασφαλέστερου ψηφιακού οικοσυστήματος ψυχικής υγείας, με αυστηρούς κανονισμούς, πρότυπα και μέτρα προστασίας.
Η ανακοίνωση έρχεται μετά την αποκάλυψη του Guardian ότι οι χρήστες εκτίθενται σε ψευδείς και παραπλανητικές πληροφορίες υγείας στα AI Overviews της Google. Οι περιλήψεις εμφανίζονται σε 2 δισεκατομμύρια χρήστες μηνιαίως και εμφανίζονται πάνω από τα παραδοσιακά αποτελέσματα αναζήτησης στην πιο επισκέψιμη ιστοσελίδα του κόσμου.
Μετά την αναφορά, η Google αφαίρεσε ορισμένες περιλήψεις, αλλά όχι για όλες τις ιατρικές αναζητήσεις. Η Δρ. Σάρα Χιούζ, διευθύνουσα σύμβουλος της Mind, δήλωσε ότι οι χρήστες εξακολουθούν να λαμβάνουν «επικίνδυνα λανθασμένες» συμβουλές για την ψυχική υγεία. Στις χειρότερες περιπτώσεις, οι ψευδείς πληροφορίες θα μπορούσαν να θέσουν σε κίνδυνο ζωές, ανέφερε.
«Πιστεύουμε ότι η τεχνητή νοημοσύνη έχει τεράστια δυναμική να βελτιώσει τη ζωή των ανθρώπων με προβλήματα ψυχικής υγείας, να διευρύνει την πρόσβαση σε υποστήριξη και να ενισχύσει τις δημόσιες υπηρεσίες. Αλλά αυτό το δυναμικό θα αξιοποιηθεί πλήρως μόνο εάν αναπτυχθεί και χρησιμοποιηθεί υπεύθυνα, με κατάλληλα μέτρα προστασίας», δήλωσε η Χιούζ.
«Θέλουμε να διασφαλίσουμε ότι η καινοτομία δεν θα γίνεται εις βάρος της ευημερίας των ανθρώπων και ότι εμείς που έχουμε προσωπική εμπειρία προβλημάτων ψυχικής υγείας θα βρισκόμαστε στο επίκεντρο του σχεδιασμού του μέλλοντος της ψηφιακής υποστήριξης» σημείωσε.
Η Google δήλωσε ότι τα AI Overviews, που χρησιμοποιούν γενετική τεχνητή νοημοσύνη για να παρέχουν σύντομες πληροφορίες για ένα θέμα ή ερώτηση, είναι «χρήσιμα» και «αξιόπιστα». Ωστόσο, ο Guardian διαπίστωσε ότι κάποια AI Overviews παρείχαν ανακριβείς πληροφορίες υγείας και έθεταν τους ανθρώπους σε κίνδυνο. Η έρευνα αποκάλυψε ψευδείς και παραπλανητικές ιατρικές συμβουλές σε θέματα όπως ο καρκίνος, οι ηπατικές παθήσεις, η γυναικεία υγεία και οι ψυχικές ασθένειες.
Οι ειδικοί ανέφεραν ότι κάποια AI Overviews για καταστάσεις όπως η ψύχωση και οι διατροφικές διαταραχές προσέφεραν «πολύ επικίνδυνες συμβουλές» που ήταν «λανθασμένες, βλαβερές ή θα μπορούσαν να αποτρέψουν τους ανθρώπους από το να ζητήσουν βοήθεια».
Η Google επίσης υποβάθμισε τις προειδοποιήσεις ασφαλείας ότι οι ιατρικές συμβουλές που παράγει η ΤΝ μπορεί να είναι λανθασμένες, διαπίστωσε ο Guardian.
Η επιτροπή, η οποία θα λειτουργήσει για ένα έτος, θα συλλέξει στοιχεία σχετικά με τη σχέση μεταξύ της τεχνητής νοημοσύνης και της ψυχικής υγείας και θα προσφέρει έναν «ανοιχτό χώρο» όπου η εμπειρία των ατόμων με ψυχικές διαταραχές θα «γίνεται ορατή, θα καταγράφεται και θα γίνεται κατανοητή».
Η Ρόζι Γουέδερλι, υπεύθυνη περιεχομένου πληροφόρησης στη Mind, δήλωσε ότι, αν και η αναζήτηση πληροφοριών για την ψυχική υγεία μέσω Google «δεν ήταν τέλεια» πριν από τα AI Overviews, συνήθως λειτουργούσε καλά.
«Οι χρήστες είχαν υψηλές πιθανότητες να επισκεφθούν έναν αξιόπιστο ιστότοπο υγείας που απαντούσε στην ερώτησή τους και, στη συνέχεια, να εμβαθύνουν περαιτέρω, αποκτώντας πρόσβαση σε λεπτομέρειες, προσωπικές εμπειρίες, μελέτες περιπτώσεων, κοινωνικό πλαίσιο και επιπλέον υποστήριξη», επισήμανε η Γουέδερλι.
Τα «AI Overviews» αντικατέστησαν αυτόν τον πλούτο με μια περίληψη που φαίνεται επιστημονική. Προσφέρουν στους χρήστες σύντομες περιλήψεις, αλλά δεν παρέχουν πληροφορίες για τις πηγές ούτε για το πόσο αξιόπιστες είναι. Είναι μια πολύ δελεαστική αλλαγή, αλλά ανεύθυνη» δήλωσε.
Εκπρόσωπος της Google δήλωσε: «Επενδύουμε σημαντικά στην ποιότητα των AI Overviews, ιδιαίτερα σε θέματα όπως η υγεία, και η συντριπτική πλειονότητα παρέχει ακριβείς πληροφορίες. Για ερωτήματα όπου τα συστήματά μας εντοπίζουν ότι ένα άτομο ενδέχεται να βρίσκεται σε κατάσταση ανάγκης, προσπαθούμε να εμφανίζουμε σχετικές τοπικές γραμμές βοήθειας για κρίσεις. Χωρίς να έχουμε τη δυνατότητα να εξετάσουμε τα παραδείγματα που αναφέρονται, δεν μπορούμε να σχολιάσουμε την ακρίβειά τους».
