Τα AI Overviews παραπέμπουν συχνότερα στο YouTube για θέματα υγείας, εγείροντας ζητήματα αξιοπιστίας
Ως η συχνότερα αναφερόμενη πηγή στις απαντήσεις των AI Overviews της Google σε θέματα υγείας, αναδείχθηκε το YouTube – ξεπερνώντας νοσοκομεία, κρατικές υγειονομικές αρχές και επιστημονικά ιδρύματα.
Το YouTube στην κορυφή των «ιατρικών» παραπομπών
Η έρευνα έδειξε ότι το YouTube αντιστοιχεί στο 4,43% όλων των παραπομπών που χρησιμοποιούν τα AI Overviews για να απαντήσουν σε ερωτήματα υγείας – ποσοστό υψηλότερο από οποιονδήποτε ιατρικό οργανισμό. Συνολικά, καταγράφηκαν 20.621 αναφορές στην πλατφόρμα βίντεο, η οποία ανήκει στην ίδια τη Google.
Ακολούθησαν, ο ιστότοπος του γερμανικού δημόσιου ραδιοτηλεοπτικού φορέα NDR.de (3,04%), το ιατρικό εγχειρίδιο MSD Manuals (2,08%) και το καταναλωτικό portal υγείας Netdoktor.de (1,61%).
Οι ερευνητές επισημαίνουν ότι, σε αντίθεση με έναν ιατρικό οργανισμό, το YouTube δεν είναι εκδότης υγειονομικού περιεχομένου, καθώς επιτρέπει σε οποιονδήποτε να ανεβάζει βίντεο – από πιστοποιημένους γιατρούς έως influencers χωρίς ιατρική κατάρτιση.
«Δομικός κίνδυνος για τη δημόσια υγεία»
Η Hannah van Kolfschooten, ερευνήτρια στο Πανεπιστήμιο της Βασιλείας με ειδίκευση στη σχέση AI, υγείας και δικαίου, χαρακτηρίζει τα ευρήματα ιδιαίτερα ανησυχητικά. Όπως τονίζει, η μελέτη δείχνει ότι οι κίνδυνοι δεν είναι μεμονωμένα λάθη, αλλά ενσωματωμένοι στον τρόπο λειτουργίας των AI Overviews.
«Η υπερβολική εξάρτηση από το YouTube δείχνει ότι τα views προηγούνται της ιατρικής αξιοπιστίας», σημειώνει, προσθέτοντας ότι κάτι τέτοιο μπορεί να θέσει σε κίνδυνο τη δημόσια υγεία.
Η απάντηση της Google
Από την πλευρά της, η Google απορρίπτει την κριτική, υποστηρίζοντας ότι τα AI Overviews έχουν σχεδιαστεί ώστε να αναδεικνύουν υψηλής ποιότητας και αξιόπιστο περιεχόμενο, ανεξαρτήτως μορφής. Εκπρόσωπος της εταιρείας ανέφερε ότι μεγάλο μέρος των βίντεο που παραπέμπονται προέρχονται από νοσοκομεία, κλινικές και πιστοποιημένους επαγγελματίες υγείας.
Ωστόσο, οι ερευνητές διευκρινίζουν ότι τα «αξιόπιστα» αυτά βίντεο αποτελούν λιγότερο από το 1% του συνολικού αριθμού των παραπομπών στο YouTube, αφήνοντας ανοιχτό το ενδεχόμενο οι υπόλοιπες πηγές να μην πληρούν τα ίδια κριτήρια αξιοπιστίας.
Έρευνα σε αυστηρά ρυθμισμένο περιβάλλον
Η επιλογή της Γερμανίας δεν ήταν τυχαία, καθώς πρόκειται για χώρα με ιδιαίτερα αυστηρό ρυθμιστικό πλαίσιο στον τομέα της υγείας. Όπως σημειώνουν οι ερευνητές, αν ακόμη και σε αυτό το περιβάλλον τα συστήματα τεχνητής νοημοσύνης βασίζονται σε μη ιατρικές πηγές, τότε το πρόβλημα ενδέχεται να είναι παγκόσμιο.
Τα ευρήματα έρχονται να προστεθούν σε προηγούμενη έρευνα της Guardian, σύμφωνα με την οποία λανθασμένες πληροφορίες σε AI Overviews θα μπορούσαν να οδηγήσουν ασθενείς σε επικίνδυνα συμπεράσματα για την υγεία τους.
