H Τεχνητή Νοημοσύνη ενδέχεται να φέρει επανάσταση στον τρόπο με τον οποίο αξιολογούνται οι επιστημονικές δημοσιεύσεις. Ένα πρωτοποριακό μοντέλο κατάφερε να εντοπίσει πάνω από 250.000 ύποπτες μελέτες για τον καρκίνο, πολλές εκ των οποίων φέρουν χαρακτηριστικά που παραπέμπουν σε παραγωγή από λεγόμενα «paper mills».

Τα paper mills είναι εταιρείες που ειδικεύονται στην παραγωγή κατά παραγγελία  επιστημονικών άρθρων, πολλές φορές με κατασκευασμένα δεδομένα ή χαμηλής ποιότητας περιεχόμενο. Το περιεχόμενο αυτό στη συνέχεια υποβάλλεται για δημοσίευση σε επιστημονικά περιοδικά.

Το φαινόμενο έχει λάβει διαστάσεις ανησυχητικές, ιδίως στον χώρο της ογκολογίας, όπου η αξιοπιστία της έρευνας έχει κρίσιμες επιπτώσεις για την κλινική πράξη.

Τεχνητή Νοημοσύνη: Το εργαλείο και η μέθοδος

Η μελέτη, που δημοσιεύτηκε στο περιοδικό The BMJ, βασίζεται στη δουλειά διεθνούς ομάδας επιστημόνων με επικεφαλής τον καθηγητή Άντριαν Μπαρνέτ του Πανεπιστημίου Τεχνολογίας του Κουίνσλαντ.

Οι ερευνητές χρησιμοποίησαν ένα γλωσσικό μοντέλο μηχανικής μάθησης (BERT), εκπαιδευμένο να ανιχνεύει συγκεκριμένα «γλωσσικά αποτυπώματα» που συναντώνται συχνά σε ανακληθέντα άρθρα.

Το μοντέλο τεχνητής νοημοσύνης δοκιμάστηκε σε ένα σύνολο δημοσιεύσεων που είχαν ήδη χαρακτηριστεί ύποπτες ή έχουν ανακληθεί για παραβιάσεις ερευνητικής ακεραιότητας, και πέτυχε ακρίβεια 91% στον εντοπισμό των υπόπτων περιπτώσεων.

Στη συνέχεια, εφαρμόστηκε σε ένα τεράστιο σύνολο 2,6 εκατομμυρίων δημοσιεύσεων για τον καρκίνο από το 1999 έως το 2024. Τα αποτελέσματα ήταν αποκαλυπτικά.  Περισσότερες από 250.000 μελέτες παρουσίασαν παρόμοια μοτίβα γραφής με τις ύποπτες, υποδηλώνοντας πιθανή σύνδεση με paper mills.

Ανησυχητική αύξηση και ευρεία εξάπλωση

Η ανάλυση κατέδειξε ότι το πρόβλημα έχει επιδεινωθεί δραματικά τις τελευταίες δύο δεκαετίες. Ενώ στις αρχές της δεκαετίας του 2000 οι ύποπτες δημοσιεύσεις αντιστοιχούσαν περίπου στο 1% του συνόλου, το ποσοστό αυτό ξεπέρασε το 16% το 2022.

Η τάση αυτή δεν περιορίζεται σε άγνωστα ή περιφερειακά επιστημονικά περιοδικά. Αντίθετα, αφορά και τίτλους υψηλού κύρους από μεγάλους εκδοτικούς οίκους,. Κάτι που καθιστά ακόμη πιο επείγουσα την ανάγκη για μηχανισμούς ανίχνευσης.

Οι τομείς που επηρεάζονται περισσότερο

Το φαινόμενο φαίνεται να επικεντρώνεται κυρίως στη μοριακή βιολογία του καρκίνου και στην εργαστηριακή έρευνα πρώιμου σταδίου. Επιπλέον, παρατηρείται ιδιαίτερα υψηλό ποσοστό ύποπτων μελετών, που εντόπισε η τεχνητή νοημοσύνη σε τύπους καρκίνου όπως:

• Καρκίνος στομάχου
• Ηπατοκυτταρικός καρκίνος
• Καρκίνος οστών
• Καρκίνος πνεύμονα

Πιλοτική εφαρμογή του μοντέλου τεχνητής νοημοσύνης και επόμενα βήματα

Τρία επιστημονικά περιοδικά έχουν ήδη αρχίσει να χρησιμοποιούν πιλοτικά το εργαλείο τεχνητής νοημοσύνης στο προκαταρκτικό στάδιο της συντακτικής αξιολόγησης, πριν αποσταλούν τα άρθρα για αξιολόγηση από ομότιμους κριτές (peer review). Το ζητούμενο είναι να εντοπίζονται νωρίς πιθανές κατασκευασμένες εργασίες, ώστε να αποφεύγεται η διάδοσή τους στη βιβλιογραφία.

Στόχος της ομάδας είναι να επεκταθεί η χρήση του εργαλείου και σε άλλους επιστημονικούς τομείς, όπως η βιοϊατρική και η φαρμακευτική έρευνα, και να βελτιώνεται διαρκώς το μοντέλο καθώς θα προστίθενται νέα δεδομένα από επαληθευμένα περιστατικά.

Παρόλο που τα ευρήματα προκαλούν εύλογες ανησυχίες, οι συγγραφείς της μελέτης διευκρινίζουν ότι ο εντοπισμός από το εργαλείο τεχνητής νοημοσύνης δεν αποτελεί τελική απόδειξη απάτης. Οι ύποπτες εργασίες θα πρέπει να εξετάζονται από ειδικούς επιστήμονες, ώστε να επιβεβαιωθεί αν πρόκειται πράγματι για κατασκευασμένες μελέτες ή για αθώες δημοσιεύσεις που απλώς φέρουν παρόμοια χαρακτηριστικά.