Σημαντικές αποκαλύψεις για τη συστηματική χρήση παραγωγικής Τεχνητής Νοημοσύνης (GenAI) στην παραχάραξη επιστημονικής παραγωγής φέρνει στο φως νέα έρευνα του καθηγητή Διομήδη Σπινέλλη από το Οικονομικό Πανεπιστήμιο Αθηνών. Η μελέτη, με τίτλο «False authorship: an explorative case study around an AI-generated article published under my name» και δημοσιευμένη στο περιοδικό Research Integrity and Peer Review, εστιάζει σε σειρά παραπλανητικών δημοσιεύσεων που εμφανίζονταν ως επιστημονικά άρθρα, ενώ είχαν δημιουργηθεί από συστήματα τεχνητής νοημοσύνης και αποδίδονταν ψευδώς σε ανυποψίαστους επιστήμονες. Η αφορμή για την έρευνα ήταν ένα σοβαρό περιστατικό του 2024, όταν ένα εξ ολοκλήρου κατασκευασμένο άρθρο δημοσιεύθηκε υπό το όνομα του κ. Σπινέλλη, χωρίς ο ίδιος να έχει καμία σχέση με τη συγγραφή του. Το συμβάν αποκάλυψε τη σκοτεινή πλευρά των ευκολιών που προσφέρει η GenAI, και πυροδότησε μία εις βάθος έρευνα στο σύνολο των άρθρων του εμπλεκόμενου περιοδικού.
Σύμφωνα με τα ευρήματα της μελέτης, από τα 53 άρθρα με τις λιγότερες βιβλιογραφικές παραπομπές, τα 48 παρουσιάζουν ενδείξεις δημιουργίας μέσω ΤΝ. Πολλά εξ αυτών αποδίδονταν σε ανύπαρκτους ή ψευδώς ταυτοποιημένους συγγραφείς, με ονόματα ερευνητών που φέρονται να προέρχονται από καταξιωμένα ιδρύματα, όπως τα University of California at Berkeley, Penn State και HEC Montreal. Μάλιστα, δύο περιπτώσεις συγγραφών αφορούσαν άτομα που είχαν αποβιώσει πριν τη δημοσίευση των εν λόγω άρθρων.
Η έρευνα βασίστηκε σε αυτοματοποιημένα εργαλεία για τη συλλογή και ανάλυση των δεδομένων, χρησιμοποιώντας ένα ευρετικό μοντέλο που εστίασε στον χαμηλό αριθμό βιβλιογραφικών αναφορών — ένα χαρακτηριστικό που συχνά εντοπίζεται σε κείμενα παραχθέντα από βοηθούς όπως το ChatGPT. Παράλληλα, χρησιμοποιήθηκε και το εργαλείο Turnitin για την ανίχνευση τεχνητής συγγραφής, ενώ επιπρόσθετα πραγματοποιήθηκε και χειροκίνητος έλεγχος σε επιλεγμένα δείγματα. Η μελέτη υπογραμμίζει τον επείγοντα χαρακτήρα της θέσπισης μέτρων ασφαλείας στην ακαδημαϊκή έκδοση, προτείνοντας αυστηρότερη ταυτοποίηση συγγραφέων, αλλά και αναθεώρηση των κριτηρίων αξιολόγησης της επιστημονικής παραγωγής. Όπως καταλήγει: «Χωρίς ουσιαστικά αντίμετρα, η ανεξέλεγκτη εξάπλωση δημοσιεύσεων ΤΝ ενδέχεται να υπονομεύσει σοβαρά την εμπιστοσύνη στην επιστημονική κοινότητα».