Die Open-Access-Fachzeitschrift Frontiers in Cell and Developmental Biology sah sich diese Woche erheblicher Kritik ausgesetzt, nachdem sie einen Artikel veröffentlicht hatte, der verwirrende Bilder enthielt und Säugetierhoden sowie Spermienzellen inkorrekt darstellte. Beobachter stellten fest, dass viele Illustrationen anscheinend von KI generiert wurden und unsinnige Beschreibungen beinhalteten.
Im Anschluss an die Negativresonanz auf der Social-Media-Plattform X erkannte die Zeitschrift die Bedenken an und erklärte: „Wir danken den Lesern für ihre kritische Betrachtung. Die Crowdsourcing-Dynamik der offenen Wissenschaft ermöglicht es, Rückmeldungen aus der Community zu nutzen, um Ungenauigkeiten zu korrigieren.“ Daraufhin wurde der Artikel mit dem Titel „Zelluläre Funktionen von spermatogonialen Stammzellen in Bezug auf den JAK/STAT-Signalweg“ von der Website entfernt, begleitet von einer Rückrufmeldung: „Nach der Veröffentlichung wurden Bedenken hinsichtlich der Natur der KI-generierten Abbildungen geäußert. Der Artikel entspricht nicht den redaktionellen und wissenschaftlichen Standards von Frontiers in Cell and Developmental Biology; daher wurde er mit Genehmigung des Chefredakteurs zurückgezogen.“
Trotz des Rückzugs erlangte ein Medienunternehmen Zugang zu dem ursprünglichen Artikel und veröffentlichte ihn erneut, wobei es die zahlreichen Fehler hervorhob – darunter falsch geschriebene Worte und anatomisch inkorrekte Illustrationen, einschließlich einer Darstellung einer „Ratte“ mit übertriebenem Schambereich.
Kritiker auf X hinterfragten schnell, wie das Papier die Peer-Review-Phase bestanden haben konnte, während die Autoren Xinyu Guo und Dingjun Hao vom Department of Spine Surgery am Hong Hui Hospital sowie Liang Dong als Mitwirkende aufgeführt sind. Das Papier wurde von Binsila B. Krishnan vom National Institute of Animal Nutrition and Physiology in Indien und Jingbo Dai von Northwestern Medicine in den USA geprüft.
Es werden Fragen zum Einsatz von KI in der wissenschaftlichen Forschung und Publikation aufgeworfen. Während KI-Tools wie Googles AlphaFold und GNoME wertvoll für den Fortschritt der Forschung sind, könnte ihr Einsatz in der Publikation die wissenschaftliche Integrität gefährden, insbesondere wenn Forscher auf KI-generierte Bilder zurückgreifen, um den Prozess zu beschleunigen oder unachtsam zu handeln.
Diese Situation verdeutlicht einen besorgniserregenden Trend im akademischen Verlagswesen, bei dem der Druck zur häufigen Veröffentlichung möglicherweise fehlerhafte Arbeiten in den öffentlichen Bereich entlässt. Diese „publish or perish“-Mentalität könnte das Vertrauen in die wissenschaftliche Forschung gefährden, insbesondere in kritischen Bereichen wie Medizin und Biologie.
Mit über 114.000 Zitierungen steht Frontiers in Cell and Developmental Biology nun unter Beobachtung hinsichtlich der Strenge ihres Prüfungsprozesses. Angesichts der Folgen dieses Vorfalls wirft es weitreichende Bedenken hinsichtlich der Zuverlässigkeit anderer von der Zeitschrift veröffentlichter Arbeiten auf und ob KI-unterstützte Illustrationen ähnlich die wissenschaftliche Genauigkeit beeinträchtigt haben.
Die Frontiers-Gruppe, gegründet 2007 von den Neurowissenschaftlern Kamila und Henry Markram, beaufsichtigt über 230 wissenschaftliche Publikationen. Die Zeitschrift strebt eine rigorose, transparente Peer-Review an und setzt KI-Tools für diesen Prozess ein. In einer Pressemitteilung von 2020 erklärte Frontiers, dass der AI Review Assistant (AIRA) eingeführt wurde, um die Manuskriptevaluation durch die Bewertung der Sprachqualität, Bildintegrität und die Erkennung potenzieller Plagiate zu verbessern.
Trotz dieses Engagements zeigt die jüngste Veröffentlichung erhebliche Lücken in der Effektivität von KI-Tools und wirft Fragen zu deren Fähigkeit auf, die Verbreitung ungenauer wissenschaftlicher Informationen zu verhindern. Während ein Medienunternehmen KI für die Bildgenerierung und Textverarbeitung nutzt, werden alle Artikel vor der Veröffentlichung von Menschen geprüft, wodurch die Bedeutung menschlicher Aufsicht zur Sicherstellung wissenschaftlicher Integrität hervorgehoben wird.
Rangliste
