Wissenschaftler sind in einem von Experten begutachteten Artikel entsetzt über eine seltsame KI-Maus mit riesigen Fortpflanzungsorganen

Entsetzen und Verachtung gingen am Donnerstag durch die sozialen Netzwerke von Wissenschaftlern, als mehrere furchtbar schlechte Zahlen, die durch künstliche Intelligenz generiert wurden, von … kursierten. Von Experten begutachteter Artikel Kürzlich in einem renommierten Magazin veröffentlicht. Diese Zahlen – von denen die Autoren im Text des Artikels anerkennen, dass sie Midgourneys Schöpfung sind – sind alle unerklärlich. Sie enthalten unverständlichen Text, und am auffälligsten ist, dass einer von ihnen ein Bild einer Ratte mit seltsam großen und seltsamen Genitalien sowie den Texttitel „dck“ enthält.

Am Donnerstag veröffentlichte der Herausgeber des Rezensionsartikels, Frontiers, Hat einen „Ausdruck der Besorgnis“ gepostet Sie weist darauf hin, dass sie sich der Bedenken im Zusammenhang mit dem veröffentlichten Artikel bewusst ist. „Derzeit läuft eine Untersuchung und diese Mitteilung wird nach Abschluss der Untersuchung entsprechend aktualisiert“, schrieb der Herausgeber.

Der fragliche Artikel trägt den Titel „Zellfunktionen spermatogener Stammzellen in Bezug auf den JAK/STAT-Signalweg“ und wurde von drei Forschern in China verfasst, darunter dem korrespondierenden Autor Dingjun Hao vom Xi'an Honghui Hospital. Es wurde am Dienstag online in der Zeitschrift Frontiers in Cell and Developmental Biology veröffentlicht.

Frontiers hat nicht sofort auf die Bitte von Ars um einen Kommentar reagiert, aber wir werden diesen Beitrag mit jeder Antwort aktualisieren.

Die erste Figur in der Arbeit, die eine Maus enthielt, erregte sofort Aufmerksamkeit, als Wissenschaftler begannen, sie weithin zu teilen und auf Social-Media-Plattformen, darunter Bluesky und der früher als Twitter bekannten Plattform, zu kommentieren. Aus der Ferne ist klar, dass das anatomische Bild völlig falsch ist. Doch bei näherer Betrachtung fallen weitere Mängel auf, darunter die Bezeichnungen „dissilced“, „stem cell“, „iollotte sserotgomar“ und „dck“. Viele Forscher haben ihre Überraschung und Bestürzung darüber zum Ausdruck gebracht, dass ein derart offensichtlich schlechtes Bild, das durch künstliche Intelligenz erzeugt wird, durch den Peer dringen könnte. – Das Review-System und alle in der Zeitschrift vorhandenen internen Verarbeitungen.

Doch das Rattenrudel ist nicht das einzige Problem. Abbildung 2 ist weniger anschaulich, aber ebenso verzerrt. Obwohl es sich um ein Diagramm eines komplexen Signalwegs handeln soll, handelt es sich stattdessen um ein wirres Durcheinander. Ein Experte für wissenschaftliche Integrität Ich fragte mich, ob sie eine allzu komplizierte Erklärung gab, „wie man einen Donut mit bunten Streuseln macht.“ Wie das erste Bild ist das Diagramm voller unsinniger Texte und verwirrender Bilder. Abbildung 3 ist nicht besser und zeigt eine Sammlung kleiner kreisförmiger Bilder mit Kauderwelsch-lastigen Anmerkungen. Das Bild soll anschaulich darstellen, wie der Signalweg aus Abbildung 2 die biologischen Eigenschaften spermatogener Stammzellen reguliert.

Einige Online-Wissenschaftler fragten sich, ob der Text ebenfalls durch künstliche Intelligenz generiert wurde. Ein Benutzer bemerkte, dass eine KI-Erkennungssoftware festgestellt habe, dass es wahrscheinlich von KI erzeugt wurde; Allerdings sind solche Programme, wie Ars bereits berichtete, unzuverlässig.

Obwohl die Bilder ungeheuerliche Beispiele sind, verdeutlichen sie ein wachsendes Problem im wissenschaftlichen Publizieren. Der Erfolg von Wissenschaftlern hängt in hohem Maße von ihrer Publikationsleistung ab: Ein hohes Publikationsaufkommen, häufige Veröffentlichungen und Artikel in Top-Zeitschriften verschaffen den Wissenschaftlern einen höheren Status. Das System bietet weniger gewissenhaften Forschern einen Anreiz, minderwertige Artikel zu veröffentlichen, die im Zeitalter KI-gestützter Chatbots wahrscheinlich mit Hilfe künstlicher Intelligenz generiert werden. Forscher befürchten, dass der zunehmende Einsatz künstlicher Intelligenz dazu führen wird, dass veröffentlichte Forschungsergebnisse weniger vertrauenswürdig sind. Daher haben Forschungszeitschriften kürzlich neue Richtlinien für das Verfassen von KI-generierten Texten entwickelt, um das Problem anzugehen. Aber im Moment gibt es, wie der Frontiers-Artikel zeigt, eindeutig einige Lücken.