Springer Nature spendet sein KI-Tool zur Erkennung von KI-generiertem Nonsense-Text in Forschungsmanuskripten an die International Association of Scientific, Technical & Medical Publishers (STM). Das Tool habe bereits Hunderte von gefälschten Manuskripten kurz nach ihrer Einreichung identifiziert.
Das zuvor als "Geppetto" bekannte Tool wird der Mitteilung zufolge in den STM Integrity Hub integriert, eine branchenweite Initiative, die Verlage bei der Sicherstellung der Integrität ihrer veröffentlichten Inhalte unterstützt. Ziel ist die Entwicklung und Erprobung von Werkzeugen, die große und kleine Verlage nutzen können, um Einreichungen auf Anzeichen für kompromittierte Inhalte zu überprüfen.
Chris Graf, Director of Research Integrity bei Springer Nature und Vorsitzender des STM Integrity Hub Governance Committee, sagte dazu: "Die Entwicklung dieses Tools war eine große Investition und ein langwieriges Projekt, das eine enge Zusammenarbeit zwischen führenden Teams für Forschungsintegrität und KI erforderte. Wir freuen uns, dass wir diese Technologie nun mit einer breiteren Verlagsgemeinschaft teilen können, damit sie eine noch größere Wirkung entfalten kann. Der Aufstieg der KI hat es unethischen Akteuren erleichtert, gefälschte Inhalte zu generieren. Tools wie dieses, die die Macht der KI und der Mustererkennung nutzen, werden von entscheidender Bedeutung sein, vor allem, wenn sie durch die umfangreichen Daten unterstützt werden, die die Nutzung in der gesamten Branche liefern wird."
Joris van Rossum, Program Director von STM Solutions, ergänzt: "Die wachsende Zahl betrügerischer Einreichungen von Paper Mills, die durch den Anstieg der generativen KI begünstigt wird, stellt eine zunehmende Herausforderung für die Verlagswelt dar. Der STM Integrity Hub ist eine wichtige Initiative, die Verlagen helfen soll, dieses Problem und anderes unethisches Verhalten zu bekämpfen. Wir freuen uns, dass wir dieses einzigartige Tool, das Indikatoren für KI-generierte Manuskripte identifiziert, zur Unterstützung von Verlegern in der gesamten Branche einsetzen können. Diese breitere Nutzung wird dazu beitragen, das Tool weiter zu trainieren und seine Genauigkeit zu verbessern."
Das Tool habe bereits Hunderte von gefälschten Manuskripten kurz nach ihrer Einreichung identifiziert, wodurch verhindert wurde, dass sie veröffentlicht werden. Darüber hinaus biete die Software eine Möglichkeit, eine größere Gruppe problematischer Beiträge zu identifizieren. Der Nonsense-Text-Detektor sei eines von mehreren KI-Tools, die Springer Nature einsetzt. Dazu gehören Snappshot, das problematische Bilder identifiziert, und ein Tool zur Überprüfung irrelevanter Referenzen, das im letzten Monat eingeführt wurde.
Darüber hinaus beteilige sich Springer Nature an der fortlaufenden Zusammenarbeit mit der breiteren Verlagsgemeinschaft. Dies geschehe sowohl als beitragende Organisation im STM Integrity Hub, als auch durch die Zusammenarbeit mit anderen Branchengremien und Organisationen.
