Zur Erkennung gefälschter Artikel

Wiley kündigt Pilotprojekt für KI-gestützten Dienst an

13. März 2024
von Börsenblatt

Auf der Londoner Buchmesse stellte Wiley am 13. März Pläne für seinen neuen KI-gestützten Dienst zur Erkennung von gefälschten wissenschaftlichen Texten, sogenannten Paper Mills vor. Nach einer umfangreichen Reihe interner Betatests wird Wiley diesen neuen Dienst in Zusammenarbeit mit Sage und IEEE in die nächste Testphase überführen.

Als Paper Mills werden Unternehmen bezeichnet, die gefälschte wissenschaftliche Artikel gegen Geld erstellen. Mit dem Paper Mill Detection Service möchte Wiley die spezifischen Bedürfnisse von Wissenschaftsverlagen und Forschungsgesellschaften erfüllen, gleichzeitig das Publizieren effizienter und effektiver gestalten und es damit fit für die Herausforderungen der Zukunft zu machen.

"Unsere führende Position in der Technologie für Forschungspublikationen, gepaart mit unserer eigenen bedeutenden Erfahrung im Kampf gegen Paper Mills, versetzt Wiley in eine einzigartige Position für die Entwicklung dieser Technologie", wird Jay Flynn, Wiley Executive Vice President & General Manager in der Meldung zitiert. "Wir sind IEEE und Sage dankbar, dass sie uns bei der Feinabstimmung dieser fortschrittlichen Kontrollen unterstützen, von denen letztlich die gesamte wissenschaftliche Verlagsbranche profitieren wird."

Sechs Instrumente

Der neue Service wurde entwickelt, um die Integrität der Forschung zu schützen und umfasst sechs verschiedene Werkzeuge, um potenziell gefährdete Forschungsinhalte zu identifizieren.

Zu diesen Werkzeugen gehören:

  • Papermill similarity detection – prüft mit bekannten Paper Mill Merkmalen und vergleicht den Inhalt mit vorhandenen Papermill-Artikeln, 
  • Problematic phrase recognition – kennzeichnet ungewöhnliche Alternativen zu etablierten Begriffen (z. B. misslungene Formulierungen)
  • Unusual publication behavior detection – identifiziert unregelmäßige Veröffentlichungsmuster von Autoren,
  • Researcher identity verification – hilft bei der Erkennung potenziell böswilliger Akteure,
  • Gen-AI generated content detection – identifiziert potenziellen Missbrauch von generativer KI; und der
  • Journal Scope Checker – analysiert die Relevanz des Artikels für die Zeitschrift.

Der Papermill Detection Service wird über Research Exchange, ein integriertes, hochmodernes Einreichungs- und Peer-Review-System, bereits im nächsten Jahr verfügbar sein.  Der Service baut auf der umfangreichen Arbeit von Wiley Partner Solutions auf und ergänzt andere KI-Tools, die bereits im gesamten Publishing-Workflow eingesetzt werden, wie z.B.  Atypons  manuscript transformation (Transformation von Manuskripten), search and discovery (suchen und entdecken), and taxonomy auto-tagging features (Taxonomie-Autotagging-Funktionen).

Verantwortungsvolle Einsetzen der KI

Wiley stellt das wissenschaftliche Publizieren in den Mittelpunkt und macht sich das Potenzial von KI zunutze. Wiley setzt sich für eine verantwortungsvolle KI ein und entwickelt Produkte, die die ausgefeilte und differenzierte Entscheidungsfindung der Nutzenden, einschließlich Autor:innen, Gutachter:innen und Redakteur:innen, ergänzen und nicht ersetzen.

 "Wir bei IEEE wissen, dass wir diese weit verbreiteten Herausforderungen der Forschungsintegrität nicht allein lösen können. Wir brauchen Partner wie Wiley, die sowohl technologische Lösungen als auch ein tiefes Verständnis des Umfelds für wissenschaftliche Publikationen einbringen können, um diese Probleme anzugehen", so Steven Heffner, IEEE Managing Director, Publications.

"Bei Sage arbeiten wir daran, sicherzustellen, dass die von uns veröffentlichten wissenschaftlichen Arbeiten robust, genau und authentisch sind. Um dieses Ziel zu erreichen und gegen unethische Forschungspraktiken vorzugehen, brauchen wir Werkzeuge, die es Gutachter:innen und Redakteur:innen ermöglichen, sich auf den Inhalt der Forschung zu konzentrieren, anstatt ihre Authentizität in Frage zu stellen", sagte Bob Howard, Executive Vice President of Research bei Sage.