Schöne neue (KI-)Welt?

Anwendungen der künstlichen Intelligenz (KI) werden unseren Alltag in Zukunft wohl mehr beeinflussen als Elektromobilität und LNG-Terminals. Dies gilt insbesondere für die wissenschaftliche Literatur, wo schon heute ausgefeilte Programme den Autor*innen dabei helfen, Grammatik, Sprache, Referenzen und statistische Analysen zu vereinfachen und zu verbessern. Auch Redaktionen und Verlage setzen KI-gestützte Tools für zahlreiche Zwecke ein, unter anderem zur Überprüfung von Beiträgen auf Plagiate, Bildmanipulationen und ethische Fragen, aber auch zur Sichtung von Texten, Überprüfung von Referenzen, Bearbeitung und Kodierung von Inhalten für die Veröffentlichung in verschiedenen Medien und zur Erleichterung der Auffindbarkeit nach der Publikation. Im November 2022 veröffentlichte die US-amerikanische Firma OpenAI ein neues Open-Source-Tool zur Verarbeitung natürlicher Sprache namens ChatGPT (GPT, "generative pretrained transformer"). ChatGPT ist eine Weiterentwicklung eines Chatbots, der die menschliche Konversation simulieren kann. Das löst Begeisterung über die vielen potenziellen Einsatzmöglichkeiten aus, aber auch Befürchtungen hinsichtlich eines möglichen Missbrauchs. Das Erledigen der Hausaufgaben von Schüler*innen und Student*innen, aber auch das Verfassen wissenschaftlicher Artikel könnte künftig von dieser KI erledigt werden.

Im Januar 2023 berichtete die Zeitschrift Nature über Vorabdrucke von zwei Artikeln in den Bereichen Wissenschaft und Gesundheit, in denen ChatGPT als Autor genannt wurde. Auch wenn Nature von einem Fehler spricht und eine Korrektur zusagte, wurden diese Artikel bereits in PubMed und Google Scholar indiziert. Wie aber soll zukünftig umgegangen werden mit solchen "nicht humanen Autoren"? ChatGPT jedenfalls scheint noch nicht bereit zu sein für eine wirkliche wissenschaftliche Auseinandersetzung. Auf eine Reihe von Fragen zu kontroversen oder wichtigen medizinischen Themen (z. B. Verursachen Impfungen in der Kindheit später Autismus?) sowie zu spezifischen technischen und ethischen Fragen im Zusammenhang mit Veröffentlichungen erhielt man in Experimenten zwar meist gut geschriebene Antworten, die jedoch nicht aktuell und teilweise falsch oder erfunden waren, ohne genaue oder vollständige Referenzen und, schlimmer noch, mit zusammengebastelten, nicht existierenden Beweisen für Behauptungen oder Aussagen.

Daher hat die wissenschaftliche Verlagswelt auch schnell Bedenken über den möglichen Missbrauch von KI-Tools bei wissenschaftlichen Veröffentlichungen geäußert. Auch das Allergo Journal wird hierauf reagieren und seine Autorenhinweise entsprechend anpassen. Hier nur in Kürze: Für nicht humane künstliche Intelligenz, Sprachmodelle, maschinelles Lernen oder ähnliche Technologien ist eine Autorenschaft im Allergo Journal nicht möglich. Autor*innen können zwar grundsätzlich KI-Tools wie ChatGPT bei der Erstellung von Beiträgen als Hilfsmittel nutzen, deren Einsatz muss aber deklariert und begründet werden. Die Verantwortung für die Inhalte tragen unverändert die menschlichen Autor*innen, es kann kein KI-Tool Urheber eines Artikels sein.

Umwälzende, bahnbrechende Technologien wie KI-Sprachmodelle bieten Chancen und Möglichkeiten, aber auch Risiken und Bedrohungen für alle Beteiligten im Wissenschaftsbetrieb. Wir als Herausgeber des Allergo Journals versprechen Ihnen, dass wir einen verantwortungsvollen Umgang im Einsatz von KI-Tools umsetzen werden und eine transparente Berichterstattung darüber, wie diese Werkzeuge bei der Erstellung von Informationen und Veröffentlichungen eingesetzt werden. Die Glaubwürdigkeit und Integrität unserer Zeitschrift und der medizinischen Forschung insgesamt hat für uns allerhöchste Priorität und wir werden alles tun, um das Vertrauen in medizinisches Wissen zu fördern und zu schützen.

figure 1

Prof. Dr. Ludger Klimek, Zentrum für Rhinologie und Allergologie Wiesbaden

figure 2

Prof. Dr. Thilo Jakob, Klinik für Dermatologie und Allergologie, Universitätsklinikum Gießen, UKGM

figure 3

Prof. Dr. Dr. Wolfram Hötzenecker, Klinik für Dermatologie und Venerologie, Kepler Universität, Linz

留言 (0)

沒有登入
gif