Anzeige

Premium Article

Premium Article
0

Advertorial

Advertorial
0
Einsatz von KI: Die Verantwortung der Wissenschaft

Mögliche Desinformation bekämpfen

Large Language Models (LLMs) haben das Potenzial, das Wissenschaftssystem zu revolutionieren. Das ist das Ergebnis einer Delphi-Umfrage des Alexander von Humboldt Instituts für Internet und Gesellschaft (HIIG). Für die Studie wurden weltweit 72 internationale Experten aus den Bereichen künstliche Intelligenz (KI) und Digitalisierungsforschung befragt. Mit Blick auf die wissenschaftliche Praxis kommen sie zu dem Schluss, dass die positiven Auswirkungen die negativen deutlich überwiegen werden. Zugleich betonen sie die dringende Aufgabe von Wissenschaft und Politik, mögliche Desinformation durch große Sprachmodelle aktiv zu bekämpfen.

Mehr Transparenz und ethische Standards gefordert

Sie fordern strengere rechtliche Regulierungen, mehr Transparenz und ethische Standards beim Einsatz generativer KI, um die Glaubwürdigkeit wissenschaftlicher Forschung zu wahren. Die durchgeführte Studie konzentriert sich konkret auf die Anwendungen von großen Sprachmodellen, ihre Auswirkungen auf die wissenschaftliche Praxis, ethische und rechtliche Überlegungen sowie die erforderlichen Kompetenzen für ihre effektive Nutzung.

Den befragten Experten zufolge machen sich die positiven Effekte am stärksten im textuellen Bereich der wissenschaftlichen Arbeit bemerkbar. Sie steigern die Effizienz von Forschungsprozessen, indem sie verschiedene Aufgaben beim Verfassen und Veröffentlichen von wissenschaftlichen Ergebnissen automatisieren. Zudem ermöglichen sie eine große Entlastung für administrative Berichts- und Antragsverfahren, die in den letzten Jahren im Arbeitsalltag von Wissenschaftlern stark zugenommen haben. Die Studienteilnehmer sind der Meinung, dass Forschende so wieder mehr Zeit haben, sich auf ihre Untersuchungsinhalte zu konzentrieren und ihre Ergebnisse einem breiteren Publikum effektiv zu vermitteln. Somit schaffen große Sprachmodelle zukünftig mehr Raum für kritisches Denken, neue Innovationen und eine breitere Kommunikation von Ergebnissen.

links Fragen rechts Ergebnis als Balkengrafik

Fehlinformationen verbreiten und politische Entscheidungen beeinflussen

Neben den unbestreitbaren Vorteilen unterstreicht die Studie aber auch die Notwendigkeit, sich mit möglichen negativen Folgen für das Wissenschaftssystem auseinanderzusetzen. Große Sprachmodelle können missbraucht werden, um falsche, irreführende und scheinbar wissenschaftliche Behauptungen aufzustellen. Diese sind auf den ersten Blick oft schwer von echten Forschungsergebnissen zu unterscheiden. Den Befragten zufolge können mit ihnen Fehlinformationen in der öffentlichen Debatte verbreitet und politische Entscheidungen beeinflusst werden. Ein weiteres Problem sehen sie in fehlerhaften Trainingsdaten von großen Sprachmodellen, durch die beispielsweise diskriminierende Stereotypen in die von ihnen produzierten Texte eingebettet werden. Diese Fehler könnten unbemerkt in wissenschaftliche Debatten eindringen, wenn Forschende LLM-generierte Inhalte ohne gründliche Überprüfung in ihre tägliche Arbeit einbeziehen.

Um diese Herausforderungen zukünftig zu bewältigen, müssen sich Wissenschaftler neue Kompetenzen aneignen. Dazu gehört beispielsweise die Fähigkeit, Ergebnisse von großen Sprachmodellen kritisch zu kontextualisieren. In Zeiten, in denen die Verbreitung von Desinformationen in der Gesellschaft zunimmt, braucht es Forscher, die mit ihrer Expertise, Autorität und Reputation für die Versachlichung des öffentlichen Diskurses eintreten. Die Befragten fordern deswegen strengere gesetzliche Regelungen, eine erhöhte Transparenz der Trainingsdaten sowie verantwortungsvolle und ethische Praktiken beim Einsatz generativer KI.

„Die Ergebnisse verdeutlichen das transformative Potenzial großer Sprachmodelle in der wissenschaftlichen Forschung“, erklärt Dr. Benedikt Fecher, Forschungsleiter am HIIG und Geschäftsführer von Wissenschaft im Dialog. „Obwohl ihr enormer Nutzen die Risiken überwiegt, zeigen die Expert:innenmeinungen aus den Bereichen KI und Digitalisierung, wie wichtig es ist, die Herausforderungen im Zusammenhang mit Fehlinformationen und dem Verlust des Vertrauens in die Wissenschaft konkret anzugehen. Wenn wir LLMs verantwortungsvoll einsetzen und uns an ethische Richtlinien halten, können wir mit ihnen die positiven Auswirkungen maximieren und den potenziellen Schaden minimieren.“

Die Studie „Friend or Foe? Exploring the Implications of Large Language Models on the Science System” ist als Preprint verfügbar.

Titelbild: Robert Way - istock.com