Vertrauen in Künstliche Intelligenz: Einblicke aus der Perspektive der Physik

Unser Fellow Franz-Josef Schmitt hat einen Beitrag im Sammelband "Vertrauen in Künstliche Intelligenz - Eine multi-perspektivische Betrachtung" verfasst, der am 21. September veröffentlicht wird. In seinem Kapitel widmet er sich der Frage, ob ChatGPT und ähnliche KI-Systeme in der Physik als vertrauenswürdige Werkzeuge für Forschende, Lehrende und Lernende eingesetzt werden können.

Es wird festgestellt, dass die Frage nach Vertrauenswürdigkeit dabei stark kontextabhängig ist und letztendlich die Verantwortung für die Einhaltung guter wissenschaftlicher Praxis weiterhin den Anwender:innen obliegt. In der Lehre besteht die Herausforderung vor allem darin, Studierende zur effektiven Nutzung digitaler Unterstützungssysteme zu motivieren und sie dabei angemessen zu beraten. Bestimmte digitale Methoden wie automatisierte Feedback Systeme, Gamification Ansätze und vor allem auch das vergleichsweise einfache Angebot von Lehrvideos können nachweislich die Studienleistungen verbessern. Eine Vertrauenswürdigkeit von ChatGPT im Sinne des AI Acts für den Einsatz in Forschung und Lehre kann es jedoch aufgrund mangelnder Transparenz bei den Trainingsdaten und fehlender Erklärbarkeit nicht geben. Letztlich hängt das Vertrauen in KI generell von der Verantwortung der Forschenden ab.