Martin Potthast: „Es ist wichtig, dass man der KI nicht blind vertraut“

Wo sehen Sie die größten Chancen und die größten Risiken von KI im Bereich der Lehre und Forschung?

Derzeit wird hier und an anderen Universitäten weltweit diskutiert, wie sich diese Technologie auf Forschung und Lehre auswirkt – insbesondere im Hinblick auf Prüfungsformen, das Schreiben von Hausarbeiten und die Frage, inwieweit eigenständige Leistungen überhaupt noch bewertet werden können.

Der Digital-Humanities-Forscher Ted Underwood beobachtete kürzlich, dass diese Debatte vor einem Übergang von Lösungen, die auf die Bewahrung des Status quo abzielen, zu neuen Ansätzen steht, um diese Werkzeuge in den Unterricht einzubinden. Ich denke, in Zukunft werden diese Werkzeuge ganz selbstverständlich eingesetzt. Mit Sprachmodellen ändert sich zunächst einmal nur die Art und Weise, wie wir schreiben. Was daran gut und was schlecht ist, wird sich noch zeigen. Wir müssen über Aufgaben nachdenken, bei denen KI sinnvoll eingesetzt werden muss.

Sprachmodelle bieten die Chance, Studierende noch stärker in systematischem Denken, Lesen und kritischer Reflexion zu schulen und sie in die Lage zu versetzen, sich viel früher mit komplexeren Themen auseinanderzusetzen.

Womit beschäftigen Sie sich in Ihrer Forschung? Und wie hängt Ihre Forschung mit Künstlicher Intelligenz zusammen?

Wir untersuchen, wie ein Computer sprachbasierte Probleme verarbeiten, verstehen und dann lösen kann. Jüngste Beispiele sind unsere Forschungen zu KI, die Texte automatisch mit Triggerwarnungen versieht, um die Leserinnen und Leser auf potenziell verstörende Inhalte hinzuweisen. Ein weiteres Beispiel ist die Erkennung von Clickbait in sozialen Medien und die automatische Erzeugung von Texten, die die durch Clickbait-Nachrichten ausgelöste manipulative Neugierde befriedigen.

Der zweite Forschungsbereich ist das Information Retrieval – oder salopp gesagt, die Entwicklung von Suchmaschinen. Wir erforschen seit einer Weile dialogbasierte Suchmaschinen, die auf Sprachmodellen basieren, wie sie seit Anfang des Jahres auch von Google, Microsoft und anderen angeboten werden. Ein wichtiges Ziel ist es dabei, diese im Labor evaluierbar zu machen, um sie systematisch auf ihre Qualität hin zu untersuchen und zu ermitteln, welche Methoden die besten Ergebnisse liefern. Darüber hinaus forschen wir an einer Suchmaschinentechnologie, die die Erzeugung von Bildern besser unterstützen soll, als es bisher durch das Ausprobieren von Prompts möglich war.

Beide Forschungsbereiche nutzen künstliche Intelligenz als Methode zur Lösung zahlreicher Detailprobleme. Als Mitglied des ScaDS.AI Center for Scalable Data Analytics and Artificial Intelligence arbeiten wir außerdem an neuen KI-Methoden, die zukünftig in diesen Anwendungsbereichen zum Einsatz kommen werden.

Sie haben gemeinsam mit Kolleg:innen die Experimentierplattformen TIRA Integrated Research Architecture entwickelt. Was ermöglicht sie und wie setzen Sie die in der Lehre ein?

TIRA Integrated Research Architecture ist eine Plattform für reproduzierbare KI-Experimente.

Wir nutzen sie, um Wettbewerbe unter Wissenschaftlern, sogenannte Shared Tasks, zu organisieren. Das können zum Beispiel Wettbewerbe zu den eben genannten Problemen der Sprachverarbeitung und der Suche sein, bei denen die Teilnehmenden in freundschaftlichem Wettstreit gegeneinander antreten, um ihre neuesten Forschungsergebnisse vergleichend zu evaluieren. So gab es beispielsweise einen Wettbewerb zur Entwicklung einer Software, die Fanfiction-Geschichten mit triggerndem Inhalt eine angemessene Triggerwarnung zuweist.

Die Teilnehmenden müssen ihre Software in unsere Cloud hochladen, und TIRA stellt unter anderem sicher, dass die Software auch in Zukunft reproduzierbar bleibt und allen Forschenden für weitere Experimente zur Verfügung steht. Darüber hinaus verhindert TIRA das Durchsickern von Testdaten und etabliert damit erstmals in der Informatik Konzepte von Blindstudien, wie sie vor allem in der medizinischen Forschung üblich sind. Nur so können Sprachmodelle in Zukunft zuverlässig evaluiert werden, denn es ist nicht klar, ob kommerzielle Anbieter auch öffentlich verfügbare Testdaten zum Training ihrer Sprachmodelle verwendet haben.

Wir setzen TIRA auch in der Lehre ein. Im Rahmen des vom BMBF geförderten SharKI-Projekts untersuchen wir, wie Studierende in Tutorien die praktische Anwendung von in Vorlesungen erlernten Methoden im Rahmen solcher Wettbewerbe üben können. Zu diesem Zweck kooperieren wir auch mit mehreren anderen Universitäten in Deutschland und Europa, die TIRA zeitgleich mit uns einsetzen. So organisieren wir eine Art verteilte Lehrveranstaltung, die den interuniversitären Austausch zwischen Lehrenden und Studierenden fördert, ohne die lokale Betreuung zu beeinträchtigen.

Gibt es etwas, das Sie Studierenden auf den Weg geben möchten, die sich für die Schnittstelle von Künstlicher Intelligenz und Sprache interessieren?

Sie sollten sich auf die Grundlagen konzentrieren – Statistik, die Algorithmen des maschinellen Lernens, der Sprachverarbeitung und der Computerlinguistik. Aktuelle Technologien sind kurzlebig, aber die Beherrschung der Grundlagen ermöglicht es, mit der rasanten Entwicklung der Technologie über Jahrzehnte hinweg Schritt zu halten und zu entscheiden, welche Werkzeuge für welche Probleme eingesetzt werden sollen und wo man besonders vorsichtig sein muss.

 

Das Interview führte Esther Benning.