Bei der Verarbeitung personenbezogener Daten haben wir an der Universität datenschutzrechtliche Pflichten und dürfen nicht jede Software verwenden beziehungsweise personenbezogene Daten irgendwo hin speichern. Eine neue Gefahr für unsere Daten geht derzeit von KI-Tools aus. Eine Nutzung bietet zwar viel Zukunftspotential, geht aber derzeit auch mit vielen ungeklärten datenschutzrechtlichen Fragen einher. Besonders die Algorithmen hinter ChatGPT und Co. stellen eine Blackbox dar, die eine datenschutzrechtliche Einschätzung schwer macht. Fakt ist, dass Anwendungen der künstlichen Intelligenz seit Jahren mit Unmengen von Informationen gefüttert werden, darunter auch persönliche Daten, die durch die KI ohne die Einwilligung der entsprechenden Personen verarbeitet werden. Mit jeder neuen Eingabe lernt die KI weiter, da sie auf der Technik „Reinforcement Learning from Human Feedback“ (RLHF) fußt. Dadurch und besonders durch Texteingaben sind universitäre Daten wie Forschungsdaten und persönliche Daten in Gefahr, weshalb derzeit von der Nutzung von KI-Tools im universitären Kontext abgeraten wird.
Zu bekannten und weit verbreiteten Softwaretools der einzelnen Anwendungsfelder bietet das URZ alternative Softwareanwendungen an, deren Verwendung für dienstliche Zwecke an der Universität Leipzig zu empfehlen sind. Die Empfehlung ist ausdrücklich keine (funktionale) Bewertung, im Sinne von "Welche Software stellt die besten Funktionen bereit", sondern folgt ausschließlich dem Tenor der Datenhoheit. Bei den empfohlenen Softwareprodukten und IT-Diensten liegen die Daten entweder auf Servern der Universität oder bei vertraglich gebundenen Serviceprovidern beziehungsweise anderweitig geprüften Anbietern. Eine Übersicht auf der Intranetseite des Datenschutzbeauftragten gibt ebenfalls Empfehlungen zu Softwaretools für einzelne Anwendungsfelder.
Kommentare
Prof. Dr. Roland Happ,
Sehr geehrte Mitarbeitende der Informationssicherheit,
anbei ein Hinweis in eigener Sache - der als Anregung dienen soll, dass wir KI Anwendungen aus dem Lehralltag an Universitäten nicht verdrängen dürfen. Im Lehrberuf sind KI Anwendungen Mitten im Unterricht angekommen. Wenn wir in der universitären Lehre unsere Studierenden nicht darauf vorbereiten, wäre das nicht zukunftsgerichtet.
Wenn Mitarbeitende der Informationssicherheit Worte wie "Gefahr für unsere Daten", "persönliche Daten durch KI auch ohne Einwilligung verarbeitet" nutzen und aufgrund von lange bekannter (und aktuell wiss. im Fokus stehender!) Blackbox-Problematiken direkt ohne substanzielle Auseinandersetzung mit Chancen und Grenzen pauschal von der Nutzung abraten, bauen wir durch Verunsicherungen doch eher Barrieren auf, anstatt zukunftsgerichtet aus- und weiterzubilden. Natürlich gehört ein bewusster Umgang dazu, aber wir brauchen in der universitären Lehre Möglichkeiten, KI Anwendungen zu integrieren.
Antworten