3. Ethische Belange

Verantwortungsvolle Nutzung von Großer Sprachmodelle


Solche Systeme (z.B. ChatGPT, Gemini, DeepSeek, Claude, Perplexity, Llama) können Sie bei verschiedenen Aufgaben unterstützen, auch bei studienbezogenen Aktivitäten. Sie können Ihnen beispielsweise beim Verstehen von Inhalten, Zusammenfassen von Artikeln, Brainstorming von Ideen, Verfassen und Erklären von Code, Überprüfen von Grammatik, Korrekturlesen von Texten, Erstellen nützlicher Bilder und vielem mehr helfen.

Allerdings ist damit zu rechnen, dass die Nutzungsdaten von den Unternehmen oder von Dritten ausgewertet werden. Somit ist Vorsicht beim Eingeben von Daten geboten, z.B. bei personenbezogenen Informationen oder unveröffentlichten Forschungsergebnissen. Zudem darf die Nutzung von KI-Systemen nicht gegen die Grundsätze guter wissenschaftlicher Praxis verstoßen, insbesondere nicht gegen das Gebot der Transparenz als Prinzip der wissenschaftlichen Integrität. Daher ist es erforderlich, transparent zu machen, wie KI-Systeme zur Unterstützung bei akademischen Aufgaben genutzt werden. Wir möchten die Nutzung von KI-Systeme natürlich nicht untersagen, aber Sie müssen, bspw. im Abschlussprojekt, transparent machen, wie Sie ggf. Generative KI-Systeme genutzt haben. Im Folgenden möchten wir einige Empfehlungen für den verantwortungsvollen Einsatz dieser KI-Systeme geben.

Empfehlung I: Seien Sie transparent über die Nutzung von generativen KI-Systemen bei der Bearbeitung einer Aufgabe.
Anweisungen zur Transparenz bei der Nutzung von generativen KI-Systemen:

  • Teile der Arbeit, die auf der Nutzung von KI-gestützten Tools im Hinblick auf prüfungsrelevante Kompetenzen basieren, müssen entsprechend in einer Fußnote gekennzeichnet und die Art der Nutzung angegeben werden.
    Beispiele: Nutzung zur Ideenfindung, für die Erstellung der Struktur, für die Entwicklung/Optimierung von Software-Quelltexten, zur sprachlichen Optimierung, zur Erstellung von Textpassagen etc.

  • Der Anhang der Arbeit muss die zur Erstellung verwendeten KI-Systeme wie folgt dokumentieren:

    • Name des KI-Tools, Softwareversion
    • Abrufdatum (falls zutreffend)
    • URL (falls zutreffend)
    • verwendeter Prompt und Ergebnis (falls zutreffend), Transkription oder Screenshots.

Empfehlung II: Überprüfen Sie die Inhalte der KI-Systeme, da Sie für die von Ihnen genutzten Inhalte verantwortlich sind.

Generative KI-Systeme werden auf der Basis riesiger Datenmengen trainiert, die in der Regel aus dem Internet stammen, ohne dass dabei immer auf Datenurheberrechte, Korrektheit und gesellschaftliche Vorurteile geachtet wird. Diese Systeme können daher Fehlinformationen, Diskriminierung, Stereotype und urheberrechtlich geschützte Inhalte verbreiten. Allerdings können KI-Systeme im Allgemeinen nicht als Urheber der von ihnen generierten Ergebnisse angesehen werden. Daher tragen Sie die volle Verantwortung für die Inhalte, die Sie aus den generierten Ergebnissen verwenden.

Nach den Bestimmungen des deutschen Urheberrechtsgesetzes (UrhG) können KI-Systeme im Allgemeinen nicht als Urheber der von ihnen generierten Ergebnisse angesehen werden. Wenn Nutzende die Ergebnisse KI-basierter Tools in ihren eigenen Arbeiten verwenden, sind die Nutzenden für fehlerhafte oder verzerrte (voreingenommene) Inhalte, falsche Quellenangaben, Urheberrechtsverletzungen oder Plagiate verantwortlich. Auch das Hochladen urheberrechtlich geschützten Materials in KI-basierte Tools kann eine urheberrechtlich relevante Handlung darstellen, weshalb die gesetzlichen Regelungen in diesem Zusammenhang beachtet werden müssen.

Empfehlung III: Gehen Sie vorsichtig mit den Informationen um, die Sie generativen KI-Systemen zur Verfügung stellen. Geben Sie keine sensiblen Daten ein.

Diese Systeme lernen ihre Aufgaben durch die Verarbeitung von Daten, einschließlich unserer Daten und möglicherweise auch unserer persönlichen Daten. Daher ist es wichtig, Vorsicht walten zu lassen, wenn Sie Informationen (wie Texte, Daten, Prompts, Bilder usw.) in generative KI-Systeme eingeben. Das Teilen von sensiblen, risikoreichen Daten mit diesen KI-Systemen kann unbeabsichtigte Konsequenzen nach sich ziehen, da in der Regel unklar ist, welche personenbezogenen Daten, Nutzerverhalten und Analysen erfasst, gespeichert oder an Dritte weitergegeben werden.

Beim Umgang mit personenbezogenen Daten Dritter im Zusammenhang mit KI-basierten Tools muss die Einhaltung des Datenschutzrechts, insbesondere der Datenschutz-Grundverordnung (DSGVO), des Bundesdatenschutzgesetzes (BDSG) und des Berliner Datenschutzgesetzes (BlnDSG), gewährleistet werden. Dies gilt sowohl für das Hochladen von Informationen in KI-basierte Tools als auch für die von Ihnen generierten Inhalte.

Empfehlung IV: Nutzen Sie datenschutzkonforme Dienste

Nutzen Sie einen datenschutzkonformen Dienst, bspw. von der GWDG, oder installieren sie ein Sprachmodell lokal auf dem PC (z.B. GPT4all, Ollama).



Verwendung von LLMs innerhalb dieses Kurses:
  • Bei den Aktivitäten im gesamten Modul ist die Nutzung von LLMs nicht verboten. Allerdings dürfen LLMs das eigene Denken nicht ersetzen. Sie sollen das Lernen unterstützen – nicht die Arbeit übernehmen. Wenn Sie ein KI-Tool verwenden, um Ihnen bei einer offenen Antwort zu helfen, empfehlen wir Ihnen, transparent zu sein. Beispiel: „ChatGPT wurde verwendet, um Ideen für die Antwort auf diese Frage zu sammeln.“
  • Für die Vor- und Nachtests in jedem Modul sowie zu Beginn und am Ende des Kurses ist die Nutzung von LLMs jedoch verboten, da wir gerne den Lerneffekt dieses Kurses auf die Teilnehmenden analysieren möchten.
  • Bei den Abschlussprüfungen ist die Verwendung von LLMs erlaubt, aber Sie müssen transparent mit deren Einsatz umgehen und die Verantwortung für die Ergebnisse übernehmen.


Hinweis: Diese Empfehlungen können sich ändern, da sich diese KI-Systeme dynamisch weiterentwickeln und wir nicht alle zukünftigen Entwicklungen vorhersehen können. Unsere Empfehlungen basieren auf der Position der Freien Universität Berlin zur Nutzung von KI-Systemen, die auf dem aktuellen Forschungsstand sowie auf Änderungen des europäischen, bundesdeutschen oder landesrechtlichen Rahmens beruht.