3. DEEPFAKES

Deepfakes: Mögliche Maßnahmen zur Risikominderung


Um das Risiko negativer Auswirkungen von Deepfakes auf die Gesellschaft zu mindern, sollten entlang der gesamten Kommunikationskette Maßnahmen ergriffen werden. Das bedeutet, von den Unternehmen, die KI-Inhalte erstellen, über die sozialen Medienplattformen, die diese verbreiten, bis hin zu den Bürgerinnen und Bürgern, die mit diesen Inhalten interagieren.

Welche möglichen Lösungen gibt es? Einige Beispiele sind:
  • Die Förderung der digitalen Kompetenz der Bürgerinnen und Bürger verschafft ihnen eine kritischere Sicht auf die Inhalte, mit denen sie im Internet interagieren. Zum Beispiel hat die Deutsche Welle (DW) kürzlich verschiedene Artikel veröffentlicht, die zeigen, wie man KI-generierte Inhalte erkennt, einschließlich Empfehlungen für KI-Systeme, die zur Erkennung von KI-generierten Inhalten entwickelt wurden. Dies ist Teil der DW-Faktencheck-Reihe zur digitalen Kompetenz. Wir empfehlen Ihnen dringend, diese zu lesen:
    • Faktencheck: Wie erkenne ich Audio-Deepfakes?
    • Faktencheck: Wie erkenne ich KI-generierte Bilder?
    • Wie erkenne ich Deepfakes?

      • Icon kollaborative Aufgabe      
      Einschränkungen der Empfehlungen: Diese Empfehlungen/Richtlinien könnten bald veraltet sein, da sich die Qualität der Ausgaben dieser KI-Modelle zu schnell verbessert.

      Einschränkungen von KI-Systemen zur Erkennung von KI-generierten Inhalten: Akademische Labore und Unternehmen haben viele KI-Technologien entwickelt, die versuchen, KI-generierte Inhalte zu erkennen. Einige dieser Systeme können KI-generierte Inhalte mit hoher Genauigkeit identifizieren, aber sie können nicht immer zuverlässig die Frage beantworten, was echt ist und was nicht. Das bedeutet, dass echte Inhalte fälschlicherweise als gefälscht eingestuft werden können und umgekehrt. Um mehr über die Einschränkungen von KI-Systemen zur Erkennung von KI-generierten Inhalten zu erfahren, empfehlen wir Ihnen den folgenden Artikel aus der Zeitschrift Nature zu lesen (insbesondere den Abschnitt „Detection detectives“): https://www.nature.com/articles/d41586-023-02990-y.

  • Unternehmen, die Inhalte generieren, können Wasserzeichen in KI-generierten Inhalten verwenden. Wasserzeichen können so offensichtlich wie ein Stempel sein oder so komplex wie eingebettete Metadaten, die von Verteilern von Content erkannt werden. Beispielsweise hat Google ein Wasserzeichen für synthetische Bilder namens SynthID veröffentlicht. Die Wasserzeichentechnologie könnte mit anderen Techniken kombiniert werden, wie etwa der Identifikation über Metadaten, kryptografischen Methoden zum Nachweis von Herkunft und Echtheit von Inhalten, Protokollierungsmethoden und Fingerabdrücken.
  • Unternehmen, die Inhalte verbreiten, können Systeme und Ressourcen einführen, um Fehlinformationen und Manipulation zu überwachen. Zum Beispiel hat TikTok seine Community-Richtlinien aktualisiert, um es für Ersteller verpflichtend zu machen, die Nutzung von KI in realistisch aussehenden Szenen offenzulegen. Google hat erklärt, dass jegliche KI-generierten Inhalte, die in politischen Werbeanzeigen verwendet werden, auf seinen Plattformen, einschließlich YouTube, gekennzeichnet werden müssen.

!     Was ist Ihre Meinung? Welche Maßnahmen halten Sie für wichtig, um gegen schädliche KI-generierte Inhalte vorzugehen? Welche weiteren Schritte sollten Ihrer Meinung nach unternommen werden?
Schreiben Sie Ihre Antworten auf eine neue Taskcard.