Rechtliche und gesellschaftliche Herausforderungen von Deepfakes

Bei Deepfakes handelt es sich um Medieninhalte, die mithilfe von KI-Systemen erzeugt oder manipuliert wurden und die fälschlicherweise einen authentischen Eindruck erwecken. Seit ihrem ersten Aufkommen im Jahr 2017 hat sich die Technologie zu ihrer Erzeugung, vor allem aber ihrer Verbreitung dramatisch entwickelt. In der Folge stellt sich eine Reihe von gesellschaftlichen Herausforderungen, von sexueller Gewalt in Form von nicht-einvernehmlichen, sexualisierten Deepfakes über Betrugsversuche bis hin zu Versuchen politischer Einflussnahme. Dabei bietet die Technologie auch große Potenziale etwa in der Bildung, Kunst, Werbung und Unterhaltung. Die TA-Kompakt-Studie stellt den technischen Stand von Deepfakes, ihre Anwendungen und die Herausforderungen, die mit ihnen einhergehen, übersichtlich und aktuell dar. Ein besonderer Fokus liegt auf der Frage der bisherigen und einer möglichen zukünftigen rechtlichen Regulierung.