Deepfake
Mit KI erzeugte oder manipulierte Bild-, Ton- oder Videoinhalte, die realen Personen, Gegenständen, Orten oder Ereignissen ähneln und fälschlich als echt erscheinen können.
Ein Deepfake ist ein synthetisches Medium, meist Video oder Audio, das mit KI erzeugt oder manipuliert wird, sodass jemand zu sprechen, sich zu bewegen oder zu handeln scheint, ohne dass die Person das getan hat. Nach Art. 3 Nr. 60 der EU-KI-Verordnung ist ein Deepfake ein durch KI erzeugter oder manipulierter Bild-, Ton- oder Videoinhalt, der realen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde.
Betreiber von KI-Systemen, die Deepfakes erzeugen oder manipulieren, müssen offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden (Art. 50 Abs. 4). Siehe den Artikel zur EU-KI-Verordnung. Generative KI und GANs liefern technischen Hintergrund; siehe den GAN-Artikel zum Forschungsursprung 2014 und frühen Debatten über Fälschungen.