DEEP-PRISMA

Deepfakes, also mittels Techniken der künstlichen Intelligenz erstellte oder veränderte und täuschend echt wirkende Medieninhalte (Foto, Audio, Video usw.),  sind inzwischen in allen Bereichen der Gesellschaft angekommen. Deepfakes stellen eine wachsende Bedrohung für die Privatheit und Persönlichkeitsrechte der Bürgerinnen und Bürger, ihre sexuelle Selbstbestimmung und ihr Eigentum dar. Bisher fehlt es aber an belastbaren wissenschaftlichen Erkenntnissen zur tatsächlichen Betroffenheit von Bürgerinnen und Bürgern durch missbräuchliche Deepfakes sowie zur Wirksamkeit bestehender und neu erlassener Gesetze zu deren Adressierung. Das Projekt „DEEP-PRISMA“ (PRIvatheit und weitere Rechte der Bürgerinnen und Bürger Schützen vor MissbrAuch durch DEEPfakes) erforscht daher empirisch die Betroffenheit von Bürgerinnen und Bürgern durch sexualisierende, diffamierende und betrügerische Deepfakes sowie die Wirksamkeit vorhandener Schutzmaßnahmen.

Wer ist von Deepfakes betroffen? Welche Arten von Deepfakes verursachen (den meisten) Schaden? Fühlen sich Betroffene und Geschädigte ausreichend geschützt? Was bleibt noch zu tun, um die Probleme (besser) zu adressieren? Was kann jede/r Einzelne tun und wo braucht es übergeordnete Schutzmaßnahmen?

Dabei werden ethische, rechtswissenschaftliche, empirische und politische Forschung sowie Technikfolgenabschätzung kombiniert. Konkret werden eine repräsentative Bevölkerungsumfrage und Interviews unter anderem mit Betroffenenberatungsstellen, Schulmitarbeitenden und Strafverfolgungsbehörden sowie mit Betroffenen selbst durchgeführt. Diese empirischen Erhebungen dienen als Grundlage für die Entwicklung interdisziplinär fundierter Handlungsempfehlungen für künftige Regulierungsmaßnahmen auf nationaler und supranationaler Ebene, aber auch für flankierende gesellschaftliche Maßnahmen.

Das Vorhaben trägt somit dazu bei, die Rechte und Freiheiten von Bürgerinnen und Bürgern vor unerwünschten Folgen von KI zu schützen, indem Handlungsempfehlungen in Zusammenarbeit mit potenziell Betroffenen für verschiedene Akteure aus der Politik, dem Bildungsbereich Schulen bis hin zu Strafverfolgungsbehörden entwickelt werden.