Was sind Deepfakes und wie bedrohlich sind sie?

Teil 1/2: “Für Einsteiger” 😉

Estimated reading time: 5 Minuten

Wenn man von künstlicher Intelligenz und maschinellem Lernen spricht, ist die Vorstellung häufig, dass Roboter oder autonome Fahrzeuge davon betroffen sind. Aber die KI ist viel mehr und beängstigender, als viele erahnen. Ein Beispiel hierfür sind Deepfakes.

In diesem Blog werden wir Ihnen alles erklären, was es über Deepfakes zu wissen gibt, wie sie gemacht werden und was sie für eine Bedrohung darstellen.

  • Was sind Deepfakes?
  • Welche Gefahren gehen von Deepfakes aus?
  • Wie kann man sich vor Deepfakes schützen?

Was sind Deepfakes?

Deepfakes sind eine neuartige Technologie, die es ermöglicht, Bilder und Videos zu manipulieren, indem sie durch maschinelles Lernen realistische Änderungen an Bildern und Videos vornehmen. Deepfakes werden normalerweise verwendet, um Material zu erstellen, das authentisch aussieht, aber tatsächlich manipuliert wurde. Deepfakes können beispielsweise verwendet werden, um jemanden in einem Video oder Foto in eine andere Person zu verwandeln. Die Deepfaking-Technologie ist weitverbreitet und findet ihren Weg in viele verschiedene Bereiche der Technologie.

So kann Deepfaking verwendet werden, um Fotos und Videos für die Produktion von Filmen und Fernsehsendungen zu verändern, aber auch für virtuelle Realität, Augmented Reality und andere Arten von Technologien.

Quelle: Stern auf Youtube

Deepfake – Audio

Ein weiterer Aspekt des Deepfaking ist die Möglichkeit, Audioaufnahmen zu manipulieren. Diese Technik ermöglicht es uns, eine Stimme oder einen Dialog unter Verwendung maschinengenerierter Sprache zu erzeugen. Die Anwendung dieser Technik hat noch nicht viel Aufmerksamkeit erregt, aber viele glauben an das Potenzial der Technologie für die Untersuchung von politischen oder sozialen Themen.

Synthetische Stimme verschafft Zugang zu Bankdaten

Ein spannendes Beispiel, wie es einem Journalist in den USA mittels Deefake gelang sich Zugang zu gesicherten Daten seiner Hausbank zu verschaffen.

Wie werden Deepfakes erstellt?

Deepfakes werden mithilfe von künstlicher Intelligenz (KI) unter Anwendung einer Bildbearbeitungssoftware und maschinellem Lernen erstellt. Dabei wird ein Algorithmus trainiert, um die Gesichter von realen Personen in Videos oder Fotos nachzuahmen.

Die meisten Deepfakes zeigen nachgeahmte Bilder von Politikern, Schauspielern und anderen Prominenten, die ohne deren Wissen erstellt wurden. Um Deepfakes zu erstellen, muss man primär Bilder und Videos des Ziels besitzen. Die Software sucht dann nach ähnlichen Merkmalen in den Bildern und Videos und versucht sie in das Video der nachgestellten Person zu übertragen. Mit Deepfakes ist es möglich, fast jedes Video so zu verändern, dass es aussieht, als hätten andere Personen die Handlungen ausgeführt oder eine Meinung geäußert.

Es gibt mittlerweile verschiedene Programme, mit denen Deepfakes erstellt werden können. Eines der bekanntesten ist FakeApp. Das Programm ist relativ einfach zu bedienen und erfordert keine besonderen Kenntnisse in der Computeranimation.

Die Gefahren von Deepfakes

Die Gefahren von Deepfakes sind bei dieser neuen Technologie unübersehbar. Obwohl viele Menschen großes Potenzial in der Erstellung von Deepfakes sehen, dürfen die bestehenden Risiken keinesfalls ignoriert werden. Diese Technologie kann nicht nur zur Unterhaltung und kreativen Gestaltung genutzt werden, sondern birgt auch erhebliche Risiken für Datenschutz und Sicherheit. Deepfakes können genutzt werden, um falsche Identitäten vorzutäuschen, Desinformation zu verbreiten und das Vertrauen in digitale Medien zu untergraben. Daher ist es entscheidend, sich der möglichen Missbrauchsgefahren bewusst zu sein und geeignete Maßnahmen zur Erkennung und Verhinderung von Deepfakes zu ergreifen.

Stimmungsmache durch Täuschung 

Ein bedeutender Nachteil von Deepfakes ist die Möglichkeit des Missbrauchs zur Täuschung und Manipulation. Bereits jetzt werden Deepfakes genutzt, um falsche Informationen über Personen oder Organisationen zu verbreiten. Besonders besorgniserregend ist die Gefahr, dass Deepfakes in sozialen Medien Meinungen im großen Stil beeinflussen können, ohne dass die Nutzer dies bemerken. Dadurch können Falschinformationen in alarmierendem Tempo und Umfang verbreitet werden. Zudem könnten Deepfakes zur Verleumdung, Erpressung oder politischen Manipulation eingesetzt werden, was schwerwiegende ethische und gesellschaftliche Folgen nach sich ziehen kann. Die Fähigkeit, audiovisuelle Inhalte zu manipulieren, stellt eine ernsthafte Bedrohung für die Integrität von Informationen und das Vertrauen in digitale Medien dar.

Zudem könnten Deepfakes zur Verleumdung, Erpressung oder politischen Manipulation eingesetzt werden, was schwerwiegende ethische und gesellschaftliche Folgen nach sich ziehen kann. Die Fähigkeit, audiovisuelle Inhalte zu manipulieren, stellt eine ernsthafte Bedrohung für die Integrität von Informationen und das Vertrauen in digitale Medien dar.

Lesen Sie hierzu den Blogbeitrag von Menschen machen Medien.

Lesen Sie im zweiten Teil mehr über diese Themen:

  • Deepfakes auf Social Media 
  • Cybermobbing 
  • Wie kann man sich vor den Folgen schützen? 

2019 Aktive Inhalte App Beschäftigte BSI Business Continuity Bußgeld Corona Cybersicherheit Daten Datenmanagement Datenmissbrauch Datenschutz Datenschutz-Manager Datensicherheit Deep Fake Details DSB DSGVO E-Mail Internet IT-Sibe IT-Sicherheit Konferenz Kontrolle Lerneinheit Lernvideo Lupe Löschen Microsoft Mobile Device Management (MDM) Modell Notfall Office Ortsbegehung personenbezogene Daten Recht Schadcode Schutz Sicherheit Sicherheitslücken Unternehmen USB Stick Verschlüsselung vor Ort

Torben Bues

Meine Mission besteht darin, Menschen dabei zu unterstützen, robuste und effektive Sicherheitsmaßnahmen zu implementieren, um sensible Informationen zu schützen. Dabei versuche ich als IT-Deutsch-/ Deutsch-IT-Übersetzer eine Sprache nah bei der Anwender:in zu finden. Das gelingt mir häufig, aber nicht immer. Mit meiner Spezialisierung im Bereich “technischer Datenschutz” führe ich nicht nur umfassende Audits und Sicherheitsüberprüfungen durch, sondern entwickle auch maßgeschneiderte Lösungen, die den individuellen Bedürfnissen und Anforderungen meiner Kunden gerecht werden. In meiner beruflichen Laufbahn habe ich fundierte Erfahrungen in der Identifizierung und Behebung von Sicherheitslücken gesammelt. Dabei liegt mein Fokus nicht nur auf der Technologie, sondern auch auf den organisatorischen Prozessen, die einen ganzheitlichen Ansatz für Informationssicherheit gewährleisten. Ich bin davon überzeugt, dass die Sicherheit von Unternehmensdaten nicht nur eine technische Angelegenheit ist, sondern eine strategische Priorität, die das gesamte Unternehmen durchdringen sollte. Daher arbeite ich eng mit Führungskräften und Teams zusammen, um ein tiefgreifendes Verständnis für ihre spezifischen Anforderungen zu entwickeln und Lösungen zu implementieren, die nicht nur den rechtlichen Anforderungen entsprechen, sondern auch einen nachhaltigen Schutz vor potenziellen Bedrohungen bieten. In meiner Rolle als Berater ist es meine Verpflichtung, Unternehmen dabei zu unterstützen, ein Sicherheitsniveau zu erreichen, das nicht nur die heutigen, sondern auch zukünftige Herausforderungen berücksichtigt. Durch kontinuierliche Weiterbildung und Anpassung an die sich ständig entwickelnde Bedrohungslandschaft strebe ich danach, meinen Kunden stets die bestmögliche Unterstützung im Bereich der Informationssicherheit zu bieten.