03.10.2024 - Plattformen wie TikTok, Instagram oder Snapchat bieten zahlreiche Funktionen an, die auf künstlicher Intelligenz (KI) basieren. Darunter fallen Bildgeneratoren, Chatbots und von KI erstellte Personen. Hochgeladene Bilder oder Videos werden automatisch analysiert, um passende Effekte, Filter oder Untertitel vorzuschlagen. Obwohl solche Mechanismen im Hintergrund ablaufen und an sich nicht problematisch sind, offenbaren sich die Risiken dieser neuen, KI-gesteuerten Möglichkeiten, wenn Kriminelle sie ausnutzen, um ihre Opfer zu manipulieren.
In sozialen Netzwerken wird KI schon seit geraumer Zeit eingesetzt, um das Nutzererlebnis zu optimieren. So schlägt sie beispielsweise neue Funktionen zur Bildoptimierung vor. Jugendliche interagieren heute selbstverständlich mit diesen KI-Funktionen, hinterfragen sie jedoch meist nicht.
Durch KI-Bildgeneratoren können Fotos, Videos oder Audio-Dateien entweder komplett neu erstellt oder nach Belieben verändert werden. Die resultierenden Produkte werden als Deepfakes bezeichnet. Derzeit sind Deepfakes bei genauerer Betrachtung meist noch erkennbar.
Typische Merkmale von Deepfake-Audios sind:
- Metallischer und monotoner Klang der Stimme;
- Merkwürdiger Inhalt des Telefongesprächs;
- Verwendung eines untypischen Wortschatzes.
Typische Merkmale von Deepfake-Videos sind:
- Unlogische Schatten oder unpassende Frisur zum Gesicht;
- Unscharfe Übergänge von Gesichtspartien;
- Unterschiedliche Qualität (Person vs. Hintergrund).
Cyberkriminelle nutzen Deepfake-Technologien, um ihre Identität zu verschleiern und eine Vertrauensbasis zum Opfer aufzubauen. Kinder und Jugendliche sind anfällig für solche Manipulationen, weil sich viele ihrer sozialen Interaktionen im Internet abspielen. Zudem sind junge Menschen häufig vertrauensvoller unterwegs als Erwachsene. Wie Nummern gefälscht werden, Stimmen und sogar Schweizer Dialekte imitiert oder live Videobilder verfälscht werden können, zeigt Brian Ceccato, Technischer Analyst im Bundesamt für Cybersicherheit BACS im Video.
Tipps und Empfehlungen:
- Schütz dich und deine Daten!
- Nimm dir Zeit, um genau hinzuschauen!
- Sei misstrauisch, auch online!
- Überprüfe die Quelle!
- Sei zurückhaltend mit der Veröffentlichung von persönlichen Informationen!
Weitere Informationen
Künstliche Intelligenz: Jugend und Medien
Netpathie – Sicherheit im Netz, Kinder und Internet, Cyber-Mobbing
Letzte Änderung 03.10.2024
