08.10.2024 - Immer häufiger wird über Betrugsversuche, die mit mehr oder weniger Hilfe von künstlicher Intelligenz (KI) ausgeübt werden, berichtet. So wurden mit künstlicher Intelligenz Stimmen imitiert, Deep-Fake-Videos oder Texte in Schweizerdeutsch erstellt. Vergangene Woche wurde dem BACS eine Manipulation eines Eintrags bei einem Bewertungssystems gemeldet, bei dem künstliche Intelligenz zum Einsatz kam.
Bewertungssysteme bieten in der digitalen Welt den Kunden die Möglichkeit, sich ein umfassendes Bild von einer Firma oder einem Produkt zu machen, bevor sie eine Kaufentscheidung treffen. Besonders im Gastgewerbe oder bei Onlineshops spielen so genannte Rezensionen eine entscheidende Rolle beim Kaufentscheid. Viele potenzielle Kunden lesen vor der Buchung oder vor dem Kauf die Bewertungen anderer Kunden, um sicherzustellen, dass ihre Erwartungen erfüllt werden. Diese Rezensionen haben daher ein erhebliches Gewicht. Positive Bewertungen können das Vertrauen neuer Kunden gewinnen und den Umsatz steigern, während negative Bewertungen potenzielle Kunden abschrecken können. Doch gerade, weil Bewertungen Entscheidungen beeinflussen können, besteht auch die Gefahr des Missbrauchs. Sowohl Unternehmen als auch unzufriedene Kunden können versuchen, Bewertungssysteme zu manipulieren. Unternehmen könnten beispielsweise gefälschte positive Bewertungen erstellen oder negative Bewertungen löschen lassen, um ihr Image zu verbessern. Auf der anderen Seite können unzufriedene Kunden oder sogar Konkurrenten absichtlich negative Bewertungen hinterlassen, um dem Unternehmen zu schaden.
Ein spezieller Fall erregte die Aufmerksamkeit des BACS. Dabei wurden mit künstlicher Intelligenz erstellte Fotos verwendet, um einen möglichst schlechten Eindruck eines Unternehmens zu vermitteln. Die Bilder zeigten schmutzige Toiletten, verdorbenes Essen und stark verschmutzte Zimmer. Es ist unklar, ob hier real existierende Bilder manipuliert oder völlig neue Bilder erstellt worden sind. Auch das Motiv ist unbekannt. Auch wenn die Situation in diesem Fall so übertrieben dargestellt ist, dass die Fälschung leicht zu erkennen sein dürfte, zeigt sie das Missbrauchspotenzial, das mit KI-generierten Bildern erzeugt werden kann. Mit Hilfe künstlicher Intelligenz lassen sich mit wenigen Mausklicks Würmer in das Bild eines Salats oder Schimmelspuren in einem Hotelzimmer einfügen.
Mittlerweile haben viele Internetnutzerinnen und -nutzer eine gesunde Portion Skepsis gegenüber Texten entwickelt. Das gilt auch für Rezensionen. Gerade im Kontext von Betrugsdelikten verfügt die Bevölkerung über eine zunehmende Sensibilität, die dazu führt, dass nicht jeder Geschichte geglaubt wird. Auf der anderen Seite wird den Bildern und Videos in der Regel eher vertraut, obwohl auch diese mittlerweile mittels KI einfach manipuliert werden können. Das BACS geht davon aus, dass das Vertrauen in Bilder und Videos in Zukunft erheblich abnehmen wird, da KI-Anwendungen zunehmend verfügbar und immer einfacher zu bedienen sind. Daher wird auch bei Bildern eine grössere Skepsis notwendig werden und die dargestellten Inhalte müssen genauso hinterfragt werden, wie das bei Texten bereits der Fall ist. Medienkompetenz nimmt eine zunehmend bedeutendere Rolle ein.
Empfehlungen
- Aus Sicht der Firma:
Verfügen Sie als Firma einen Eintrag Ihres Geschäfts auf einer Bewertungsplattform, empfiehlt das BACS die regelmässige Kontrolle sowie die rasche Reaktion, wenn unberechtigte Einträge entdeckt werden; - Aus Sicht der Kunden:
Rezensionen stellen ein wichtiges Instrument zur Evaluierung der Qualität einer (Online-)Dienstleistung dar. Trotzdem ist es ratsam, beim Lesen der Bewertungen eine gesunde Portion Skepsis an den Tag zu legen. Sind mehrere Rezensionen ähnlich formuliert, ist genauso Vorsicht geboten, wie bei extrem positiven oder äusserst negativen Rezensionen.
Aktuelle Zahlen und Statistiken
Die Anzahl Meldungen der letzten Woche nach Kategorien sind publiziert unter:
Letzte Änderung 08.10.2024
