Fakeshops erobern ChatGPT: Diese neue Masche beim KI-Shopping solltest du kennen

Die Zukunft des Shoppings ist dialogbasiert. Statt Suchmaschinen zu nutzen, fragen wir KI-Assistenten nach den besten Produkten für unsere Bedürfnisse. Doch mit dem Aufstieg von Agentic Commerce entsteht zugleich eine neue Angriffsfläche für Betrüger, wie jetzt ein Fall in Großbritannien zeigt.

Es war nur eine Frage der Zeit, bis Betrüger:innen das Potenzial von Agentic Commerce und LLMs im Onlinehandel entdecken würden. Jetzt gibt es einen ersten Fall, in dem Kund:innen getäuscht werden sollen – doch dabei wird es nicht bleiben. Verbraucherschützer in Großbritannien warnen jetzt vor einer neuen Betrugsmasche, bei der Kriminelle offenbar KI-gestützte Such- und Empfehlungssysteme ausnutzen, um bestimmte Fakeshops zu bewerben.

Wie die britische Zeitung The Guardian berichtet, tauchen in den Suchergebnissen bei ChatGPT gefälschte Online-Shops auf, die bekannten Einzelhändlern täuschend ähnlich sehen. So werden laut dem britischen Betrugserkennungsdienst Ask Silver potenzielle Kund:innen unter anderem auf nachgeahmte Websites der britischen Schuh- und Taschenmarke Russell & Bromley sowie des Einrichtungshändlers Dunelm geleitet.

Diese Fakeshops erfüllen die üblichen Kriterien, über die wir auch im Bezug auf hiesige Shops immer wieder berichten – sie wirken auf den ersten Blick seriös, bieten Produkte mit (verdächtig) hohen Rabatten an und imitieren das Erscheinungsbild der Originalunternehmen dank KI inzwischen erstaunlich gut. Die Käufer:innen bekommen die bestellten und per Vorkasse bezahlten Waren jedoch nicht, während Betrüger Geld- und Zahlungsdaten abgreifen und im schlimmsten Fall weiterverkaufen oder selbst anderweitig für Betrug nutzen.

Auch wenn wir für den deutschen Markt solche Fakeshop-Angebote noch nicht gefunden haben, wird es nur eine Frage der Zeit sein, bis auch bei uns eine Anfrage an ChatGPT nach einem bestimmten beliebten Produkt auf teilweise betrügerische Webseiten als Quellen verlinkt. Im Zusammenhang des mit „AI Poisoning“ umschriebenen Phänomens versuchen Kriminelle, die Datenbasis großer Sprachmodelle durch manipulierte Inhalte zu beeinflussen.