Fake Shops im Internet haben gerade in der Pandemiezeit Hochsaison. © ÖIAT

Das AIT Austrian Institute auf Technology sagt dem Internetbetrug und Fake News den Kampf an. Dabei erweisen sich die Fähigkeiten von künstlicher Intelligenz als wirksam – und zielsicher.

Desinformation hat viele Facetten. Eine davon betrifft den Cybersecurity-Sektor, wenn es um das Einkaufen in Onlineshops geht. Mit Beginn der Covid-19-Pandemie kam es auf diesem Gebiet zu einer gewaltigen Zunahme betrügerischer Onlineanbieter. Sogenannte Fake Shops sehen oftmals täuschend echt aus und versprechen KonsumentInnen tolle Markenprodukte zu sagenhaft günstigen Preisen. Eines haben sie jedoch alle gemeinsam: Das Geld ist weg. Geliefert wird entweder extrem minderwertige Ware oder aber in den meisten Fällen wird überhaupt nichts auf den Postweg gebracht. Rund 12.000 Betrugsfälle in Bezug auf Onlineshops wurden 2020 in Österreich gemeldet. Die Dunkelziffer liegt vermutlich deutlich höher.

KI gegen Fake Shops
Die Forschung macht indes Fortschritte, um die unkontrollierte Verbreitung von Desinformationen unter Einhaltung sozialer, kultureller und rechtlicher Normen zu bekämpfen. Mit neuen, auf künstlicher Intelligenz (KI) basierenden Methoden sowie mit der Zusammenführung von Informationen aus unterschiedlichen Quellen soll es möglich werden, den Wahrheitsgehalt von Nachrichten zu testen sowie die Echtheit von Onlineshops in Echtzeit zu überprüfen und vor betrügerischen „Fake Shops“ automatisch zu warnen.

Diesbezüglich hat das AIT Austrian Institute of Technology eine erste Lösung für KonsumentInnen – den Fake-Shop Detector – entwickelt. Die Data-Science-ExpertInnen Andrew Lindley und Olivia Dinica forschen seit 2018 an der Entwicklung von KI-Modellen, die den Quellcode von Onlineshops durchleuchten und auf Basis der extrahierten Merkmale die Ähnlichkeit zu bereits bekannten Fake Shops erlernen.

Olivia Dinica erklärt die Funktion des Detektors im Detail: „Viele Fake-Shop-Betreiber kopieren Teile des Aufbaus ihrer Seiten. Diese sehen zwar für den Konsumenten/die Konsumentin gänzlich anders aus, sind aber im Hintergrund in der Programmierung teilweise ähnlich gestrickt. Die Aufgabe der KI ist es nun, aus dem Zusammenspiel unterschiedlicher Merkmale klare Muster zur Unterscheidung von Fake Shops zu erlernen. Trainiert wurde der Detector auf über 6.000 Onlineshops. Um ein Beispiel für diese Komplexität zu geben: Vergleiche ich etwa händisch Daten einer Website, erkenne ich manuell auf den ersten Blick höchstens optisch wiederkehrende Muster, wie etwa simple Rechtschreibfehler oder wenn das Impressum und Bilder kopiert wurden. Die KI-gestützte Einschätzung kann ExpertInnen der Kriminalitätsprävention somit eine gänzlich andere Sichtweise auf unbewusst enthaltene Merkmale einer Webseite bieten. Wie häufig werden etwa dieselben Bibliotheken genutzt, existieren wiederkehrende Muster im Code, aber auch das Nichtvorhandensein von Merkmalen kann wesentlichen Einfluss auf die Entscheidungsfindung der KI haben.“

Andrew Lindley zur Robustheit des KI-Ansatzes: „Wird eine unbekannte Seite somit auf ihre Ähnlichkeit zu bekannten Bedrohungen untersucht, stehen zur Risikobewertung dieses Onlineshops über 20.000 Faktoren zur Verfügung. In der Praxis hat sich gezeigt, dass gerade die Kombination dieser Vielzahl von Einzelfaktoren zu einer sehr genauen und robusten Gesamteinschätzung der KI-Modelle beiträgt.“

Wenn man den bald zur Verfügung stehenden Fake-Shop Detector als Browser-Plugin installiert, bedeutet das nicht nur, dass man vor Tausenden bereits bekannten betrügerischen Onlineshops beim Surfen gewarnt wird, sondern auch, dass neu aufkommende Bedrohungen KI-basiert erkannt und diese sofort zur Qualitätssicherung an die ExpertInnen der Cybercrime-Prävention weitergeleitet werden. Von Juli 2020 bis April 2021 bewertete das hinter den Entwicklungen stehende und vom BMLRT geförderte KIRAS-Projekt SINBAD („Sicherheit und Prävention vor organisiertem Internet-Bestellbetrug für Anwender durch Maßnahmen der Digitalen Forensik“) über 23.000 Webseiten und erreichte dabei eine Treffsicherheit von 90 Prozent korrekter Einschätzungen im Praxiseinsatz.

Das für den Endverbraucher konzipierte Plugin, das in Zusammenarbeit mit dem ­Österreichischen Institut für angewandte Telekommunikation (ÖIAT) und dem IT-Dienstleister X-Net Services GmbH entstanden ist, kann demnächst unter www.fakeshop.at sowie über die App-Stores der Browser Google Chrome, Firefox und Microsoft Edge kostenlos installiert werden.

Neben der erhöhten Cybersicherheit hält Lindley noch einen weiteren Faktor für entscheidend: „Durch den Community-Effekt des Fake-Shop Detectors trägt jeder automatisch dazu bei, dass betrügerische Angebote rascher gefunden werden. Man schützt somit nicht nur sich selbst passiv beim Surfen, sondern hilft aktiv dabei, auch andere zu schützen.“ Besonders stolz ist das Projekt auf die Zusammenarbeit mit einer Vielzahl an Kooperationspartnern, wie etwa dem Österreichischen Buchhandel, dem E-Commerce-Gütezeichen und weiteren Partnern, über welche vor allem regionale Unternehmen eine stärkere Sichtbarkeit erhalten.

Automatisierter Faktencheck
Wie eingangs erwähnt, ist es wichtig, neue Werkzeuge zu schaffen, die den handelnden Akteuren (KonsumentInnen, aber auch Handel, Medienunternehmen, Behörden etc.) wieder die Fähigkeit zurückgeben, im Information-Overload Faktenchecks durchführen zu können. Im KIRAS-Projekt defalsif-AI werden medienforensische Werkzeuge entwickelt, die AnwenderInnen eine erste Einschätzung der Glaubwürdigkeit von Text‑, Bild‑, Video- oder Audiomaterial im Internet erlauben. Zum Einsatz kommt dabei ebenfalls künstliche Intelligenz.

Das von AIT-Experte Martin Boyer geleitete Projekt fokussiert insbesondere auf politisch motivierte Desinformation und eine teilautomatisierte Erkennung dieser zur Unterstützung der NutzerInnen. Wird eine Meldung positiv aufgenommen? Entbrennt eine Kontroverse? Gibt es ausgeprägte Echokammern? Und grundsätzlicher: Wie verbreiten sich Fake News in sozialen Netzen? In Experimenten am AIT konnten damit Fake News in Artikeln zu rund 85 Prozent korrekt klassifiziert werden. (red/PR)

www.ait.ac.at/dss