Deepfakes australischer Politikerinnen wie Penny Wong und Katy Gallagher für Anlagebetrug verwendet | Australische Politik

Bilder der Finanzministerin Katy Gallagher und der Außenministerin Penny Wong wurden in Deepfake-Videos zu Anlagebetrug verwendet. Dies sind die jüngsten Beispiele für einen besorgniserregenden Trend, bei dem Politiker für Online-Betrug missbraucht werden.

Auch die Gesichter der Senatorin der National Party, Bridget McKenzie, und des ehemaligen Premierministers Scott Morrison wurden für Betrügereien in Form von Facebook-Videos verwendet, die offenbar von künstlicher Intelligenz generiert wurden. In dieser Woche gab es mehr als ein Dutzend Beispiele dafür, wie bezahlte Anzeigen Tausende von Australiern erreichten, bevor sie wieder entfernt wurden.

„Ich möchte klarstellen, dass weder ich noch ein anderer Politiker den Australiern online Produkte oder Investitionsmöglichkeiten anpreisen würde“, sagte Gallagher.

Stephen Jones, der für die Betrugsbekämpfung zuständige Bundesminister, warnte, künstliche Intelligenz könne den Betrug „ankurbeln“, und wies auf bevorstehende Reformen hin, die die Social-Media-Unternehmen zu mehr Maßnahmen zwingen sollen.

Guardian Australia hat Dutzende von Anzeigen aufgedeckt, die kürzlich auf Facebook geschaltet wurden und die Teil eines koordinierten Netzwerks betrügerischer Aktivitäten zu sein scheinen. Das Bild von McKenzie wurde in vielen von ihnen verwendet. Ein kürzlicher Auftritt bei Sky News mit Moderator Chris Kenny wurde manipuliert, um den Eindruck zu erwecken, als würden der Journalist und Politiker eine Investition anpreisen, bei der „jeder Australier in der ersten Woche 7.700 Dollar erhält“.

In den Videos scheint künstliche Intelligenz eingesetzt worden zu sein, um die Sicht und die Stimmen von McKenzie und Kenny sowie anderen Politikern wie Wong, Morrison und Gallagher zu manipulieren.

Kenny warnte die Zuschauer während seiner Sendung auf Sky News am Mittwoch, dass es sich bei den Bildern um einen Schwindel handele.

Mindestens 11 verschiedene Seiten haben genau dasselbe Video gepostet und Tausende von Australiern über das von Facebook gesponserte Werbenetzwerk erreicht. Einige Seiten, die diesen und ähnliche Betrugsmaschen posten, haben Administratoren mit Sitz in Ländern wie der Ukraine und Vietnam oder werden in Währungen wie dem Singapur-Dollar, dem peruanischen Sol, dem brasilianischen Real, dem mexikanischen Peso, der dänischen Krone und dem ägyptischen Pfund bezahlt.

Die meisten Seiten haben die Anzeige nur mit kleinen Beträgen beworben, die einigen hundert australischen Dollar entsprechen. Viele der Seiten wurden entweder gelöscht oder ihre Anzeigen wurden entfernt, weil sie nicht den Werberegeln von Facebook entsprachen. Alle Anzeigen sind jetzt inaktiv, viele davon nur für kurze Zeit.

Aber zumindest eine Version der McKenzie-Anzeige wurde mit bis zu 15.000 australischen Dollar an bezahlter Werbung aufgestockt und erreichte bis zu 250.000 Australier.

„Das unterstreicht das Problem mit KI. Die eigene Identität, der Ruf, das Gesicht und die Stimme von Menschen können auf eine Art und Weise verwendet werden, die sie sich nie hätten vorstellen können“, sagte McKenzie.

Sie sagte, sie habe versucht, die Betrugsvideos den Behörden zu melden, behauptete jedoch, „niemand wisse genau, wie man damit umgehen soll“.

„Wenn unsere Identität und unser Bild für solche Zwecke verwendet werden, wird das Vertrauen in Institutionen und Parlamentarier delegitimiert und weiter beeinträchtigt“, sagte McKenzie.

Ein ähnlich manipuliertes Video, das dieselbe Schriftart und denselben visuellen Stil verwendet, scheint Gallagher bei einem Fernsehinterview mit ABC zu zeigen. Das Video verspricht „36.000 Dollar monatlich für jeden Bürger, der 400 Dollar investiert“, und zwar im Rahmen eines angeblich von der Regierung ausgearbeiteten „Anti-Inflationsplans“, wie es der Betrug vorgibt. Diese Anzeige erreichte bis zu 2.000 Menschen.

Mindestens vier Seiten haben ähnliche Videos von Morrison gepostet, der Anfang des Jahres aus dem Parlament ausschied. In einem manipulierten Video, dessen Original im Mai 2023 in seinem Büro im Parlamentsgebäude gedreht wurde, beschreibt sich Morrisons KI-manipulierte Stimme als „Milliardär, Geschäftsmann, Politiker und einfach ein glücklicher Mann“ und wirbt für ein weiteres Schema, mit dem man schnell reich werden kann.

Bezahlte Anzeigen, die diese Beiträge bewarben, erreichten bis zu 70.000 Menschen.

Wongs Bild wird auch in einem ähnlichen, aber nicht damit zusammenhängenden Betrugsversuch verwendet. Es wird so manipuliert, dass es den Anschein erweckt, als würde es für ein Finanzprodukt werben. In dem Beitrag, der weniger als 1.000 Menschen erreichte, taucht auch ein manipuliertes Video der Atlassian-Gründer Mike Cannon-Brookes und Scott Farquhar auf.

Gallagher verwies auf die Bemühungen der Regierung, gegen Betrügereien vorzugehen, sagte jedoch, die Tatsache, dass sie selbst an solchen Betrügereien beteiligt war, sei „eine wichtige Erinnerung daran, nicht alles zu glauben, was man online sieht“.

„Deepfake-Videos sind ein schreckliches Werkzeug, mit dem Betrüger Menschen ihr hart erspartes Erspartes abknöpfen, und wir wissen, dass sie immer häufiger vorkommen. Jedes Video, das dies zeigt, ist gefälscht und sollte Scamwatch gemeldet werden“, sagte sie und verwies auf die Bundesinitiative der australischen Wettbewerbs- und Verbraucherkommission.

Jones, Minister für Finanzdienstleistungen, warnte zudem, dass künstliche Intelligenz zu einer Zunahme von Online-Betrugsfällen führe.

„Diese Typen sind zwar nichts als dumme Kerle, aber sie imitieren echte Werbung mit High-Tech-Promi-Fälschungen. Der Einsatz von KI wird ihren Betrügereien Auftrieb verleihen“, sagte er.

„Es liegt an den Betreibern sozialer Medien, diesem Zeug nachzuspüren und es von ihren Plattformen zu entfernen.

„Unsere nächste Reformwelle wird von Banken, Telekommunikationsunternehmen und Social-Media-Plattformen verlangen, ihre Kunden vor Betrug zu schützen.“

Die Regierung ergreift Maßnahmen, um KI-bezogene Schäden auszumerzen, und erwägt Reformen wie die obligatorische Anbringung von Wasserzeichen auf KI-generierten Bildern oder andere „Leitplanken“ zum Schutz vor Missbrauch.

Doch McKenzie sagte, sie sei über die Schäden besorgt, die bereits eingetreten seien.

„Dies ist eine Technologie, die sehr schnell angenommen und missbraucht wird, und wir sprechen hier von einem sehr hochentwickelten, gut ausgestatteten – ich würde sagen, kriminellen – Element, das hier arbeitet“, sagte sie über die Betrügereien.

„Es ist nur ein Katzensprung, bis diejenigen, die unserer Demokratie schaden wollen, dieselben Taktiken anwenden.“