Deepfakes von Taylor Swift verbreiteten sich online und lösten Empörung aus

By | January 27, 2024

Im Internet kursieren gefälschte pornografische Bilder von Taylor Swift, die die Sängerin zum berühmtesten Opfer machen eine Geißel dass Technologieplattformen und Anti-Missbrauchsgruppen Schwierigkeiten hatten, das Problem zu beheben.

Seit dieser Woche kursieren gefälschte, sexuell eindeutige und beleidigende Bilder von Swift auf der Social-Media-Plattform X.

Ihre begeisterte „Swifties“-Fangemeinde mobilisierte schnell und startete eine Gegenoffensive auf der Plattform, die früher als Twitter bekannt war, und einen #ProtectTaylorSwift-Hashtag, um die Social-Media-Seite mit positiveren Bildern des Popstars zu überfluten. Einige sagten, sie würden Konten melden, die Deepfakes teilten.

Die Screen Actors Guild veröffentlichte am Freitag eine Erklärung zu diesem Thema, in der sie die Bilder von Swift als „beunruhigend, schädlich und zutiefst besorgniserregend“ bezeichnete und hinzufügte, dass „die Entwicklung und Verbreitung falscher Bilder – insbesondere solcher obszöner Natur – ohne die Zustimmung von jemandem.“ sollte illegal gemacht werden.

Die Deepfake-Erkennungsgruppe Reality Defender sagte, sie habe eine Flut von nicht einvernehmlichem pornografischem Material mit Darstellungen von Swift verfolgt, insbesondere auf X. Einige Bilder gelangten auch auf Facebook und andere Social-Media-Plattformen von Meta.

„Leider verbreiteten sie sich bereits auf Millionen und Abermillionen von Benutzern, als einige von ihnen entfernt wurden“, sagte Mason Allen, Wachstumsleiter bei Reality Defender.

Forscher haben mindestens ein paar Dutzend einzigartige, von der KI generierte Bilder gefunden. Die am häufigsten geteilten Bilder hatten mit Fußball zu tun und zeigten einen bemalten oder blutigen Swift, der sie objektivierte und in einigen Fällen ihrer falschen Persönlichkeit gewaltsamen Schaden zufügte.

Dies geschieht nach Anfang dieses Monats ein KI-generiertes Video Auch im Internet kursierte ein Bild von Swift, der ein gefälschtes Kochgeschirr-Werbegeschenk von Le Creuset befürwortet. Es war unklar, wer hinter diesem Betrug steckte, und Le Creuset entschuldigte sich bei denen, die möglicherweise getäuscht wurden.

Forscher ermittelten die Zahl der expliziten Deepfakes gewachsen In den letzten Jahren ist die Technologie zur Erstellung solcher Bilder zugänglicher und benutzerfreundlicher geworden. Im Jahr 2019 zeigte ein vom KI-Unternehmen DeepTrace Labs veröffentlichter Bericht, dass diese Bilder überwiegend als Waffe gegen Frauen eingesetzt wurden. Die meisten Opfer seien Hollywood-Schauspieler und südkoreanische K-Pop-Sänger gewesen, sagte er.

Brittany Spanos, eine leitende Autorin beim Rolling Stone, die an der New York University einen Kurs über Swift unterrichtet, sagt, dass Swift-Fans den Künstler schnell unterstützen, insbesondere diejenigen, die ihre Fangemeinde sehr ernst nehmen und sich in grenzüberschreitenden Situationen befinden. .

„Das könnte eine große Sache sein, wenn sie den Fall tatsächlich vor Gericht bringt“, sagte sie.

Als sie um einen Kommentar zu den gefälschten Bildern von Swift gebeten wurde, verwies X Associated Press auf einen Beitrag aus ihrem Sicherheitskonto, in dem es hieß, das Unternehmen verbiete die Weitergabe von nicht einvernehmlichen Nacktbildern auf seiner Plattform strengstens. Das Unternehmen hat seine Content-Moderationsteams drastisch reduziert, seit Elon Musk die Plattform im Jahr 2022 übernommen hat.

„Unsere Teams entfernen aktiv alle identifizierten Bilder und ergreifen entsprechende Maßnahmen gegen die Konten, die für deren Veröffentlichung verantwortlich sind“, schrieb das Unternehmen am Freitagmorgen in Beitrag X. „Wir beobachten die Situation genau, um sicherzustellen, dass weitere Verstöße sofort behoben und die Inhalte entfernt werden.“

Unterdessen sagte Meta in einer Erklärung, dass es „Inhalte, die auf verschiedenen Internetdiensten aufgetaucht sind“ aufs Schärfste verurteile und sich für deren Entfernung eingesetzt habe.

„Wir überwachen unsere Plattformen weiterhin auf solche rechtsverletzenden Inhalte und werden bei Bedarf entsprechende Maßnahmen ergreifen“, sagte das Unternehmen.

Ein Vertreter von Swift reagierte am Freitag nicht sofort auf eine Bitte um Stellungnahme.

Allen sagte, die Forscher seien zu 90 % davon überzeugt, dass die Bilder durch Diffusionsmodelle erstellt wurden, bei denen es sich um eine Art generatives Modell der künstlichen Intelligenz handelt, das aus schriftlichen Anweisungen neue, fotorealistische Bilder erzeugen kann. Die bekanntesten sind Stable Diffusion, Midjourney und DALL-E von OpenAI. Allens Gruppe versuchte nicht, die Herkunft zu bestimmen.

Microsoft, das einen teilweise auf DALL-E basierenden Bildgenerator anbietet, sagte am Freitag, es untersuche, ob sein Tool missbräuchlich verwendet worden sei. Wie bei anderen kommerziellen KI-Diensten hieß es auch, dass es „keine Inhalte für Erwachsene oder nicht einvernehmliche intime Inhalte zulasse, und jeder wiederholte Versuch, Inhalte zu produzieren, die gegen unsere Richtlinien verstoßen, kann zum Verlust des Zugriffs auf den Dienst führen.“

Auf die Frage nach den Swift-Deepfakes in „NBC Nightly News“ sagte Microsoft-CEO Satya Nadella am Freitag, dass bei der Definition von KI-Sicherheitsmaßnahmen noch viel zu tun sei und „es an uns liegt, hier schnell zu handeln.“

„Das ist absolut alarmierend und entsetzlich und deshalb müssen wir handeln“, sagte Nadella.

Midjourney, OpenAI und Stable Diffusion-Maker Stability AI reagierten nicht sofort auf Anfragen nach Kommentaren.

Bundesgesetzgeber, die Gesetzesentwürfe eingebracht haben, um Deepfake-Pornografie stärker einzuschränken oder zu kriminalisieren, haben darauf hingewiesen, dass der Vorfall zeigt, warum die USA bessere Schutzmaßnahmen einführen müssen.

„Seit Jahren sind Frauen Opfer von nicht einvernehmlichen Deepfakes, daher kommt das, was Taylor Swift widerfahren ist, häufiger vor, als den meisten Menschen bewusst ist“, sagte die Abgeordnete Yvette D. Clarke, eine New Yorker Demokratin, die ein Gesetz eingeführt hat, das von den Urhebern eine digitale Kennzeichnung verlangen würde Deepfake-Inhalte.

Der Abgeordnete Joe Morelle, ein weiterer New Yorker Demokrat, der sich für einen Gesetzentwurf einsetzt, der das Teilen von Deepfake-Pornografie im Internet kriminalisieren würde, sagte, das, was Swift passiert sei, sei beunruhigend und habe sich im Internet immer weiter verbreitet.

„Die Bilder mögen gefälscht sein, aber ihre Auswirkungen sind sehr real“, sagte Morelle in einer Erklärung. „In unserer zunehmend digitalen Welt passieren Frauen auf der ganzen Welt jeden Tag Deepfakes, und es ist an der Zeit, ihnen ein Ende zu setzen.“

Leave a Reply

Your email address will not be published. Required fields are marked *