Deepfakes waren ein Problem – Taylor Swift war der Wendepunkt

By | January 27, 2024

Es gab unzählige „Deepfakes“ von Politikern, die in den sozialen Medien kursierten, darunter eines im September, bei dem es um den Ausstieg des Gouverneurs von Florida, Ron DeSantis, aus dem Präsidentschaftswahlkampf ging. Es gab auch immer wieder Warnungen, dass die Technologie schwerer zu erkennen und noch schwerer zu stoppen sein würde.

Bis diese Woche jedoch ein explizites Deepfake von Taylor Swift viral ging und die Aufmerksamkeit der Gesetzgeber und der Massen auf sich zog, gab es kaum Maßnahmen, um das Problem tatsächlich anzugehen. Das Weiße Haus reagierte sogar und forderte den Kongress zum Handeln auf.

„Wir sind beunruhigt über Berichte über kursierende Bilder … genauer gesagt über gefälschte Bilder. Und es ist alarmierend“, sagte die Pressesprecherin des Weißen Hauses, Karine Jean-Pierre, bei der Pressekonferenz im Weißen Haus am Freitag. „Während Social-Media-Unternehmen ihre eigenen, unabhängigen Entscheidungen über das Content-Management treffen, glauben wir, dass sie eine wichtige Rolle bei der Durchsetzung ihrer eigenen Regeln spielen müssen, um die Verbreitung von Fehlinformationen und intimen, nicht einvernehmlichen Bildern realer Menschen zu verhindern.“

Am Freitag forderte auch die Screen Actors Guild-American Federation of Television and Radio Artists, Deepfakes illegal zu machen, nachdem die Technologie kürzlich zur Generierung expliziter Bilder von Taylor Swift eingesetzt wurde, sowie ein neues Comedy-Special, in dem die verstorbene Person vorgestellt wurde George Carlin.

„Die sexuell eindeutigen, KI-generierten Bilder, die Taylor Swift zeigen, sind verstörend, schädlich und zutiefst besorgniserregend“, sagte SAG-AFTRA in einer Erklärung.

Wird es schnelle Maßnahmen geben?

Früher galten Deepfakes vielleicht als ernstes Problem, aber jetzt, wo Pop-Superstar Taylor Swift involviert ist, scheint es, als gäbe es endlich schnelle Maßnahmen, um das Problem anzugehen.

„Taylor Swifts Deepfakes schaden offensichtlich ihrer Marke, wenn nicht sogar ein Beweis für den Diebstahl geistigen Eigentums.“ Schließlich basiert ein qualitativ hochwertiges Deepfake – und ich hasse es, das Wort „Qualität“ in Bezug auf die Bilder zu verwenden, die gerade in Umlauf gebracht wurden – auf vielen Originalbildern, die mit ziemlicher Sicherheit anderen gehörten. „Diese Bilder sind Wasser für die KI-Mühle, die sie zermahlt, bis sie eine von jemand anderem ausgewählte Geschichte erzählen“, erklärte Dr. Jim Purtilo, außerordentlicher Professor für Informatik an der University of Maryland.

Purtilo warnte jedoch, dass wir noch immer erst den Anfang der potenziellen Gefahren von Deepfakes sehen.

„Bald werden Persönlichkeiten des öffentlichen Lebens politische Kandidaten unterstützen, betrügerische Produkte fördern und Betrug ermöglichen – so scheint es zumindest“, fügte er hinzu. „Mit genügend Rechenleistung kann jeder böswillige Akteur, der genügend Originalbilder in die Hände bekommt, alle möglichen betrügerischen Medien herstellen, um die Öffentlichkeit zu täuschen. Und nichts, was ich bisher von der vorgeschlagenen Verordnung gesehen habe, wird irgendeinen Einfluss auf diesen Trend haben, da Computer nur zugänglicher, erschwinglicher und benutzerfreundlicher werden.“

Mehr als bearbeitete Fotos

Seit der Entwicklung von Technologien kommt es zu Manipulationen an Fotos, Filmen und Videos. Ein berühmtes Foto des damaligen Unionsgeneral Ulysses S. Grant zu Pferd gehörte tatsächlich zu den ersten „bearbeiteten“ Fotos – auf dem sein Kopf auf dem Körper eines anderen Offiziers platziert war.

Was jetzt anders ist, ist, wie einfach es ist, Deepfakes zu erstellen. Es sind praktisch keine Kenntnisse erforderlich.

„Wir waren schon einmal hier. In den frühen 2000er Jahren führte das Zusammentreffen von sich schnell entwickelnden Fotobearbeitungstools, Webvertriebsdiensten und kommerziellen Pornografieseiten dazu, dass Bilder beliebter Künstler wie Britany Spears und Madonna auf Pornoseiten „gekauft“ wurden. „Ähnliche Taktiken mit Videos auszuprobieren war technisch problematisch, aber die heutigen Deepfakes ermöglichen es Pornoproduzenten, scheinbar realistische Bilder von Grund auf zu erstellen“, bemerkte der Technologiebranchenanalyst Charles King von Pund-IT.

„Ich bin mir nicht sicher, ob es einen Ausweg gibt. Einerseits bezogen sich die KI-bezogenen Probleme, die während des jüngsten Streiks der Screen Actor Guild (SAG) auftraten, auf die Gesetzgebung, die es Darstellern erlaubte, ihre physischen Bilder und Stimmen zu „besitzen“. , würde ein rechtliches Mittel bieten, um die Erstellung von Deepfakes anzufechten und einzuschränken“, fügte King hinzu.

Allerdings müssten auch die Betroffenen noch die Verantwortlichen ausfindig machen, die die Fälschungen erstellt haben.

„Darüber hinaus sehen wir bereits, dass Meta, X und andere Social-Media-Unternehmen behaupten, dass sie daran arbeiten, Deepfakes vom Swift-Typ zu entfernen“, fuhr King fort. „Wir haben dieses Lied schon einmal von diesen Unternehmen gehört, aber Swifts öffentliche Haltung, ihre klar definierte Medienpersönlichkeit und ihr beträchtliches finanzielles Vermögen würden sie zu einer gewaltigen Gegnerin machen, wenn sie sich dazu entschließen würde, sie zu verklagen, weil sie die Veröffentlichung, Verbreitung und Weitergabe erlaubt haben von Bildern, die falsch und verleumderisch sind. .”

Es kann notwendig sein, die Plattformen, die diese Inhalte hosten, zur Rechenschaft zu ziehen, wenn auch nur für kurze Zeit.

„Es ist nicht immer erfolgreich, soziale Medien, das Internet und andere Technologiegiganten in die Tasche zu greifen. Aber es ist normalerweise der beste Weg, ihre Aufmerksamkeit zu erregen und schlechtes Verhalten zu ändern“, sagte King.

Über ein öffentliches Image hinaus

Die expliziten Bilder, die auf X, der Social-Media-Plattform, die früher als Twitter bekannt war, gepostet wurden, verzeichneten in weniger als 24 Stunden nach ihrer Veröffentlichung mehr als 27 Millionen Aufrufe. Es besteht sicherlich die Gefahr, dass, wenn sie nicht handelt, dies ihrer Marke schaden könnte, genauso wie das KI-generierte „Comedy-Special“ des verstorbenen George Carlin sein Vermächtnis schädigen könnte.

Die größte Bedrohung durch Deepfakes könnte jedoch normale Amerikaner betreffen, die nicht über mächtige Gilden verfügen, die sie schützen.

„Die größten Probleme in unserer Zukunft werden von denen kommen, die diese Technologie nutzen, um Phishing und Identitätsdiebstahl zu erleichtern, sobald die Tools gut genug sind, um realistische Fälschungen zu erstellen, die nichtöffentliche Personen darstellen, die weniger Originalmedien nutzen können. in der Ausbildung“, fügte Purtilo hinzu.

Leave a Reply

Your email address will not be published. Required fields are marked *