1. Juni 2024, wir sind einen Tag von der Präsidentschaftswahl entfernt. Nach einer zermürbenden Kampagne bleiben zwei Kandidaten in einem technischen Gleichstand um den ersten Platz.

Es ist Zeit, Plan „D“ zu aktivieren. In der Nacht vor der Wahl kursierte ein Video, in dem einer der Konkurrenten offenbar eine Gewalttat begeht.

Es besteht kein Zweifel: Das Gesicht, die Stimme, das Video sind klar. Das Material verbreitete sich schnell und innerhalb weniger Stunden löste sich die Serie auf und hinterließ einen klaren Gewinner bei den Wahlen.

Einige Wochen später wurde entdeckt, dass das Video gefälscht war, eine Fälschung, die mit einer Technik namens „Deepfakes“, das künstliche Intelligenz nutzt, um die Bewegungen und Stimmen ausgewählter Personen perfekt nachzuahmen. Zu spät.

ER „DEEPFAKEUND DESINFORMATION

Die Technologie zur Nachbildung des Aussehens einer Person gibt es schon seit Jahrzehnten; Früher war es jedoch unerschwinglich teuer und die Ergebnisse waren nicht ganz zufriedenstellend. In den letzten Jahren hat sich dies dramatisch geändert. Fortschritte in der künstlichen Intelligenz haben der Öffentlichkeit extrem leistungsfähige Werkzeuge in die Hände gegeben, die die Stimme und den Gesichtsausdruck jedes Individuums überzeugend nachahmen können.

Er Deepfakes hat neue Filme aus erlaubt Krieg der Sterne „Wiederbelebung“ von Carrie Fisher als Prinzessin Leia oder Verjüngung von Mark Hamill als Luke Skywalker, wie wir in „Die Rückkehr der Jedi-Ritter“ gesehen haben. Kriminelle finden jedoch auch Möglichkeiten, diese Technologie auszunutzen.

Im März 2019 wird die Wallstreet Journal berichtet, dass a Hacker habe a verwendet Software künstliche Intelligenz, um die Stimme des CEO eines britischen Unternehmens zu klonen. Der Hacker rief einen anderen Manager seiner deutschen Tochtergesellschaft an und überzeugte ihn, 220.000 Euro auf das Konto des Lieferanten in Ungarn zu überweisen(1).

Ein noch besorgniserregenderer Fall ereignete sich letztes Jahr, als ein Video auftauchte Deepfakes von Wolodimir Zelensky zeigt den ukrainischen Führer, der seine Soldaten auffordert, die Waffen niederzulegen und sich der russischen Invasion zu ergeben. Das Video wurde in den sozialen Medien viral und erschien für kurze Zeit auf der Website Netz von ukrainischen Medien. Bislang ist der Urheber der Falschmeldung noch unbekannt.

Es wird immer schwieriger, Fakten von Fiktion zu unterscheiden. Fake News nehmen eine neue Dimension an, die ein breiteres Publikum irrezuführen droht. Tatsächlich erhielt ich vor einer Woche eine Reihe von „Fotos“ von Donald Trumps Verhaftung auf meinem Handy. Ich tappte in die Falle und teilte die Neuigkeiten mit mehreren Leuten, bis mir jemand sagte, dass das Bild mit Technologie erstellt wurde Deepfakes. Dieser Vorfall hat mich motiviert, diesen Artikel zu schreiben.

Ich glaube nicht, dass ein gesetzliches Verbot dieses Verhaltens viel dazu beitragen wird, es zu verhindern, wir sind auf dieselbe Technologie angewiesen, um dagegen vorzugehen. Einige soziale Netzwerke wie Facebook haben Jahre in Technologien investiert, die es ihnen ermöglichen, die Nutzung zu erkennen Deepfakesdie bevorstehenden Wahlen in Mexiko und den Vereinigten Staaten werden ein Lackmustest für diese Sicherheitsmaßnahmen sein.

Nachschrift: Sie verbreiteten ein Foto des rauchenden Charakters in roten Hosen, sie behaupteten, er sei ein Minister des Obersten Gerichtshofs der Nation. Am Ende stellt sich heraus, dass der Mann in Rot ein Musiker ist, der nichts mit dem Hof ​​zu tun hat. Das tut es nicht Deepfakes aber bösartige Rache für die Aussetzung der Wahlreform.

(1) https://www.wsj.com/articles/fraudsters-use-ai-to-mimic-ceos-voice-in-unusual-cybercrime-case-11567157402