Trennung von Fakt und Fiktion im digitalen Zeitalter
Die Kompetenzen von Airbus in den Bereichen Cyber und Big Data helfen bei der Bekämpfung von Online-Desinformation und schädlichen, KI-generierten Inhalten. Das Unternehmen hat einen Demonstrator entwickelt, der KI-Algorithmen trainiert, um Fake News zu erkennen. Airbus koordiniert auch ein EU-Konsortium, das an der Entwicklung eines europäischen Werkzeugkastens für die Cyber- und Informationskriegsführung mitwirken soll.
Posts zeigen Menschenschlangen vor einer der wichtigsten Banken der Ukraine, die Geldabhebungen angeblich untersagt hat. Gleichzeitig wird die Website derselben Bank gehackt. Fake News.
Ein Video des ukrainischen Präsidenten Wolodymyr Selenskyj, das den Eindruck erweckt, er fordert die ukrainischen Bürger auf, „ihre Waffen niederzulegen." Ein KI-generiertes Deepfake-Video.
Propaganda wird digital
Das Prinzip der Propaganda ist nicht neu – bereits im fünften Jahrhundert v. Chr. fand es im Buch „Die Kunst des Krieges" vom chinesischen Militärstrategen Sun Tzu Erwähnung. Es handelt sich um eine Form der Kommunikation, die dazu dient, eine bestimmte Agenda oder eine bestimmte Perspektive zu verbreiten, und zwar auf Basis voreingenommener, irreführender oder gar unwahrer Informationen.
Durch die weit verbreitete Nutzung des Internets und das Aufkommen der sozialen Medien hat das Thema in den letzten Jahren eine neue Dimension erfahren. Es bietet sich nun eine Fülle von Möglichkeiten, um unsere Wahrnehmung von Fakten und unsere Entscheidungsfindung zu beeinflussen.
Das Ziel von Desinformationskampagnen ist es, unsere demokratischen Werte und Institutionen sowie die nationale, europäische und internationale Politik zu untergraben
sagt Charlotte Graire, zuständig für Sales and Business Development Cyber Defence bei Airbus Defence and Space.
Cyberwar und Informationskrieg: das Schlachtfeld von heute
„Vor allem im Zusammenhang mit dem hybriden Krieg gegen die Ukraine zielen koordinierte Desinformationskampagnen auf die Bürger der Europäischen Union und der ganzen Welt ab", warnt Graire.
Das Vorzeigeprojekt EUvsDisinfo hat in den Jahren seit 2015 über 16.000 Desinformationsfälle gesammelt und entlarvt.
Die Cyber- und Informationskriegsführung hat sich in letzter Zeit zu einem der strategisch wichtigsten Bereiche entwickelt und ist eine Priorität für die NATO und die EU. Teams von Airbus Defence and Space sammeln und extrahieren bereits Daten, um den Verteidigungsministerien, der NATO und den Nachrichtendiensten, einschließlich der Strafverfolgungsbehörden, nachrichtendienstliche Erkenntnisse zu liefern.
„Mit unseren Multi-Intelligence-Tools sind wir in der Lage, Informationen aus offenen Quellen zu extrahieren – aus sozialen Netzwerken, dem Internet und dem Dark Web. So können wir potenziell schädliche Inhalte identifizieren und sie in eine beliebige Sprache übersetzen", sagt Guillaume Glorieux, Intelligence Project Manager bei Airbus. „Ziel ist es, unseren Kunden ein besseres Verständnis der Situation zu ermöglichen, damit diese strategische und taktische Entscheidungen im Feld treffen können."
Die Demokratie ist ein System, das auf den Informationen aufbaut, die den Menschen zur Verfügung stehen. Sie treffen ihre Entscheidungen – politischen Entscheidungen – auf der Grundlage ihrer eigenen Wahrnehmung und der Informationen, die sie über die Geschehnisse auf der Welt haben. Wenn die Informationen vergiftet sind, sind sie in ihren Entscheidungen befangen [...]. Wir müssen uns um die Qualität der Informationen sorgen, denn sie sind der Saft, das Blut, das Öl, das, was die Demokratie am Laufen hält.
Josep Borrel, Hoher Vertreter der EU für Außen- und Sicherheitspolitik, im Rahmen der EU Ambassadors Conference 2022 über ausländische Informationsmanipulation und Einmischung
Airbus CyberSecurity SOC (Security Operations Centre)
Für alle, die gegen Fake News vorgehen: Dignity Trust trennt Fakten von Fiktion
Aufbauend auf den Bausteinen und dem Fachwissen seiner Intelligence- und Cyber-Teams hat Airbus den Prototyp der Online-Plattform Dignity Trust entwickelt. Dieser Dienst setzt auf künstliche Intelligenz sowie maschinelles Lernen und bietet alle Funktionen, um schnell und zuverlässig die Vertrauenswürdigkeit einer Mediendatei zu prüfen – egal, ob es sich um ein Bild, ein Video, einen Text oder eine Audio-Datei handelt. „Wir trainieren die KI-Algorithmen mit künstlich erzeugten Daten – man spricht von 'synthetischen Daten.’ Mit diesem Wissen prüft die Plattform eine Datei und gibt an, wie wahrscheinlich es ist, dass sie manipuliert wurde", erklärt Enrique Martínez, Innovation Manager im Airbus Defence and Space Incubator.
Martínez' Team hat das Dignity-Trust-Konzept und einen Demonstrator auf Basis des Feedbacks von investigativen Journalisten entwickelt.
Wir befinden uns erst in der Anfangsphase einer Verifizierungsindustrie, aber es ist offensichtlich, dass wir einen Dienst brauchen, der priorisiert, welche Informationen weiter untersucht werden müssen.
Will Lewis, ehemaliger CEO von Dow Jones & Company und Herausgeber des Wall Street Journal
Journalisten würden Sorgfalt niemals auslagern! Was sie brauchen, sind einfache Tools, die ihre Arbeit automatisieren und beschleunigen.
Sandy Macintyre, Vice President News und Director Key Initiatives bei Associated Press
Danach wurde die Online-Plattform mit einem Team europäischer Nachrichtenagenturen getestet.
Nicht nur Journalisten verspricht Dignity Trust im Kampf gegen Online-Desinformation Hilfe, die Plattform kann auch dem Schutz von Nutzerdaten in sozialen Netzwerken dienen.
„Mit Deepfakes kann man sich als jemand anderes ausgeben. Sie können so zur Waffe werden", sagt Martinez. Dies war im September dieses Jahres in Spanien der Fall, als die Staatsanwaltschaft eine Untersuchung zu KI-generierten Nacktbildern jugendlicher Mädchen einleitete, die angeblich von männlichen Mitschülern erstellt und geteilt worden waren.
EUCINF: ein europäischer Werkzeugkasten zur Bekämpfung schädlicher Inhalte
Die im Rahmen von Dignity Trust entwickelten Analysealgorithmen werden künftig in die Massive-Intelligence-Lösungen von Airbus integriert. Gleichzeitig waren die Erkenntnisgewinne aus dem Prototyp wertvoll, um auf eine Ausschreibung des Europäischen Verteidigungsfonds zu reagieren: Es ging um den Werkzeugkasten für die Cyber- und Informationskriegsführung EUCINF (EUropean Cyber INFormation - link). Dieses Projekt wurde im Juni 2023 an ein von Airbus geführtes Konsortium vergeben, das aus einer Gruppe von 22 komplementären Partnern aus 12 Ländern besteht, die neun Verteidigungsministerien vertreten.
Als Fähigkeitsdemonstration wird EUCINF drei operative Szenarien im Bereich Cyber- und Informationskriegsführung implementieren und präzise Anwendungsfälle definieren, die auf den Anforderungen der Verteidigungsministerien basieren. Diese müssen den gesetzlichen Vorschriften und gesellschaftlichen Erwartungen entsprechen. Daraus werden dann die technischen Spezifikationen eines europäischen Werkzeugkastensystems für die Cyber- und Informationskriegsführung abgeleitet.
„EUCINF zielt darauf ab, die europäische Widerstandsfähigkeit gegen hybride Bedrohungen, einschließlich Informationsmanipulation von Außen, zu erhöhen", sagt Charlotte Graire abschließend.
