Fake News und künstliche Intelligenz: Ein Interview mit Gerhard Backfried

In diesem Interview haben wir uns mit unserem Chief Scientific Officer Gerhard Backfried zusammengesetzt, um über Fake News zu sprechen. Während er unsere Fragen beantwortete, konzentrierte sich Backfried auf die folgenden Bereiche:

• Der Ursprung von Fake News
• Die Beziehung zwischen Fake News und sozialen Medien
• Möglichkeiten, wie Open-Source Intelligence (OSINT), maschinelles Lernen (ML) und künstliche Intelligenz (KI) bei der Bekämpfung von Fake News helfen können

Darüber hinaus beantwortete Backfried auch unsere Fragen zur Zukunft der Beziehung zwischen KI und der Nachrichtenbranche und sprach über sein neuestes Buchkapitel über Fake News, das er mitverfasst hat.

Was bedeutet Ihrer Meinung nach eigentlich "Fake News"?

Backfried: Es gibt so viele verschiedene Definitionen von Fake News, aber alle kreisen um das Konzept der Manipulation und Verzerrung von Informationen mit dem Ziel,:

• Menschen zu verwirren,
• eine Art Illusion von Konsens zu schaffen,
• Zweifel zu wecken oder andere Stimmen zu unterdrücken.

Vom Standpunkt der Informatik aus betrachtet, neigen wir dazu, sie als computergesteuerte Propaganda zu betrachten - eine Untergruppe, die von Algorithmen erstellt und verbreitet werden kann.

Glauben Sie, dass Fake News ein Konzept sind, das schon immer Teil der Desinformationskommunikation war, oder handelt es sich um ein neues und leistungsfähigeres Instrument, das mit dem Aufkommen der neuen Medien entstanden ist?

Backfried: Fake News hat es schon immer gegeben, und Propaganda gibt es schon so lange, wie wir kommunizieren. Was die technischen Aspekte angeht, so können sie heute dank der sozialen Medien in viel größerem Umfang eingesetzt werden.

Dadurch können sie massenhaft verbreitet und gleichzeitig viel gezielter an die Bevölkerung herangetragen werden. Durch die Erstellung von Profilen und den Einsatz von Big-Data-Technologien können spezifische Profile erstellt werden, und verschiedene Personen können sehr unterschiedliche Botschaften erhalten. Der Kerngedanke ist jedoch immer derselbe:

• Manipulation,
• und das Versenden schräger, falscher oder gänzlich falscher Nachrichten.

Was sind die sozialen und technischen Aspekte der Computerpropaganda?

Backfried: Unter Computerpropaganda versteht man den Einsatz von Algorithmen und Automatisierung in Kombination mit menschlicher Bearbeitung, um irreführende Informationen zu erstellen, zu verwalten und zu verbreiten. Dies geschieht über alle Arten von Medien und kombiniert soziale und technische Aspekte. Bei den technischen Aspekten handelt es sich um Algorithmen, Agenten, Plattformen, Big-Data-Methoden, Statistiken oder ML. Die sozialen Aspekte beziehen sich auf die menschlichen Akteure und ihre Motivationen, ihre Agenda und ihre sozialen Interaktionen. Beide Aspekte müssen berücksichtigt werden, um mit Fake News umzugehen und ihnen entgegenzuwirken!

Computergestützte Propaganda

Technische Aspekte

• Algorithmen
• Agenten
• Plattformen
• Big-Data-Methoden
• Statistik
• Maschinelles Lernen

Soziale Aspekte

Bezogen auf menschliche Akteure und ihre:

• Motivationen
• Tagesordnung
• Soziale Interaktionen

Wir haben auch eine Verschiebung von einer Informationswirtschaft zu einer Aufmerksamkeitswirtschaft erlebt. Die Menschen wollen anerkannt werden und Feedback erhalten, insbesondere in den sozialen Medien. Deshalb sind sie bereit, alle Arten von Informationen zu kommunizieren und weiterzugeben, auch wenn sie sie manchmal nicht einmal gelesen haben. Andererseits verstärkt das, was sie lesen und lesen wollen, oft nur das, woran sie von vornherein geglaubt haben - eine typische Filterblase. Diese Blasen können auch ohne soziale Medien existieren, aber auch hier glaube ich, dass die sozialen Medien eine gute Grundlage bieten, um sie zu verstärken.

Glauben Sie nach Ihrer Erfahrung, dass die sozialen und technischen Aspekte dann gemeinsam angegangen werden könnten?

Backfried: Es geht nicht nur darum, dass sie gemeinsam angegangen werden können,** sondern auch darum, dass sie gemeinsam angegangen werden müssen**. Fake News sind ein sehr interdisziplinäres Phänomen, das am besten mit einem interdisziplinären Ansatz angegangen werden kann.

Wir haben auch eine Verschiebung von einer Informationswirtschaft zu einer Aufmerksamkeitsökonomie erlebt. Die Menschen wollen wahrgenommen werden und Feedback erhalten, vor allem in den sozialen Medien.

Gerhard Backfried

Wenn man es zum Beispiel nur aus der Perspektive eines Informatikers betrachtet, können wir Bot-Faktoren berechnen, was nützlich und wichtig ist, aber das allein wird Fake News nicht verschwinden lassen. Politikwissenschaftler hingegen können mögliche Strategien hinter solchen Fake News untersuchen, aber auch das allein wird nicht ausreichen. Das Thema ist tatsächlich so breit und interdisziplinär, dass es einen entsprechenden Ansatz braucht, um ihm zu begegnen. Davon bin ich zutiefst überzeugt.

Da KI genutzt werden kann, um Fake News selbst zu erstellen, wie kann sie genutzt werden, um sie zu erkennen?

Backfried: Wie viele Technologien hat auch sie zwei Seiten.

Zum Beispiel im Fall von Feedback und Kommentaren zu Beiträgen. Wenn ich mich als dreißig verschiedene Personen ausgeben möchte, die einen Beitrag über eine neue Politik kommentieren, dann kann ich die Technologie nutzen, um dreißig Kommentare zu erstellen, die auf den ersten Blick unterschiedlich aussehen können. Gleichzeitig kann dieselbe Technologie eingesetzt werden, um herauszufinden, dass das, was wir sehen, nicht von dreißig verschiedenen Autoren stammt, sondern dass in Wirklichkeit nur ein einziger Autor dahinter steckt. Sehr oft kann also für beide Prozesse das Gleiche verwendet werden.

Welche OSINT-Tools sind für die Bekämpfung von Fake News in Echtzeit geeignet?

Backfried: Echtzeitverhalten ist sehr wichtig für die frühzeitige Erkennung. Andernfalls erfolgt die Verbreitung sofort. Etwas geht viral, und es ist zu spät!

Mit OSINT kann man von einem medienübergreifenden, plattformübergreifenden und mehrsprachigen Ansatz profitieren - um herauszufinden, wie sich bestimmte Nachrichten verbreiten und wie Informationen über verschiedene Konten und Plattformen zirkulieren. Auch das Auffinden von Mustern ist enorm wichtig, und genau dabei können wir mit der Multi-Source-Intelligence-Plattform HENSOLDT Analytics helfen.

Es ist nicht so, dass Menschen das nicht könnten, aber sie könnten es nicht in so kurzer Zeit und mit dieser Menge an Daten tun. Es ist also tatsächlich so, dass wir Computer für Aufgaben einsetzen, die sie sehr gut können. Dann kommen die Menschen mit Aufgaben ins Spiel, die sie gut können, z. B. Dinge in einen größeren kulturellen oder sozialen Kontext einordnen.

Glauben Sie, dass Mehrsprachigkeit wichtig ist?

Backfried: Auf jeden Fall. In Österreich und Deutschland haben wir zum Beispiel eine große Anzahl von Migranten der zweiten und dritten Generation, die aus Ländern wie der Türkei kommen. Diese Menschen leben hier, aber sie sehen auch türkisches Fernsehen, hören türkisches Radio und so weiter.

Einige von ihnen dürfen in der Türkei noch wählen. Die dortige Regierung wird diese Tatsache nutzen und versuchen, sie zu beeinflussen. Ohne mehrsprachige Technologien werden wir nicht wissen, was ihnen mitgeteilt wird und wie die Dinge präsentiert werden.

Das gilt auch für Deutsche, die aus Russland nach Deutschland ausgewandert sind. Sie konsumieren russische Propaganda, die speziell auf sie zugeschnitten ist.

Aber natürlich ist dies nicht auf den Kontext der Migration beschränkt. Genauso wichtig ist es, zu wissen, was die EU-Nachbarn zu bestimmten Themen sagen, die die eigene Bevölkerung beeinflussen könnten.

Was sind die größten technischen Herausforderungen bei der Erkennung von Fake News?

Backfried: Ich glaube, dass es hier kein Schwarz-Weiß-Denken gibt. Vielleicht lassen sich einige oberflächliche Fake News schnell erkennen, aber sehr oft gibt es am Ende, selbst wenn man nachforscht, diese Fälle, in denen es unmöglich ist zu entscheiden, ob etwas gefälscht oder wahr ist.

Es geht also nicht nur um die Klassifizierung von "Fake" und "nicht Fake". Es geht auch darum, wie man die Menschen unterstützen und auf Dinge hinweisen kann, die nicht zusammenpassen. Algorithmen können dabei helfen, wenn es um den Inhalt, die Quellen und die Muster der Nachrichtenverbreitung geht.

Wir können Konten und Dokumente in eine Rangfolge bringen oder Indikatoren erstellen und bei der Visualisierung von Dingen helfen. Aber auch die Leute, die Fake News produzieren, und die von ihnen verwendeten Algorithmen werden immer besser. Es handelt sich also um eine Art Wettrüsten zwischen den Gruppen, die Fake News produzieren, und den Gruppen, die versuchen, sie zu bekämpfen.

Wie Technologie hilft, Fake News zu erkennen:_

1. Definieren, wie sich Inhalte verbreiten, und der Verbreitungsmuster
2. Aufspüren von Quellen für gefälschte Nachrichten
3. Ranking von Konten und Erstellung von Dokumenten zur Visualisierung von Daten
4. Identifizierung von Indikatoren, die auf Fake News hindeuten

Glauben Sie also, dass wir mit KI immer auf die menschliche Wahrnehmung angewiesen sein werden und es keine automatische Lösung gibt?

Backfried: Ich glaube nicht, dass es in naher Zukunft eine vollautomatische Lösung geben wird. Auch die Fälschungen werden immer besser, und wir sprechen bereits von Deep Fakes. Vor allem beim visuellen Prozess sind wir Menschen ziemlich schlecht darin, Fälschungen zu erkennen.

Die Technologien werden sicherlich besser werden und uns helfen, aber KI ist kein Ersatz für kritisches Denken. Sie wird uns unterstützen, aber sie wird uns nicht davor bewahren, über das, was wir lesen oder weitergeben, nachzudenken.

Die Technologie schreitet weltweit schnell voran. Glauben Sie, dass die ethischen Diskussionen und rechtlichen Fragen mit der gleichen Geschwindigkeit voranschreiten?

**Backfried: **Definitiv nicht. Die ethische Diskussion holt auf, aber das hängt erst einmal wieder davon ab, wo man steht. Ich glaube, dass die Interdisziplinarität hilfreich ist, weil Politiker oder Sozialwissenschaftler eine andere Sichtweise einbringen können, die die Sichtweise anderer, etwa der Informatiker, ergänzt. Das ist eine großartige Kombination.

Die Technologie ist sehr schnell. Die Ethik hinkt hinterher, und das Recht ist noch viel weiter zurück. Und das wird wahrscheinlich auch so bleiben.

Sehen Sie darin eine Gefahr für die Demokratie oder die Rechtsstaatlichkeit?

**Backfried: **Ja. Wenn man der offenen und freien Diskussion die Grundlage entzieht, wird das dazu führen, dass bestimmte Stimmen verstummen. Ich glaube nicht, dass Europa sehr polarisiert ist, weil wir auch sehr vielfältig sind.

Aber die USA zum Beispiel sind ein ziemlich schlechtes Beispiel dafür, wohin das führen kann. Die Menschen wollen nur ihre eigene Meinung hören und durchsetzen. Und freie Meinungsäußerung bedeutet für einige nicht nur das Recht, gehört zu werden, sondern fast auch das Recht, andere zum Schweigen zu bringen.

Denken Sie, dass die Menschen mehr über künstliche Intelligenz aufgeklärt werden sollten?

**Backfried: **Die künstliche Intelligenz wird uns die Notwendigkeit des kritischen Denkens nicht abnehmen. Es ist also immer noch etwas, das entwickelt und ausgebaut werden muss.

Medienkompetenz ist auch etwas, das in diesem Zusammenhang sehr oft erwähnt wird. Die Fähigkeit, ein wenig mehr darüber nachzudenken, was wir lesen, und vor allem, was wir weitergeben und unter welchen Umständen, könnte schon in der Schule beginnen.

Neben dem Informatikunterricht, den unsere Kinder in der Schule besuchen und in dem sie Word, Excel oder Programmieren lernen, sollten sie auch dazu ermutigt werden, kritisches Denken im Umgang mit sozialen Medien zu entwickeln.

• Wie sind wir für ihre Nutzung verantwortlich?
• Welche Gefahren gibt es?
• Welche Probleme könnten entstehen?

Das wäre sicherlich eine gute Strategie.

Können Sie uns etwas über Ihr Buchkapitel zum Thema Fake News erzählen?

**Backfried: **Es ist ein Kapitel in einem Buch über Informationsqualität, das im März 2019 erscheint. Wir haben es speziell dem Fake-News-Phänomen gewidmet.

Mit meiner HENSOLDT Analytics-Kollegin Dorothea Thomas-Aniola und einem Freund aus Rumänien, der sein eigenes Unternehmen zur Erkennung von Fake News betreibt, haben wir uns zusammengesetzt. Mein Freund hat einige gute Ideen für automatische Maßnahmen, die zur Erkennung von Fake News eingesetzt werden können. Also haben wir zusammen mit ihm ein kleines Kapitel über die Geschichte der Fake News und automatische Methoden zu ihrer Erkennung geschrieben.

Der Titel des Buches lautet "Information Quality in Information Fusion and Decision Making" und ist bei Springer erschienen.

Was könnte Ihrer Meinung nach die Zukunft für das Zusammenspiel von KI und Nachrichten bringen?

Backfried: Einiges ist bereits im Gange, zum Beispiel das Schreiben von Artikeln mit KI-Methoden, KI zur Bekämpfung von Fake News und KI, um bestimmte Verbreitungsmechanismen transparenter zu machen.

Wenn wir mehr Transparenz darüber haben, woher die Dinge kommen und wie sie kommuniziert werden, wäre das großartig. Dies könnte durch bessere Visualisierungen unterstützt werden, um versteckte Zusammenhänge in den Medien zu finden. Ich glaube auch, dass die Verarbeitung natürlicher Sprache (Natural Language Processing, NLP) in einer Vielzahl von Bereichen verstärkt zum Einsatz kommen wird:

• Die Verarbeitung von Multimedia-Nachrichten, sowie
• die Verarbeitung von Chat-Bots oder persönlichen Assistenten zur besseren Interaktion.
• Die Verarbeitung von natürlicher Sprache

schließlich die natürlichste Art und Weise, wie wir Menschen interagieren - wird sich auf viele Branchen auswirken, insbesondere auf den Nachrichten- und Medienbereich.

Gerhard Backfried

Wissenschaftlicher Leiter

Gerhard Backfried ist einer der Gründer und hat derzeit die Position des Chief Scientific Officer bei HENSOLDT Analytics inne. Gerhard Backfried hat in den Bereichen Expertensysteme für den Finanzsektor und persönliche Diktiersysteme (IBM's ViaVoice) gearbeitet. Seine technische Expertise umfasst akustische und sprachliche Modellierung sowie Spracherkennungsalgorithmen. In jüngster Zeit hat er sich auf die Kombination von traditionellen und sozialen Medien konzentriert, insbesondere im Zusammenhang mit mehrsprachiger und multimedialer Katastrophen-Kommunikation. Er hat einen Master-Abschluss in Informatik (M.Sc.) von der Technischen Universität Wien mit den Schwerpunkten Künstliche Intelligenz und Linguistik und einen Ph.D. in Informatik von der Universität Wien. Er hält eine Reihe von Patenten, hat mehrere Veröffentlichungen und Buchkapitel verfasst, nimmt regelmäßig an Konferenzprogrammkomitees teil und hat an nationalen und internationalen Forschungsprojekten wie KIRAS/QuOIMA, FP7/M-ECO, FP7/SIIP, H2020/ELG oder H2020/MIRROR mitgewirkt.