Fake News et intelligence artificielle : Entretien avec Gerhard Backfried

Dans cette interview, nous avons rencontré notre directeur scientifique Gerhard Backfried pour discuter des "fake news". En répondant à nos questions, Gerhard Backfried s'est concentré sur les points suivants :

• L'origine des fake news
• La relation entre les fake news et les médias sociaux
• La manière dont le renseignement de source ouverte (OSINT), l'apprentissage automatique (ML) et l'intelligence artificielle (AI) peuvent contribuer à lutter contre les fausses nouvelles.

M. Backfried a également répondu à nos questions concernant l'avenir de la relation entre l'IA et l'industrie de l'information et nous a parlé du dernier chapitre de son livre sur les fausses nouvelles, qu'il a coécrit.

Selon vous, qu'entendez-vous par "fake news" ?

Backfried : Il y a tellement de définitions différentes des "fake news", mais toutes tournent autour des concepts de manipulation et de distorsion de l'information dans le but de :

• d'embrouiller les gens,
• créer une sorte d'illusion de consensus,
• de semer le doute ou d'étouffer d'autres voix.

D'un point de vue informatique, nous avons tendance à les considérer comme de la propagande informatique - un sous-ensemble qui peut être créé et distribué par des algorithmes.

Pensez-vous que les "fake news" sont un concept qui a toujours fait partie de la communication de désinformation ou s'agit-il d'un outil nouveau et plus puissant qui est apparu avec l'émergence des nouveaux médias ?

Backfried : Les "fake news" ont toujours existé et la propagande a toujours existé depuis que nous communiquons. En ce qui concerne les aspects techniques aujourd'hui, ce qui se passe, c'est que les médias sociaux ont permis de les utiliser à une échelle beaucoup plus large.

Cela permet de les diffuser à grande échelle et, en même temps, d'atteindre une population plus ciblée. Grâce au profilage et à l'utilisation des technologies associées au big data, il est possible de créer des profils spécifiques et d'envoyer des messages très différents à des personnes différentes. L'idée de base, cependant, est toujours la même :

• la manipulation,
• et l'envoi de messages biaisés, erronés ou carrément faux.

Quels sont les aspects sociaux et techniques de la propagande informatique ?

Backfried : La propagande informatique est l'utilisation d'algorithmes, de l'automatisation, combinée à la curation humaine pour créer, gérer et distribuer des informations trompeuses. Elle est pratiquée sur tous les types de médias et combine des aspects sociaux et techniques. Les aspects techniques sont les algorithmes, les agents, les plateformes, les méthodes de big data, les statistiques ou le ML. Les aspects sociaux concernent les acteurs humains et leurs motivations, leur agenda et leurs interactions sociales. Ces deux aspects doivent être pris en compte pour traiter et contrer les fausses nouvelles !

Propagande informatique

Aspects techniques

• Algorithmes
• Agents
• Plateformes
• Méthodes Big-Data
• Statistiques
• Apprentissage automatique

Aspects sociaux

Liés aux acteurs humains et à leurs :

• Motivations
• Agenda
• Interactions sociales

Nous avons également assisté au passage d'une économie de l'information à une économie de l'attention. Les gens veulent être reconnus et recevoir un retour d'information, en particulier sur les médias sociaux. Ils sont donc prêts à communiquer et à transmettre toutes sortes d'informations, parfois même sans les avoir lues. D'autre part, ce qu'ils lisent et ce qu'ils veulent lire ne fait souvent que renforcer ce en quoi ils croyaient au départ, ce qui constitue une bulle de filtrage typique. Ces bulles peuvent également exister sans les médias sociaux, mais là encore, je pense que les médias sociaux constituent une bonne base pour les renforcer.

D'après votre expérience, pensez-vous que les aspects sociaux et techniques pourraient être abordés ensemble ?

Backfried : Ce n'est pas seulement qu'ils peuvent être abordés ensemble, mais qu'ils** doivent l'être**. Les fausses nouvelles sont un phénomène très interdisciplinaire, et la meilleure façon de s'y attaquer est d'adopter une approche interdisciplinaire.

Nous avons également assisté au passage d'une économie de l'information à une économie de l'attention. Les gens veulent être reconnus et recevoir un retour d'information, en particulier sur les médias sociaux.

Gerhard Backfried

Par exemple, si l'on se place uniquement du point de vue d'un informaticien, nous pouvons calculer les facteurs de bot, qui sont utiles et importants, mais cela ne suffira pas à faire disparaître les "fake news". Les politologues, quant à eux, peuvent étudier les stratégies possibles derrière ces fausses nouvelles, mais cela ne suffira pas non plus. Le sujet est en fait tellement vaste et interdisciplinaire qu'il nécessite une approche correspondante pour le contrer. J'en suis profondément convaincu.

Puisque l'IA peut être utilisée pour créer des fake news, comment peut-elle être utilisée pour les détecter ?

Backfried : Comme beaucoup de technologies, elle a deux facettes.

Par exemple, dans le cas des réactions et des commentaires aux articles. Si je veux apparaître comme trente personnes différentes commentant un article sur une nouvelle politique, je peux utiliser la technologie pour créer trente commentaires qui, à première vue, peuvent sembler différents. Parallèlement, la même technologie peut être utilisée pour découvrir que ce que nous voyons n'est pas le fait de trente auteurs différents, et qu'il n'y a en réalité qu'un seul auteur derrière ces commentaires. Très souvent, la même chose peut donc être utilisée pour les deux processus.

Quels sont les outils OSINT applicables à la lutte contre les fausses nouvelles en temps réel ?

Backfried : Le comportement en temps réel est très important pour les détections précoces. Sinon, la propagation est immédiate. Quelque chose devient viral, et il est trop tard !

Grâce à l'OSINT, vous pouvez bénéficier d'une approche cross-média, cross-plateforme et multilingue - découvrir comment certaines nouvelles se diffusent et comment l'information circule sur différents comptes et plateformes. Il est également extrêmement important de trouver des modèles, et c'est ce que nous pouvons faire grâce à la plateforme de renseignement multisource HENSOLDT Analytics.

Ce n'est pas que les humains ne puissent pas le faire, mais ils ne pourraient pas le faire en si peu de temps et avec une telle quantité de données. Il s'agit donc en fait d'un cas où nous utilisons les ordinateurs pour des tâches qu'ils maîtrisent parfaitement. Ensuite, les humains entrent dans la boucle avec des tâches qu'ils maîtrisent, comme replacer les choses dans un contexte culturel ou social plus large.

Pensez-vous que le multilinguisme est important ?

Backfried : Absolument. En Autriche et en Allemagne, par exemple, nous avons un grand nombre de migrants de deuxième et troisième génération venant de pays comme la Turquie. Ces personnes vivent ici, mais elles regardent la télévision turque, écoutent la radio turque, etc.

Certains d'entre eux ont encore le droit de voter en Turquie. Le gouvernement turc utilisera ce fait pour tenter de les influencer. Sans les technologies multilingues, nous ne saurons pas ce qui est communiqué et comment les choses sont présentées à ces personnes.

C'est également le cas des Allemands qui ont émigré de Russie en Allemagne : ils consomment la propagande russe, qui est spécialement conçue pour eux.

Mais, bien sûr, cela ne se limite pas au contexte de la migration. Il est tout aussi important de pouvoir analyser ce que disent vos voisins de l'UE sur certains sujets susceptibles d'influencer votre propre population.

Quels sont les principaux défis techniques liés à la détection des "fake news" ?

Backfried : Je pense que ce n'est pas noir ou blanc. Peut-être que certaines fake news superficielles peuvent être détectées rapidement, mais très souvent, à la fin, même lorsque vous enquêtez, il est impossible de décider si quelque chose est faux ou vrai.

Il ne s'agit donc pas seulement de classifier ce qui est "faux" et ce qui ne l'est pas. Il s'agit aussi de savoir comment soutenir les gens et comment signaler les choses qui ne collent pas. Les algorithmes peuvent être utiles à cet égard en ce qui concerne le contenu, les sources et les schémas de diffusion des nouvelles.

Nous pouvons classer les comptes et les documents ou créer des indicateurs et aider à visualiser les choses. Mais les personnes qui produisent les fausses nouvelles et les algorithmes qu'elles utilisent s'améliorent également. Il s'agit donc d'une sorte de course aux armements entre les groupes qui produisent des fausses nouvelles et ceux qui tentent de les combattre.

Comment la technologie aide-t-elle à détecter les fausses nouvelles ?

1. Définir la manière dont le contenu se propage et les modèles de propagation
2. Repérer les sources de fausses nouvelles
3. Classer les comptes et créer des documents pour visualiser les données
4. Identifier les indicateurs qui indiquent que quelque chose est une fausse nouvelle

Pensez-vous donc que nous dépendrons toujours de la perception humaine avec l'IA et qu'il n'y a pas de solution automatique ?

Backfried : Je ne prévois pas de solution entièrement automatique dans un avenir proche. Les faux s'améliorent également, et nous parlons déjà de "deep fakes". En particulier lorsqu'il s'agit du processus visuel, nous, en tant qu'humains, sommes assez mauvais dans la détection des faux.

Les technologies vont certainement s'améliorer et nous aider, mais l'IA ne peut pas remplacer l'esprit critique. Elle nous aidera, mais ne nous épargnera pas de réfléchir à ce que nous lisons ou à ce que nous transmettons.

La technologie progresse rapidement dans le monde entier. Pensez-vous que les discussions éthiques et les questions juridiques progressent à la même vitesse ?

**Backfried : **Certainement pas. Les discussions éthiques sont en train de rattraper leur retard, mais cela dépend encore une fois de l'endroit où l'on se trouve. Je pense que l'interdisciplinarité est utile, car les politiciens ou les spécialistes des sciences sociales peuvent apporter un état d'esprit différent qui complète le point de vue d'autres personnes, comme les informaticiens. C'est une excellente combinaison.

La technologie est très rapide. L'éthique est à la traîne, et le droit l'est encore plus. Et cela va probablement rester ainsi.

Y voyez-vous une menace pour la démocratie ou l'État de droit ?

**Backfried : **Oui. Si vous supprimez les bases d'une discussion ouverte et libre, certaines voix se tairont. Je ne pense pas que l'Europe soit très polarisée, car nous sommes également très diversifiés.

Mais les États-Unis, par exemple, sont un très mauvais exemple de ce à quoi cela peut mener. Les gens veulent simplement que leurs propres opinions soient entendues et renforcées. Pour certains, la liberté d'expression ne se traduit pas seulement par le droit d'être entendu, mais aussi par le droit de faire taire les autres.

Pensez-vous que les gens devraient être mieux informés sur l'intelligence artificielle ?

**Backfried : **L'IA ne va pas nous débarrasser de notre besoin de pensée critique. C'est donc quelque chose qui doit encore être développé et étendu.

L'éducation aux médias est également un élément très souvent mentionné dans ce contexte. Être capable de réfléchir un peu plus à ce que nous lisons et, surtout, à ce que nous transmettons et dans quelles circonstances pourrait commencer à l'école.

En plus des cours d'informatique que nos enfants suivent à l'école, où ils apprennent Word, Excel ou la programmation, ils devraient également être encouragés à développer une pensée critique dans l'utilisation des médias sociaux.

• Comment sommes-nous responsables de leur utilisation ?
• Quels sont les dangers ?
• Quels sont les problèmes qui peuvent en découler ?

Il s'agit là d'une bonne stratégie.

Pourriez-vous nous parler un peu du chapitre de votre livre consacré aux "fake news" ?

**Backfried : **Il s'agit d'un chapitre d'un livre sur la qualité de l'information qui sera publié en mars 2019. Nous l'avons consacré en particulier au phénomène des fake news.

Avec ma collègue d'HENSOLDT Analytics, Dorothea Thomas-Aniola, et un ami roumain qui dirige sa propre entreprise dédiée à la détection des fausses nouvelles, nous avons mis nos idées en commun. Mon ami a de bonnes idées sur les mesures automatiques qui peuvent être utilisées pour détecter les fausses nouvelles. Nous avons donc rédigé avec lui une petite section sur l'histoire des fausses nouvelles et les moyens automatiques de les détecter.

Le livre s'intitule "Information Quality in Information Fusion and Decision Making" (Qualité de l'information dans la fusion d'informations et la prise de décision) et est publié par Springer.

Selon vous, que pourrait apporter l'avenir à l'interaction entre l'IA et les actualités ?

Backfried : Certaines choses sont déjà en cours, comme la rédaction d'articles par des méthodes d'IA, l'IA pour contrer les "fake news" et l'IA pour rendre certains mécanismes de distribution plus transparents.

Si nous pouvions avoir plus de transparence sur l'origine des informations et sur la manière dont elles sont communiquées, ce serait formidable. Cela pourrait être soutenu par de meilleures visualisations pour trouver des connexions cachées dans les médias. Je pense également que le traitement du langage naturel (NLP) sera de plus en plus utilisé dans divers domaines :

• Le traitement des nouvelles multimédias, ainsi que
• Le traitement des chat-bots ou des assistants personnels pour améliorer l'interaction.
• Le traitement du langage naturel

Après tout, la façon la plus naturelle pour nous, les humains, d'interagir - aura un impact sur de nombreuses industries, en particulier dans les domaines de l'information et des médias.

Gerhard Backfried

Directeur scientifique

Gerhard Backfried est l'un des fondateurs de HENSOLDT Analytics et occupe actuellement le poste de directeur scientifique. Gerhard a travaillé dans les domaines des systèmes experts pour le secteur financier et des systèmes de dictée personnelle (ViaVoice d'IBM). Son expertise technique comprend la modélisation acoustique et linguistique ainsi que les algorithmes de reconnaissance vocale. Plus récemment, il s'est intéressé à la combinaison des médias traditionnels et sociaux, en particulier dans le contexte de la communication multilingue et multimédia en cas de catastrophe. Il est titulaire d'une maîtrise en informatique (M.Sc.) de l'Université technique de Vienne, avec une spécialisation en intelligence artificielle et en linguistique, et d'un doctorat en informatique de l'Université de Vienne. Il est titulaire d'un certain nombre de brevets, a rédigé plusieurs articles et chapitres de livres, participe régulièrement à des comités de programme de conférences et a contribué à des projets de recherche nationaux et internationaux, tels que KIRAS/QuOIMA, FP7/M-ECO, FP7/SIIP, H2020/ELG ou H2020/MIRROR.