L'IA pour lutter contre les fausses nouvelles ou infox

Posté par  (site web personnel) . Édité par Benoît Sibaud, Nÿco et Arkem. Modéré par Benoît Sibaud. Licence CC By‑SA.
Étiquettes :
14
1
avr.
2023
Justice

Après la lutte anti-spam, une nouvelle époque arrive, la lutte contre les fausses nouvelles (ou infox, fake-news) et la désinformation. Quelques informations ont fuité d'un laboratoire bordelais et en voici la teneur.

Comme il est évident que la détection des fausses nouvelles par des méthodes algorithmiques serait aussi complexe que hasardeuse, c'est bien un système basé sur l'Intelligence Artificielle sous licence libre qui est mis en œuvre. La machine qui est actuellement en cours d'apprentissage serait opérationnelle prochainement.

Principe

Une fois détectées, les fausses nouvelles susceptibles de porter atteinte à des personnes ou à l’ordre public seront communiquées au service de gendarmerie de la rue Séguineau à Mérignac qui est aussi un centre de lutte contre la pédophilie sur Internet.

Cependant, toutes les fausses nouvelles ne tombent pas actuellement sous le coup de la loi, même si elles ont été produites avec l'intention de nuire. Seule la diffamation tombe directement sous le coup de la loi. C'est pourquoi des magistrats, des députés et des thésards de l'école de la magistrature, située, elle aussi, à Bordeaux se sont mis à travailler sur un projet de loi de façon à permettre de poursuivre efficacement les auteurs de fake-news.

Évolutions

Des évolutions du détecteur de fausses nouvelles sont d'ores et déjà prévues. La première est un analyseur vocal chargé de retranscrire la parole sous une forme écrite puis analysée orthographiquement et grammaticalement. Cela permettra l'analyse en temps réel de déclarations et de discours. Ce qui sera particulièrement utile chez les députés, où un périphérique électromécanique connecté sera chargé de botter automatiquement le fondement de l'orateur ou l'oratrice en cas de dérapage.

Imaginez à quel point cela aurait été utile en 2009 pour le pare-feu OpenOffice de Christine Albanel ! Malheureusement la technique n'était pas encore disponible.

Précaution

Cette nouvelle n'a pas été encore testée. On ne sait pas encore comment réagira la machine expérimentale le lendemain du 31 mars. On pense qu'il serait raisonnable de l’arrêter pendant 24 heures.

Aller plus loin

  • # cette info ou cette infox ?

    Posté par  (site web personnel) . Évalué à 5.

    Je pense qu'il y a une mauvaise compréhension de l'objet de la dé pêche par le rédacteur : les IA actuellement en vague sont plus orientée sur la forme que sur le fond.

    Je ne suis pas spécialiste mais ça ressemble plus à un outil de fishing.

    • [^] # Re: cette info ou cette infox ?

      Posté par  (site web personnel) . Évalué à 4.

      … les IA actuellement en vague sont plus orientée sur la forme que sur le fond.

      Effectivement, il faut apprendre comment repérer une image créée par une intelligence artificielle.

      On voit que l'IA est, comme tous les outils, utilisable pour faire le bien comme pour faire le mal. Ce n'est pas l'outil qui est mauvais, c'est ce que l'on en fait.
      En fin de compte, utiliser l'IA pour lutter contre l'infox générée par IA, c'est une suite naturelle et logique des évènements.

      • [^] # Re: cette info ou cette infox ?

        Posté par  . Évalué à 5.

        Utiliser l'IA pour résoudre les problèmes posés par l'IA serait une solution élégante.

        C'est une piste à explorer mais on ne peut pas dire aujourd'hui que ce sera une solution effective sur la durée.

        On peut garder en tête que ces technos de détection seront certainement utilisées aussi pour améliorer les IA. Cela en les utilisant leur résultats et en entraînants l'IA génératrice à produire des images qui ne sont pas détectées. C'est le principe des GAN (Generative Adversarial Network).

        Bref, un jeu du chat et de la souris en perspective.

        • [^] # Re: cette info ou cette infox ?

          Posté par  . Évalué à 6.

          D'ailleurs, la suite est bien connue : Une fois l'IA sera capable de générer une IA encore meilleur qu'elle-même, avec une bonne dose de patience, on obtient 42 !

  • # je viens d'essayer

    Posté par  . Évalué à 10.

    Je viens d'essayer ce détecteur, le résultat est sans appel : ce journal est une fausse nouvelle.

    Heu, wait… si ce journal est une infox, ça veut dire que le détecteur n'existe pas ? Et s'il n'existe pas, comment aurais-je pu l'essayer ??? Mon commentaire est-il lui-même généré par une IA à l'insu de mon son plein gré ?

    • [^] # Re: je viens d'essayer

      Posté par  (site web personnel) . Évalué à 8.

      Un faux négatif, ça existe ! Attention aux déductions hâtives ! Il ne faut pas confondre l'absence de quelque chose avec la présence de rien du tout. C'est justement cette absence qui justifie la présence de la matière noire dans l'univers. C'est quand même facile à comprendre, non ?  ;-)

  • # chatgpt

    Posté par  (site web personnel) . Évalué à 3.

    Pour un site web, tu peux demander "quel est la probabilitée que le site diffuse des fausses informations (fakenews)"

    Cela marche pas trop mal.

    "La première sécurité est la liberté"

  • # Et ça détecte les poissons ?

    Posté par  . Évalué à 7. 

    Art by Claire Tucker

                         _.'.__
                      _.'      .
':'.               .''   __ __  .
  '.:._          ./  _ ''     "-'.__
.'''-: """-._    | .                "-"._
 '.     .    "._.'                       "
    '.   "-.___ .        .'          .  :o'.
      |   .----  .      .           .'     (
       '|  ----. '   ,.._                _-'
        .' .---  |.""  .-:;.. _____.----'
        |   .-""""    |      '
      .'  _'         .'    _'
     |_.-'    -cat-   '-.'

    eric.linuxfr@sud-ouest.org

  • # tremble closedAI

    Posté par  (site web personnel, Mastodon) . Évalué à 5.

    Chiche, on pourra poursuivre efficacement le chat de gepeto et ses acolytes :

    C'est pourquoi des magistrats, des députés et des thésards de l'école de la magistrature, située, elle aussi, à Bordeaux se sont mis à travailler sur un projet de loi de façon à permettre de poursuivre efficacement les auteurs de fake-news.

    En tout cas très belle dépêche :

          _///_
     /o    \/
     > ))_./\
        <

    “It is seldom that liberty of any kind is lost all at once.” ― David Hume

  • # Lutte antispam

    Posté par  (site web personnel) . Évalué à 3.

    J'ai hâte de voir ces techniques utilisées pour la lutte antispam, notamment pour alléger les délires administratifs qui pourrissent la vie des petits acteurs de l'email.

    Adhérer à l'April, ça vous tente ?

  • # Restructuration chez Koena grâce à ChatGPT

    Posté par  (site web personnel) . Évalué à 6.

    Jusqu'où s'arrêteront-ils ?
    https://koena.net/restructuration-chez-koena-chatgpt/

    • [^] # Re: Restructuration chez Koena grâce à ChatGPT

      Posté par  . Évalué à 0.

      C'est une blague:

      " Poisson d’avril !
      Chez Koena, nous souhaitions saisir l’occasion du 1er avril pour rédiger un article humoristique. Le sujet a été choisi en équipe, et la rédaction a également été faite collectivement. "

  • # Oups…

    Posté par  . Évalué à 1. Dernière modification le 01 avril 2023 à 14:43.

    Vivement qu’on utilise des IAs de détection de générations par IA pour entraîner les IA de générations à s’améliorer afin de produire des documents crédibles et non détectables par IA.

    Oups… on me dit dans l’oreillette que ça existe déjà.

  • # Au contraire

    Posté par  . Évalué à 2.

    Je pense qu'avec la facilité d'utiliser des outils de machine learning pour générer du contenu (image de trump arrêté…, faux textes…), il va y avoir de plus en plus d'intox à cause de lui.

    • [^] # Commentaire supprimé

      Posté par  . Évalué à 0. Dernière modification le 04 avril 2023 à 18:58.

      Ce commentaire a été supprimé par l’équipe de modération.

Suivre le flux des commentaires

Note : les commentaires appartiennent à celles et ceux qui les ont postés. Nous n’en sommes pas responsables.