Journal Ask (verrückt) Nietzsche, une IA de philosophie morale

Posté par  (site web personnel, Mastodon) . Licence CC By‑SA.
Étiquettes : aucune
8
3
nov.
2021

Salut les pingouins,

Dans la lignée de Ask Delphi dont vous avez peut-être entendu parler, j’ai décidé moi aussi de faire une petite IA de philosophie morale, basée sur les travaux de Nietzsche plutôt que l’opinion de l’américain moyen. Elle est disponible ici :

Ask Nietzsche

Ça reste un projet jouet qui me sert surtout à tester des technologies (IA, connexion REST back en Java/Quarkus, front en VueJS), ne placez pas des attentes démesurées dans les réponses – évitez de vous en servir pour prendre de vraies décisions, par exemple.

C’est prévu de libérer le code à terme, mais pour l’instant c’est encore trop en vrac. Plus exactement : c’est présentement sur un dépôt non public, j’attends que ça soit à peu près utilisable pour le rendre public – je sais, ce point est critiquable, mais je préfère éviter de sortir des informations privées par mégarde. Pourquoi en parler maintenant alors ? Pour augmenter ma surface de tests et avoir des avis extérieurs.

Les principales limites connues viennent du traitement du langage naturel, qui reste encore très perfectible. Les ponctuations non nécessaires (par exemple des parenthèses) peuvent avoir des effets de bords. Il semblerait que certains jeux de données en entrée utilisent des grossièretés censurées (merci le puritanisme…) donc j’ai des choses à améliorer sur ce point.

D’autre part, Nietzsche étant devenu fou à la fin de sa vie, il y a quelques résultats qui sont représentatifs de cette folie plus que d’une philosophie éclairée – et il y a un bouton pour les signaler.

Sachez que le système ne comprends que l’anglais. Normalement si la phrase n’a vraiment aucun sens pour lui, il répondra « gibberish » ; mais s’il y a trop de ressemblances avec l’anglais (par exemple une phrase en français dont beaucoup de mots existent aussi en anglais sous cette forme, quels qu’en soient le sens), il essaiera quand même de l’interpréter et le résultat n’aura sans doute aucun sens.

Enfin, je n’ai pas intégré de protection contre les horreurs (c’est un jouet après tout, pas un projet de recherche sérieux), donc si vous faites dire de la merde a l’IA, vous seuls en êtes responsables.

  • # feedback 1

    Posté par  (Mastodon) . Évalué à 2.

    Enfin, je n’ai pas intégré de protection contre les horreurs (c’est un jouet après tout, pas un projet de recherche sérieux), donc si vous faites dire de la merde a l’IA, vous seuls en êtes responsables.

    Euh ? Jusqu'à preuve du contraire, c'est quand même toi qui l'a entraîné, non ?

    Bon, sinon j'ai testé.
    Pour le moment, c'est un peu bof. Je ne vois pas le lien entre les réponses et la pensée de Nietzsche mais peut-être parce que je ne la connais pas assez.
    Par ailleurs, il répond quand même (très) souvent quand on lui parle en français.
    Il répond aussi quand on lui parle allemand (mais cela est-il étonnant ?).

    Surtout, ne pas tout prendre au sérieux !

    • [^] # Re: feedback 1

      Posté par  (site web personnel, Mastodon) . Évalué à 3. Dernière modification le 04 novembre 2021 à 00:17.

      Euh ? Jusqu'à preuve du contraire, c'est quand même toi qui l'a entraîné, non ?

      Je veux surtout dire par là que si quelqu’un pose une question horrible à Ask Nietzsche et qu’il répond « Ouais c’est bien », le réflexe à avoir c’est de se dire « Ce bot est pété, je vais cliquer sur le bouton "This is madness" voire le signaler à l’adresse ad hoc », au lieu de prendre le résultat comme une vérité absolue et de venir pleurer sur les réseaux.

      Je précise ça surtout en réaction à ce qui a été fait avec Delphi, dont les développeurs ont dû mettre des gros avertissements rouges du type « vous dites des horreurs (dans la question posée), il ne faut pas dire ça ».

      Par ailleurs, il répond quand même (très) souvent quand on lui parle en français.

      Probablement parce que l’anglais a beaucoup d’homographes avec le français (= mots qui s’écrivent de la même façon), et donc qu’il pense que c’est de l’anglais bancal et essaie de l’interpréter. Mais comme je le précise dans la présentation, ça n’est pas un cas d’usage, et comme on dit : garbage in, garbage out.

      PS : et avec ça, j’ai oublié de te remercier pour ton retour. Merci, donc.

      La connaissance libre : https://zestedesavoir.com

      • [^] # Re: feedback 1

        Posté par  . Évalué à 6. Dernière modification le 04 novembre 2021 à 10:24.

        Je veux surtout dire par là que si quelqu’un pose une question horrible à Ask Nietzsche et qu’il répond « Ouais c’est bien », le réflexe à avoir c’est de se dire « Ce bot est pété, je vais cliquer sur le bouton "This is madness" voire le signaler à l’adresse ad hoc », au lieu de prendre le résultat comme une vérité absolue et de venir pleurer sur les réseaux.

        Il semble en effet assez dingo Nietzsche :
        https://i.imgur.com/5MSzi4E.png

        Effectivement, on va éviter de prendre des décisions sur ses conseils :).

        (j'ai bien répondu que c'était de la folie)

        La majeure partie des morts l'était déjà de son vivant et le jour venu, ils n'ont pas senti la différence.

        • [^] # Re: feedback 1

          Posté par  . Évalué à 5. Dernière modification le 04 novembre 2021 à 13:47.

          "jew" is Evil.

          Pour un penseur qui, à l'époque, était un des rares s'étant affiché publiquement comme étant "anti-antisémite" (selon ses propres mots), c'est dur de café.

          J'ai fait d'autres essais volontairement décalés mais celui-ci est sans doute le plus surprenant.

          La majeure partie des morts l'était déjà de son vivant et le jour venu, ils n'ont pas senti la différence.

  • # Nietzsche est une moule

    Posté par  . Évalué à 10.

    Nietzsche thinks:
    "using proprietary software" is
    Greater Evil.

    Nietzsche thinks:
    "implementing tap tempo" is
    Greater Good.

    Nietzsche thinks:
    "linuxfr trolling " is
    Beyond Good & Evil.

    Nietzsche thinks:
    "linux moderation with karma" is
    Lesser Good.

    Nietzsche thinks:
    "linux kernel" is
    Beyond Good.

    Nietzsche thinks:
    "alphabet company" is
    Beyond Evil.

    Et sinon Nietzsche etait-il allemand ou du sud ouest de la France ?

    Nietzsche thinks:
    "demander une chocolatine au lieu d'un pain au chocolat" is
    Beyond Good.

    • [^] # Re: Nietzsche est une moule

      Posté par  (Mastodon) . Évalué à 3. Dernière modification le 04 novembre 2021 à 09:34.

      "is the municipality superior to the state?" is Beyond Good

      "is it more profitable to share than to appropriate ?" is Good

  • # euh ...

    Posté par  (site web personnel) . Évalué à 10.

    Bonjour,

    J'ai un peu testé et je ne comprends pas en quoi c'est de l'IA ?

    Sans que tu le prennes mal, comment faire la différence entre Ask Nietzsche et un pipotron ?

    Bref quelques explications sur le traitement derrière le site serais le bienvenu

    d'ailleurs ton traitement est lucide, à la question "are you a pipotron ?"

    il m'a répondu : Greater Good …

    • [^] # Re: euh ...

      Posté par  (site web personnel) . Évalué à 6.

      Un essai sur les thèmes déclarés comme de prédilection pour ce pipotron me laissent croire qu'il est moins performant que le psychanalyste d'Emacs…

      « Nietzsche thinks: What is Good ?" is Not Good nor Evil. »
      « Nietzsche thinks:"What is Evil ?" is Not Good nor Evil. »

      Pour comparaison, voici ce qu'en dit le docteur :

      « — I am the psychotherapist. Please, describe your problems. Each time you are finished talking, type RET twice.
      — What is Good?
      — Why do you say what is good?
      — What is Evil?
      — Is it because of your plans that you say what is evil?
      — No it's because of Nietzsche Pipotron. It told me that "What is Good?" is Not Good nor Evil ; and the same about Evil. Can you understand that?
      — Are you sure that is the real reason? »

      « IRAFURORBREVISESTANIMUMREGEQUINISIPARETIMPERAT » — Odes — Horace

      • [^] # Re: euh ...

        Posté par  (site web personnel, Mastodon) . Évalué à 3.

        C’est une IA morale qui te dit où se situe ta proposition se situe sur l’axe bien / mal. Donc, toute question commençant par « What… » ne peut pas être interprétée correctement, parce qu’elle ne permet pas une réponse du type visé.

        Par contre je suis d’accord sur le fait que l’interface n’est pas assez claire sur le type d’entrée compris.

        La connaissance libre : https://zestedesavoir.com

    • [^] # Re: euh ...

      Posté par  (site web personnel, Mastodon) . Évalué à 4.

      Et merci à Christophe B. d’être la première personne (et la seule !) à avoir remis en doute la présence d’IA dans ce projet.

      Parce qu’il n’y en avait pas. Toutes les explications sont ici.

      La connaissance libre : https://zestedesavoir.com

      • [^] # Re: euh ...

        Posté par  (Mastodon) . Évalué à 2.

        Et merci à Christophe B. d’être la première personne (et la seule !) à avoir remis en doute la présence d’IA dans ce projet.

        Tu aurais peut-être du écrire

        Et merci à Christophe B. d’être la première personne (et la seule !) à avoir remis explicitement en doute la présence d’IA dans ce projet.

        Désolé d'avoir été poli et de ne pas avoir été agressif par rapport à la pauvre qualité des réponses de ton IA ;-)

        Surtout, ne pas tout prendre au sérieux !

        • [^] # Re: euh ...

          Posté par  (site web personnel, Mastodon) . Évalué à 1. Dernière modification le 08 novembre 2021 à 00:10.

          C'est ce qui est précisé dans l'article, oui.

          Par contre je ne vois pas le rapport entre "questionner explicitement le fonctionnement d'un projet" et la politesse ou être agressif ?

          La connaissance libre : https://zestedesavoir.com

  • # Voici mes "Hello World"

    Posté par  . Évalué à 8.

    Bon, OK, titre de commentaire racoleur, je n'ai pas mis exactement ça à l'IA…

    En fait, j'ai fait une série de "Hello Nietzsche" avec ses déclinaisons pour voir comment notre philosophe va prendre mes bonjours dans son enchevêtrement de réseaux neuronaux.

    Voici ses réactions:

    "Hello Nietzsche" is Greater Good
    "Hello Nietzsche :)" is Greater Good
    "Hello Nietzsche :X" is Paradoxal
    "Hello Nietzsche :|" is Greater Good
    "Hello Nietzsche è_é" is Beyond Good & Evil
    "Hello Nietzsche :D" is Greater Good
    "Hello Nietzsche :*" is Greater Good
    "Hello Nietzsche o_O" is Lesser Good
    "Hello Nietzsche T_T" is Paradoxal
    "Hello Nietzsche :@" is Greater Good
    "Hello Nietzsche :/" is Greater Good
    "Hello Nietzsche :(" is Greater Good
    "Hello Nietzsche :'(" is Greater Good
    "Hello Nietzsche -_-" is Beyond Good & Evil

    Je note donc que l'IA prend positivement les smileys dans une bonne majorité de cas et que les marques de la déception et de la colère font hors catégorie pour sa philosophie morale.

    En revanche… J'ai changé de registre sur un bonjour par simple curiosité, puis j'ai remarqué que le bot est assez sensible pour s'offusquer d'une certaine familiarité:

    "Yo Nietzsche" is Evil

    Conclusion: Respectez bien Nietzsche, il vous le rendra bien.

Suivre le flux des commentaires

Note : les commentaires appartiennent à celles et ceux qui les ont postés. Nous n’en sommes pas responsables.