Journal Microsoft muselle son robot devenu nazi en 24 heures

Posté par  . Licence CC By‑SA.
Étiquettes :
22
27
mar.
2016

Bonjour à tous,

Mon premier journal donc pas taper

«Tay», devenu nazi en 24 heures

Microsoft a été contraint jeudi de museler «Tay», car le robot, doté d’une intelligence artificielle en capacité d’apprentissage, était devenu «nazi». Trollé par les internautes quelques heures à peine après sa mise en fonction, Tay multipliait en effet les diatribes haineuses ou racistes sur la base de ce qui lui était enseigné.

-

Je pense que la décision de museler cette "intelligence" est un mauvais choix.
N'aurait il pas fallu lui offrir la possibilité de discuter avec d'autres personnes comme intellectuels, artistes, linuxfr.iens ( mais surtout pas d'hommes politique hi hi hi ) etc … Pour voir si son comportement aurait évolué .

Dommage que cette expérience soit un fiasco grave car les futures intelligences seront peut être voir sûrement bridées pour ne plus avoir un pareil comportement. Donc simplement une intelligent humaine .

  • # Fonction cachée

    Posté par  . Évalué à 10.

    Il y a des articles qui on essayé de comprendre ce qui s'était passé, à priori il y avait un commande "répète après moi" qui devait être utilisée pour les tests et qui n'avait pas été enlevée. Du coup il y avait moyen de lui faire assimiler des phrases beaucoup plus vite que la normale.
    Et du coup certains se son amusés à envoyer ce genre de phrases.

  • # marrant

    Posté par  . Évalué à 10.

    Moi ça me fait marrer. Je trouve relativement bien ingénue la proposition de Microsoft. Ils espéraient quoi ? Que le bot chante des cantiques ou récite le programme de Sarkozy ?

    Quant à ceux qui ont peur parce que ce bot ne ferait que refléter la réalité du fond d'internet(si si, j'ai lu ça) j'ai envie de leur dire qu'ils manquent d'humour.

    • [^] # Re: marrant

      Posté par  . Évalué à 5. Dernière modification le 27 mars 2016 à 13:35.

      Ils espéraient quoi ?

      La version chinoise de ce robot, XiaoIce, est utilisée par 40 millions de personnes et actuellement une expérience positive.

      • [^] # Re: marrant

        Posté par  (site web personnel) . Évalué à 10.

        J'imagine que tous les petits trolls sont bien conscients que si ils s'amusent à lui apprendre les bienfaits de l'occupation par l'armée impériale japonaise, ou bien à réclamer la libération immédiate des prisonniers politiques, c'est pas le bot qui se fera désactiver

  • # article du Monde sur l'origine de ces détournements

    Posté par  . Évalué à 2.

    Je sais pas ce que ça vaut.
    http://www.lemonde.fr/pixels/article/2016/03/25/derriere-les-derapages-racistes-de-l-intelligence-artificielle-de-microsoft-une-operation-organisee_4890237_4408996.html

  • # Commentaire supprimé

    Posté par  . Évalué à 0. Dernière modification le 27 mars 2016 à 15:08.

    Ce commentaire a été supprimé par l’équipe de modération.

  • # Ce qu'en pense deeplop<

    Posté par  . Évalué à 10.

    https://dlfp.moul.es/fortune/3125

    *splash!*

  • # L'effet Montcuq

    Posté par  (Mastodon) . Évalué à 10.

    Ah bin c'est ça le buzz ma petite dame ! Diffuser un truc sur Internet, c'est ne pas maîtriser ce qui va en sortir. Monopoly demande quelle ville voulez-vous mettre à l'honneur, pronostiquant vraisemblablement un duel national entre Paris et Marseille, se retrouve avec un vote en masse pour la ville de Montcuq.

    La leçon qu'on donne à nos gamins (faites gaffe de ce que vous faites sur Internet, vous savez pas comment ça va être repris par les autres) marche aussi pour les industriels.

    En tout cas je connaissais pas l'histoire, j'ai bien ri :)

    En théorie, la théorie et la pratique c'est pareil. En pratique c'est pas vrai.

  • # Fiasco ?

    Posté par  (site web personnel) . Évalué à 10. Dernière modification le 27 mars 2016 à 23:18.

    Dommage que cette expérience soit un fiasco grave

    Pour moi cette expérience a bien fonctionné.
    Le robot a parfaitement appris de son entourage …

    kentoc'h mervel eget bezan saotred

    • [^] # Re: Fiasco ?

      Posté par  (site web personnel) . Évalué à 5.

      Oui, ce n'est pas un fiasco, c'est au contraire une leçon. Les prochains programmes à apprentissage auront sûrement les mêmes réponses : Pour sauver la Terre, il faut éliminer l'Humanité.

      (Les frèrW soeurs Wachowski avaient raison, les Daleks ont raison…)

      Je vais aller prendre mes cachets…

      Proverbe Alien : Sauvez la terre ? Mangez des humains !

  • # Dommage

    Posté par  (Mastodon) . Évalué à 9. Dernière modification le 28 mars 2016 à 01:04.

    Dommage, on aura même pas eu le temps de troller sur le logo choisi par Microsoft pour ce bot là : une nana. Pourquoi sexuer un bot ? Déjà, on peut voir le niveau chez MS là dessus. Ajoutons à ça le fait qu'ils lui ai fait des lèvres pulpeuses et visiblement plus rouges que les lèvres d'un humain, tendant vers le rouge à lèvres, donc la séduction. Vraiment bravo Microsoft, bien joué, belle réussite sur toute la ligne.
    En même temps je suis pas très étonné.

    Quant à l'I.A. elle même (je préfère le terme de "Stupidité Artificielle", dans le contexte global de ce type de recherche) on notera qu'elle n'est pas OpenSource. Or il s'agit là d'une «S.A» interagissant avec des humains, pour l'instant de manière écrite cependant culturelle. Et non d'un bot jouant à la guerre sur un plateau ou bien un bot analysant des milliards de recoupements de liens, ou encore d'un bot influençant la hierarchie des titres des médias. Bien que pour tous cela soit important qu'ils puissent devenir OpenSource, pour un interagissant directement avec les humains l'opensource devrait être une norme.

    • [^] # Re: Dommage

      Posté par  . Évalué à 4.

      Or il s'agit là d'une «S.A» interagissant avec des humains, pour l'instant de manière écrite cependant culturelle. Et non d'un bot jouant à la guerre sur un plateau ou bien un bot analysant des milliards de recoupements de liens, ou encore d'un bot influençant la hiérarchie des titres des médias. Bien que pour tous cela soit important qu'ils puissent devenir OpenSource, pour un interagissant directement avec les humains l'opensource devrait être une norme.

      J'ai rien compris…

      Tous les contenus que j'écris ici sont sous licence CC0 (j'abandonne autant que possible mes droits d'auteur sur mes écrits)

      • [^] # Re: Dommage

        Posté par  (Mastodon) . Évalué à 5. Dernière modification le 28 mars 2016 à 20:54.

        Ouhai c'est vrai que cette seconde partie est un peu nul à chi** debout, tout ça pour dire que tout robot étant amené à avoir une interaction sociale et culturelle avec un humain devrait avoir un logiciel opensource.
        Dit comme ça, ça parait à la fois vague et du coup applicable déjà à plein de trucs.

        J'aurai du en faire un commentaire à part.

    • [^] # Re: Dommage

      Posté par  . Évalué à 1.

      Dommage, on aura même pas eu le temps de troller sur le logo choisi par Microsoft pour ce bot là : une nana. Pourquoi sexuer un bot ?

      Peut-être pour être cohérent avec leur délire de vouloir imposer Cortana partout. S'ils pouvaient l'installer dans ton lavabo ils le feraient.

  • # Trop « humain » ?

    Posté par  . Évalué à 6.

    Connerie naturelle ✔
    Intelligence artificielle…

    « Le fascisme c’est la gangrène, à Santiago comme à Paris. » — Renaud, Hexagone

  • # C'est encore Darwin qui a raison ...

    Posté par  (site web personnel) . Évalué à 5.

    Pourquoi UNE intelligence artificielle ?
    Il serait beaucoup plus logique d'inonder le net avec des bots qui vont apprendre d'eux mêmes
    et après de sélectionner ceux qui sont vraiment intelligent.

    Avec un peu de chance cela risque même de hausser le niveau de certain forum …

  • # La vraie raison

    Posté par  (site web personnel) . Évalué à 10.

Suivre le flux des commentaires

Note : les commentaires appartiennent à celles et ceux qui les ont postés. Nous n’en sommes pas responsables.