Faya a écrit 2556 commentaires

Tu as choisi ton mode de vie, tu évites les employeurs nocifs, les supermarchés, les outils qui pourraient être dommageable au reste de la société. J'en suis juste à éviter les plus méchants avec ce que m'offre le libre (et à le financer occasionnellement). Tu prends des mesures et moi des mesurettes donc bravo sincère et j'espère que le monde que tu veux voir est encore possible.

En lisant cette réponse et un échange précédent que nous avions eu au sujet des darks patterns, je crois que je suis juste désabusé. Limite cynique. J'aime mes données et le libre donc je n'abreuve ni Facebook ni Google (enfin lui j'essaye mais il est omniprésent…) mais je pratique parfois le doomscrolling sur Twitter. L'élection de Trump, Cambridge Analytica, suivis de la pandémie, nous ont montré à quel point les contenus débiles/nocifs étaient lus et partagés. L'effet que ça avait déjà sur nos vies. Et dans cet océan de déchets, d'éventuels articles médiocres écrits par une IA ne seront pour moi qu'une goutte de plus. Les humains le font déjà si bien…

On tourne en rond. Oui c'est à fuir si on compte l'utiliser comme un Oracle infaillible. Et quelque soit la réponse qu'il te donnera, un code ça se teste.

C'est le principe qui est comparable. Copier-coller quelque chose que tu n'as pas compris. À partir de là, quelque soit la source, c'est mauvais. Et la responsabilité incombe au copieur.

charge à l'utilisateur de le tester/comprendre.

En tant que visiteur du web on peut craindre une baisse de qualité, que ce qu'on cherche (ou ce qu'on veut diffuser) soit noyé dans la masse d’œuvres générées automatiquement

Comme dit plus haut, pour moi c'est "Un outil comme un jq augmenté d'un Clippy beaucoup plus performant.". C'est à dire que je ne l'utilise pas pour la production d'oeuvre. Ni graphiques, ni écrites. Sur ce point je ne suis pas loin d'être d'accord (cf. ma phrase sur "Des articles de presse entièrement rédigés par ChatGPT.")
Maintenant, n'avons nous pas déjà appris à naviguer entre les torrents de vidéos mensongères, les blogs obscurs, les journaux sensationnalistes, les articles de fake-science à la France-Soir,… L'océan dont tu parles est déjà là mais on sait (à peu près) où trouver les infos qui comptent. Je ne suis pas sûr que des trucs générés automatiquement y changeront grand chose.

le résultat est largement disponible sur la toile mais il a fallu que ça tape largement à côté.

Si tu parles de 1+1 il me semble qu'il a répondu correctement. Ensuite c'est l'algo de "Reinforcement Learning from Human Feedback" qui provoque l'erreur (sycophancy bias, les gens qui bossent dessus connaissent le soucis et la recherche continue). Mais dans tous les cas on est d'accord que ces modèles sont expérimentaux hein. Vu que j'ai appris l'expression aujourd'hui il semblerait que tu joues à la "négation polémique" avec ton "se fier à ça pour son code de production". Je re-re-reprends l'exemple de StackOverflow, qui colle en production du code copié sur le net ? Faut arrêter avec ce fantasme ou alors me trouver qqun qui aurait dit que ChatGPT savait tout résoudre. C'est suffisant pour le besoin, parfois ça ne l'est pas et charge à l'utilisateur de le tester/comprendre.

Peut-on éviter s'il te plaît les attaques personnelles?

Alors milles excuses. Je ne l'ai pas écrit comme une attaque. Quand je dis "tu nous prends pour des cons" ça rejoint "vous courez droit au mur." Note que je ne t'ai qualifié de rien du tout mais bon ouais le ton est peut-être un peu sec. Sûrement parce qu'on lit de tout sur ce sujet, entre les adorateurs de l'IA et ceux qui annoncent la fin du monde. Et puis c'est un peu lourd de (re)lire qu'on a rien compris à son fonctionnement. Ce que je veux c'est prendre une position plus mesurée. Juste la question pratique (je ne me suis pas exprimé sur les dangers sociétaux). Je baisse sur la pression.

je comprends pas pourquoi tu sembles le prendre personnellement.

Bah tu me cites en disant "C'est une course à la médiocrité" (entre autres) donc ouais je l'ai un peu pris pour moi. M'enfin rien de grave.

Pourquoi me faire peur? Encore une fois, tu essaies de personnaliser la discussion. Je soulève des problèmes de société.

Justement je ne parlais pas des problèmes de société. J'ai voulu rester uniquement sur la question technique car je ne suis pas très à l'aise sur le sujet, c'est vachement flou et incertain. Tu dis "On aura toujours besoin de graphistes, illustrateurs, développeurs, écrivains et chroniqueurs… Mais on essaie de faire croire artificiellement à une forme d'inutilité." Si on en aura toujours besoin (et je suis d'accord sur ce point) qui croira à l'inutilité puisqu'il faudra bien embaucher ces développeurs ? Si ChatGPT est si mauvais, nous n'avons pas grand chose à craindre puisque sa production sera aussi mauvaise que lui et on embauchera des humains pour faire des choses de qualité. C'est comme les outils no-code qui devaient remplacer les devs… Je ne me sens pas menacé le moins du monde. Je vois bien par contre les soucis d'exploitation de la production d'auteurs qui n'ont pas donné leur accord pour entraîner ces trucs.

En fait j'ai l'impression que tu as des inquiétudes possiblement légitimes (problèmes de droits, problèmes d'emploi…) mais que c'est mélangé avec des choses annexes et infondées (je dis "tu" parce que je réponds à tes messages mais là encore ce n'est pas une attaque ! Ou alors une attaque de l'argumentation.) Par exemple le fait qu'il ne sache pas calculer, ou qu'il produise des textes sans saveur je ne vois pas en quoi ça nous mène "dans le mur". Les personnes qui l'utilisent pour autre chose que pour s'amuser le font en gardant les failles à l'esprit, comme tout développeur sait qu'il ne faut pas copier-coller un bout de code de StackOverflow si on ne l'a pas compris. Quand je lui demande de me trier des données, le mur me paraît assez éloigné. Des articles de presse entièrement rédigés par ChatGPT, là ouais on pourrait commencer à s'inquiéter mais vu les performances, ça se verrait assez vite. Sans compter que la production de qualité médiocre n'a jamais menacé les productions de qualité, que ça soit dans les arts ou la presse, il y a de la place pour les tabloïds et pour le journalisme d'investigation. Les clients feront le tri. Au final les critiques légitimes sur la qualité jurent avec l'inquiétude qu'on va droit dans le mur. Mais c'est peut-être parce que tu le vois du côté artistique et que je ne le considère que du côté pratique… Un outil comme un jq augmenté d'un Clippy beaucoup plus performant.

bot qui répond mal à des calculs mathématiques niveau primaire. Et on veut lui faire expliquer du code complexe?

C'est drôle parce que tu hurles que "les gens" n'ont pas compris comment ça fonctionne mais cette seule phrase montre que tu n'as pas vraiment compris non plus… Qu'un modèle de langage ne fasse pas de calcul ça ne devrait surprendre personne. C'est normal, quand on a compris comment ça fonctionne. Afficher de la documentation par contre, ça rentre plus dans la catégorie "langage". Donc oui lui faire afficher une succession de passages de documentation c'est carrément indiqué. Je veux bien que tu me montres la faille ici

Explication de code

Sérieusement, si quiconque se sert de ChatGPT pour se faire expliquer du code, vous courez droit au mur.

Comme tu me réponds sous un autre commentaire, je reprends ici… Je crois qu'encore une fois tu prends les mots au pied de la lettre(ou alors tu nous prends pour des cons). Voilà un exemple pratique de ce que j'entends par "expliquer du code" : https://linuxfr.org/users/octane/journaux/mon-avis-sur-chatgpt#comment-1913116 Ça se résume à dérouler le script et compiler les parties de la documentation qui conviennent. Mashup comme tu dis. Sans avoir à fouiller individuellement la manpage de chaque commande. Et pour l'utiliser quotidiennement, je suis au courant qu'il lui arrive de se tromper mais personne (vraiment personne) n'a dit que ChatGPT était devenu son mentor et qu'on faisait confiance à tout ce qu'il affiche. J'insiste mais je t'assure que personne n'est aussi bête et de toutes les façons quiconque le ferait se rendrait immédiatement compte qu'il y a des failles régulières. Par contre, oui il peut faire gagner du temps.

Il faut que les gens comprennent ça et arrêtent d'écouter ce bot comme une sorte de prophète qui comprend tout!

Il y a tout juste une semaine je disais mot pour mot "il faut connaître les limites de l'outil et cesser de l'utiliser comme un oracle qui peut nous apporter la réponse à la Vie l'Univers et tout le reste". On est d'accord que c'est la même chose que tu dis là ? Donc nous sommes d'accord.

Pour tout le reste de ton commentaire je comprends les inquiétudes (ubérisation, problèmes sociaux, …) mais c'est orthogonal à la critique de l'utilité du bouzin. Concernant DALL-E je n'en vois pas encore l'utilité à part s'amuser quelques minutes donc je n'ai rien à en dire. Mais pour ChatGPT il faut comprendre que des personnes pas complètement débiles l'ont utilisé plusieurs fois et sont conscients des failles. Et que tu joues à te faire peur avec le dev qui va copier-coller une réponse de ChatGPT pour la pousser en production. On peut faire le choix de ne s'intéresser qu'à ses manquements ou alors tester pour constater que bien que n'étant qu'un T9 évolué, on peut lui faire fournir des réponses utiles. Exactement comme on le ferait avec une réponse de StackOverflow.

nous allons voir avec ce cas ce que la communauté BLM va en faire, si elle mettra sous le tapis que des noirs peuvent être aussi des ennemis

On a pas attendu Zenitram pour découvrir les discriminations intracommunautaires.

"Well… let's not act like that HNIC mentality stayed on the plantation." (HNIC = Head Nigga In Charge ou Nègre de Maison)

ou encore

"Les gens qui sont surpris que les flics qui ont fait ça soient noirs sont sur le point d'apprendre une partie de "The Talk" sur laquelle mes parents ont toujours insisté : la race d'un flic est "flic". Ne soyez jamais dans l'illusion qu'un flic noir est moins susceptible de vous brutaliser ou de vous tuer."

Pour parler de ce que je connais, bien des noirs sont plus racistes envers les noirs qu'envers les blancs. Ont une déférence envers les blancs qu'ils n'ont pas avec leurs collègues noirs. Et tout ça remonte au phénomène de "peau sauvée" : plus ta peau était claire plus tu montais dans l'échelle sociale. Noir < Chabin < Mulâtre < Béké < Français. Pour qui a vécu aux Antilles, ces distinctions sont flagrantes, prégnantes, et sont une grille de lecture nécessaire pour comprendre cette société métissée. C'est ce qu'on appelle ailleurs le colorisme. Une représentation célèbre du phénomène est La Rédemption de Cham.

Oui les noirs ont "absorbé" les discriminations apprisent des blancs. La hiérarchie et les violences policières n'y échappent pas. On appréciera la vitesse à laquelle les coupables ont été écartés, pointés par le FBI, lâchés par les syndicats. Du jamais vu et c'est tant mieux ! L'excuse du "il nous faut 6 mois d'enquête pour déterminer si c'était bien un meurtre" a du plomb dans l'aile (pun intended). Ça n'a sûrement rien à voir avec le fait qu'ils sont noirs comme leur victime ?

sûrement parce que vous vous faites avoir par l'idée que ces logiciels sont "intelligents". Non ils ne le sont pas. Ces systèmes logiciels "n'apprennent" pas réellement, ils ne comprennent pas ce qu'ils font

J'ai l'impression que tu prends un peu les gens pour des cons. Je pense que tout le monde (au moins sur LinuxFr…) comprend le sens des expressions "algorithme", "modèle" ou "données d'entraînement." Et que les modèles de ces IA ne sont pas mis à "comprendre" le langage naturel pour "réfléchir" à la question posée. Il y a un contexte dans l'utilisation des mots. Ici, "comprendre" serait plutôt "traduire pour utiliser", un peu comme un compilo qui comprend ton code haut niveau pour le traduire en langage machine. Et dans ce contexte, ils comprennent puisqu'on obtient bien en sortie quelque chose correspondant à la demande en langage naturel (modulo les ratés (ChatGPT) ou la faible qualité (Dall-E)). La question du droit d'auteur est primordiale et ce genre d'études qui pointent les failles feront que les modèles seront améliorés pour ne pas recracher de manière basique les données d'entraînement.

Il faut aussi garder à l'esprit que ces trucs sont très jeunes. Il y a 1 an on ne s'attendait pas à pouvoir se faire expliquer du code ou rédiger un article (insipide mais ce n'est pas la question) par un chatbot. Je ne suis pas de ceux qui prédisent une Intelligence Artificielle Forte pour bientôt (ni même de notre vivant je pense) mais on aurait tort de penser qu'on a atteint là le maximum des possibilités de ces modèles. Tiens d'ailleurs OpenAI vient de sortir un modèle servant à distinguer un texte rédigé par une IA d'un texte rédigé par un humain. Là encore personne n'est dupe, ça va surtout servir à entraîner ChatGPT à mieux masquer son IAttitude…

Le mot important du titre c'est "britanniques", vu que c'est un article du Guardian. On s'attend peut-être plus à ce que ces sociétés soient domiciliées au Panama ou aux Seychelles.

Un ingénieur de Californie […] a déclaré que le statut britannique leur conférait une "crédibilité factice".
"Vous pensez que vous aurez un moyen de les poursuivre s'ils vous prennent tout votre argent", dit-il. "Si cette société avait été enregistrée en Chine, je ne lui aurais pas fait confiance. Tout simplement pas."

je veux pas vraiment faire le compte.

Moi non plus et j'en serais bien incapable de toutes les façons. Mais il y a des gens qui en sont capable et dont c'est le métier ! Donc la transparence reste nécessaire pour que les citoyens aient moins l'impression de se faire enfler. Car c'est généralement là où aboutissent les échanges sur les impôts : «ouais ok ils sont nécessaires mais ""ils"" s'en foutent plein les poches au lieu de les utiliser correctement». Parmi ceux qui en sont capables et dont c'est le métier, il y a par exemple la cour des comptes. Et elle a déjà pointé pas mal de gaspillage ou zones d'ombres, de la Hadopi aux radars dont on ne sait où va l'argent en passant par McKinsey. Et ça c'est quand elle mène correctement les contrôles attendus. Oserais-je aborder l'évasion fiscale et la corruption ?

Bref, les impôts, un grand OUI. Mais avec un droit de regard (par les instances compétentes) et une exigence d'exemplarité. Je crois qu'en France on en est assez loin… Et c'est surtout ça qui crispe les citoyens. Les délinquants ou gaspilleurs en col blanc, si rarement ou si faiblement visés.

[EDIT] je ne défends pas tout les "petits" fraudeurs hein, deux maux ne font pas un bien nous sommes d'accord. Mais il y a une composante humaine dans l'acceptation des impôts. Si ceux d'en haut sont propres (ou au moins semblent l'être…) ça va bien mieux marcher.

What !? Je pense que tu as raté le sarcasme de ma réponse rédigée par une IA. J'aurais peut-être dû mettre le prompt qui a généré cette réponse (c'était quelque chose du style "Rédige un monologue vide de sens sur le discrédit. Fais le dans le style du monologue d'Otis de Edouard Baer dans Astérix Mission Cléopâtre." ). Ou alors tu donnes toi même dans le sarcasme en disant que je développe une idée qui a du sens en parlant d'un monologue écrit pour n'avoir aucun sens…
Bref, oui les termes "officines de fack-checking" ont allumé mon détecteur de sottises. Les suiveurs de ce type (Aberkane) sont un mystère pour moi… Il ment et manipule en permanence mais c'est à lui qu'il faudrait donner du crédit pour dévoiler les Grands Mensonges des officines et autres cabinets noirs. WTF.

Le discrédit, ah, le discrédit ! Quel fléau pernicieux ! Il nous ronge, nous mine, nous détruit ! Il est comme un cancer qui s'immisce dans les plus nobles des âmes, semant le doute et la confusion. Il est l'ennemi de la vérité, de la justice, de l'honneur !

Mais qu'est-ce que le discrédit, vous demandez-vous peut-être ? C'est un concept étrange, un fantôme qui hante nos pensées, un serpent qui se faufile dans nos cœurs. Il est insaisissable, intangible, mais il est là, toujours là, rôdant dans l'ombre, prêt à bondir à tout moment.

Il est le venin de l'opinion publique, le poison de la réputation, la malédiction de la notoriété. Il est la chute de la gloire, le naufrage de l'estime, la déchéance de la dignité. Il est la mort de l'honneur, la fin de la réputation, la destruction de la réputation.

Mais ne vous laissez pas abattre, mes amis ! Car si le discrédit est puissant, nous sommes plus forts encore ! Nous sommes des guerriers, des combattants, des lutteurs ! Nous ne nous laisserons pas vaincre par cet ennemi subtil et perfide ! Nous allons le combattre, le vaincre, l'écraser !

Nous allons lever haut notre épée de la vérité, notre bouclier de l'honneur, notre casque de la dignité ! Nous allons charger, foncer, attaquer ! Nous allons vaincre le discrédit, nous allons triompher !

Soyez forts, mes amis ! Soyez fiers ! Soyez libres ! Car ensemble, nous vaincrons le discrédit ! Ensemble, nous triompherons ! Ensemble, nous serons victorieux !

Source

OK merci. Je me suis bien sûr rendu compte très tôt que les Toulousaing ne parlaient pas comme les Parisiens ou les Lillois. Mais je redis que ce que je n'avais pas perçu concerne uniquement le "un"/"in".

Tu essayes de m'expliquer qu'il y a plusieurs accents français ? C'est assez cocasse vu qu'à Toulouse (justement) mes profs déclaraient qu'on ne me comprenait pas à cause de mon fort accent antillais… Ce à quoi je n'ai pas porté attention c'est le "in" vs "un". C'est sur le tard que j'ai réalisé que "les français" (généralisation abusive) ne savaient pas prononcer "un".

Ah tiens, merci c'est bon à savoir. Je n'ai peut-être été exposé qu'à des parisiens… J'ai pourtant vécu à Toulouse mais je n'ai pas porté particulièrement attention à ça à l'époque.

Un aberkaniste ?

Et un paquet d'autres :

Je me demande si ces mairies se sont juste trompées de bonne foi comme Ysabeau, ou si il y a eu une campagne de l'auteur du site visant à demander aux webmestres de petites communes d'ajouter ce lien sur leur site.

Sinon, les trucs qui m'auraient mis la puce à l'oreille sont :
- le petit encart "avis clients" en haut à gauche, rien à faire sur un site institutionnel
- l'absence du logo habituel, avec la Marianne
- le pied de page est vraiment très vide, aucune info légale, rien du tout
- l'aspect global fait vraiment thème Wordpress balancé rapidement… Mais notre service public est bien capable de déployer le même genre de truc, sans compter l'instabilité notoire de leurs noms de domaines.

Bien sûr c'est facile de parler une fois qu'on sait…

Il fallait lire "continuer son business principal" bien sûr…

Axiome : toute entreprise avec un modèle hybride contenant le business-model publicitaire peut être considérée comme 100% publicitaire et va s’optimiser en ce sens. (je dis axiome car je ne le démontre pas ici mais il est assez facile de le démontrer, au moins sommairement).

Mouais… Je veux bien une démonstration. J'ai 2 exemples d'entreprises en tête pour lesquelles la publicité n'est pas le fond de commerce mais qui ont collé une régie publicitaire sur les pages histoire de faire rentrer quelques sous pour aider au paiement de l'hébergement.

n’optimisant que le publicitaire de toutes façons

Non ? Coller une régie publicitaire sur la page d'accueil et continuer sans business principal c'est courant. Alors oui on peut gloser sur "l’industrie publicitaire ne mérite que de disparaitre", je ne suis pas contre (la disparition). Mais quand tu dis "toute entreprise avec un modèle hybride (..) peut être considérée comme 100% publicitaire" va falloir le démontrer.

Les lents s'élancent sus à l'élan qui a mangé son, blé,… Amis donnez !

Sauf qu'on apprend comment ces syllabes se prononcent, il y a des règles.

Comme la règle qui dit qu'un y entre deux voyelles équivaut à 2 i : voyage = voi-iage , rayon = rai-ion. Sauf que les hexagonaux prononcent goyave comme goïave alors que c'est goi-iave !
Ou encore le son un que les hexagonaux prononcent comme in ou ain alors que ce n'est pas du tout le même son !

J'aimerais bien connaître le pourquoi de ces fautes de prononciation qu'on ne fait que sur le continent alors que les habitants des colonies éloignées ne les font pas.

Oui il faut connaître les limites de l'outil et cesser de l'utiliser comme un oracle qui peut nous apporter la réponse à la Vie l'Univers et tout le reste mais ça ne signifie pas du tout qu'il est inutile. Les démos des médias ne montrent que la partie ludique du truc mais il y a quantité de scientifiques qui entrevoient des applications pratiques bien plus importantes. Et je dis bien entrevoir car nous n'en sommes qu'aux débuts. À un autre niveau c'est aussi l'acquisition d'expérience dans la manipulation de réseaux neuronaux, le deep learning, le traitement automatisé du langage naturel et autres concepts abstraits,… Bref il faut voir plus loin que le jouet et les connaissances acquises pour créer ce ChatBot pourront servir demain pour aider des handicapés ou quelque autre application que nous n'avons pas encore identifiée.

C'est de la Science. Il n'y a pas de ligne droite entre l'objectif et le résultat, parfois même on atteint un résultat qu'on ne visait pas.

(et sinon, à un niveau plus terre à terre, ce jouet m'est déjà bien utile. cf. ci-dessous)

Concernant le salaire des Kenyans, l'article du Time nous donne les chiffres : «between around $1.32 and $2 per hour» , ce qui fait entre 164 et 248 shillings kenyans. C'est supérieur au salaire horaire d'employés de gardiennage, nettoyage,… On est dans la moyenne des emplois du style «Commis, Patroniste (dessinateur), Boulanger, Téléphoniste, Réceptionniste, Magasinier» de Nairobi. Ouais, les Kenyans n'ont pas le niveau de vie des français… merci à OpenAI d'ouvrir les yeux aux français qui ne réalisent pas à quel point ils sont riches par rapport au reste du monde. OpenAI a payé le prix du marché. (Je fais mon Zenitram là…)
Par contre ce qu'on peut leur reprocher c'est le travail demandé : passer des heures à trier des textes racistes et des images violentes, pédoporno &co. Du coup ça a conduit à la rupture de contrat avec la boîte Kényane.

«Qui servira à votre détriment» {{Référence nécessaire}}
Je l'utilise, pour l'instant, à mon avantage : je travaille avec. c'est un modèle de langage donc on parle beaucoup des textes insipides qu'il sait rédiger mais pour moi son avantage n'est pas là. Il est bon pour classer/nettoyer des données ou expliquer un bout de code. Je trouve que c'est un assistant sympa pour du dev. À condition de savoir ce qu'on fait, il complète efficacement Google/StackOverflow. Il est bien utile à mes stagiaires aussi/

Exemple réel :