Voilà, ça n'aura pas traîné, on a déjà les premiers papiers de recherche qui montre comment ces modèles sont capable de recracher des quasi-copies des images sur lesquelles ils se sont entraînés. Ouvrez le PDF du lien, il des images d'exemple, avec Stable Diffusion qui a recrache des images quasiment à l'identique (hormis la grosse perte de qualité) avec le prompt adéquat.
Bon c'est un petit lien pour ceux qui sur LinuxFr ne comprennent pas comment ces systèmes entraîné sur des données réelles fonctionnent et sortent encore régulièrement qu'ils ne voient aucun risque de droit d'auteur, que ces images sont bel et bien des "créations" du modèle et autres absurdités. Genre on lit des trucs ridicules genre que ça ne reproduit que le "style" et que le style n'est pas sous droit d'auteur (mais c'est quoi "le style"? Et surtout plus précisément pour un modèle d'apprentissage, ça veut dire quoi le style? Cherchez pas, ça n'existe pas; sortir ce type d'argument ne veut rien dire). Encore une fois, sûrement parce que vous vous faites avoir par l'idée que ces logiciels sont "intelligents". Non ils ne le sont pas. Ces systèmes logiciels "n'apprennent" pas réellement, ils ne comprennent pas ce qu'ils font (ou ce que vous leur dites quand vous envoyez une commande, même si c'est en langage naturel donc vous avez l'impression qu'il y a une intéraction de compréhension mutuelle. Non.), ils ne reproduisent pas des styles ou des genres (même si vous leur avez dit de le faire et qu'on a l'impression qu'ils le font puisque le rendu est dans le style approprié; ça a juste recraché les bonnes données qui étaient "tagguées" de manière appropriée, en simplifiant en très gros), ils ne dessinent pas, ils ne réfléchissent pas sur un sujet que vous leur suggérez…
Y a eu plusieurs commentaires dans ce sens sur LinuxFr par ceux qui veulent absolument défendre ces systèmes d'IA (pour une raison que j'ai du mal à comprendre) et à chaque fois, je me retenais de répondre. Alors c'est bien qu'y ait maintenant des papiers de recherche sur le sujet qui commencent à sortir! 😁
Où est le problème ?
Si je demande la tronche d'Obama, c'est normal qu'elle ressemble à Obama. Après, ton papier peut prendre des objets, comme un crapaud seul. Le but avec les IA est de faire des compositions, comme un crapaud au bord d'un étang en Drôme provençale au coucher du soleil.
On s'en moque que le réseau de neurones ne comprenne pas ce que je dis, et je dis tant mieux finalement. Ce qui compte, c'est le résultat uniquement.
Je me suis amusé à faire de l'outpainting et c'est génial, c'est un super passe-temps. J'ai l'impression de créer (je ne sais pas dessiner et cela me frustre).
De faire sortir mon imagination sur l'écran est pour moi le plus important, même si cela viole un peux le droit d'auteur (je ne publie pas).
l'image ci-dessous, je me suis fait un fond d'écran
Parmi les problèmes que posent ces approches, il y a par exemple le souci du droit d'auteur. Si une image est recrachée simplement déformées par quelques filtres, ce n'est pas une composition originale. Et si une image est remixée dans d'autres images, ce n'est pas de la création à partir de rien, mais de la composition avec l'existant, ce qui au niveau du droit d'auteur pose d'autres problèmes encore.
On peut transposer dans la musique pour mieux comprendre le problème. Une IA artistique musicale pourrait piocher dans la prod musicale "humaine" et fabriquer des stars optimisées de la musique populaire à partir des fonds existants en cherchant à maximiser ses revenus en inondant le marché. C'est une piste qui est actuellement explorée par l'industrie : https://cnm.fr/la-musique-ia-et-lartiste/
Mais ce pitch, c'est aussi plus ou moins celui d'un bouquin d'un des auteur majeur de la SF Américaine, Norman Spinrad : Rock Machine, écrit en 1987, c'est à dire il y a 36 ans, et qui s'inscrit dans la mouvance Cyberpunk de l'époque :
Dans un proche avenir où la multinationale MUSIK règne sans partage sur l’industrie musicale, Bobby Rubin, manipulateur d’images, Sally Gennaro, manipulatrice de sons, et Gloriana O’Toole, survivante quelque peu défraîchie des temps héroïques du rock (comprenez : les années 60) sont chargés créer de toutes pièces une rock-star virtuelle capable de déchaîner les passions du public et de faire vendre quelques millions de disques. Tandis que les junkies du futur se grillent les neurones avec le câble (des drogues électroniques qui stimulent artificiellement le système nerveux), le FLR (Front de Libération de la Réalité) œuvre dans l’ombre pour tenter de renverser l’ordre mondial (essentiellement économique) à coup de virus informatiques.
Spinrad a la réputation d'être un auteur visionnaire, mais souvent radical et provocateur. Mais j'avoue que voir le monde d'aujourd'hui essayer de ressembler à un roman de Spinrad a quelque chose d'à la fois fascinant et relativement inquiétant. Rock Machine n'est pas son meilleur bouquin sur le sujet (Jack Barron et l'éternité est à mon avis indépassable) et le style de Spinrad ne plaît pas à tout le monde. (et objectivement, la qualité littéraire est variable, c'est à dire qu'il a ce coté punk, pour le meilleur et pour le pire).
Pour en finir sur la musique, récemment sur KEXP, une grosse radio publique américaine, est apparu sur mon radar, un groupe hors normes : Mdou Moctar avec une prestation hallucinante d'un de leur morceau : Afrique Victime
Pourquoi en parler ici ? Leur façon pété de faire varier le rythme de façon instinctive, ce truc là, qui te prend aux tripes, te donne l'impression d'une chevauchée sauvage à dos de dromadaire au milieu des dunes, jamais une machine n'arrivera à le faire. Absolument aucune chance, j'en suis intimement persuadé. Comme me le faisait remarquer un ami musicien, aujourd'hui la plupart des musiciens jouent au clic, qui permet de synchroniser le rythme de chacun avec celui des machines, de façon "parfaite". Les musicos de Mdou Moctar n'ont pas de clic, ils se laissent guidée par le groove, à l'instinct, et même si ça dérape, qu'est ce que ça peut faire ? Au contraire…
Pour finir sur Mdou Moctar, je permet de conseiller ce doc autoproduit, qui parle de leur difficulté à jouer dans un pays où on risque sa vie à le faire : Mdou Moctar - "Afrique Victime: The Documentary"
De faire sortir mon imagination sur l'écran est pour moi le plus important, même si cela viole un peux le droit d'auteur (je ne publie pas).
Oui, le fond du sujet, n'est pas tant de savoir si une machine à le pouvoir de créer une oeuvre artistique de façon plus ou au moins autonome, mais qu'au fond, ce qui est vraiment important, ce sera toujours notre capacité à le faire, avec ou sans machines, et tu a raison, on s'en fout, du moment que ça nous permet d'exprimer et partager nos émotions. C'est là le truc.
La vraie question, c'est toujours la même, au bout du compte, que reste-il d'humain dans la machine ?
;-)
Faut pas gonfler Gérard Lambert quand il répare sa mobylette.
Dans un proche avenir où la multinationale MUSIK règne sans partage sur l’industrie musicale, Bobby Rubin, manipulateur d’images, Sally Gennaro, manipulatrice de sons, et Gloriana O’Toole, survivante quelque peu défraîchie des temps héroïques du rock (comprenez : les années 60) sont chargés créer de toutes pièces une rock-star virtuelle capable de déchaîner les passions du public et de faire vendre quelques millions de disques.
Dans un proche avenir ? Les « chansons de l'été », les boys band, Hatsune Miku,… C'est exactement ça. Et tu peux trouver la même chose dans le cinéma ou le jeux vidéo.
La question n'est pas (il me semble) la qualité produite pour de bonne ou de mauvaise raison (ça fait des années qu'on a de la mauvaise qualité produite de manière cynique), mais la rétribution et la reconnaissance des auteurs originaux.
Avec les dites chansons de l'été, on a encore des chansons poussées au forceps.
Avec les boys band, il y a encore des gens de chair et d'os qui doivent interagir entre eux.
Dans un futur avenir, tout cela sera virtuel dans le sens où on n'aura que des sons de synthèse (et où Sally G. sera une IA) et des hologrammes (gérés par l'IA nommée Bobby R.)
Je te rejoins sur le cynisme …qui a fait passer les fast-food pour la référence alimentaire de certaines personnes. La bonne raison d'être du meilleur des mondes qui se dessine est justement de ne plus rétribuer l'originalité et la création, et de faire tourner au max la cash-machine.
“It is seldom that liberty of any kind is lost all at once.” ― David Hume
Dans un futur avenir, tout cela sera virtuel dans le sens où on n'aura que des sons de synthèse (et où Sally G. sera une IA) et des hologrammes (gérés par l'IA nommée Bobby R.)
Le message auquel je répond décrit le système avec des humains comme étant futuriste. J'explique que ça fait plus de 30 ans que ça se met en place et que ça s'industrialise progressivement. Le fait de remplacer 4 techniciens (pour le son, pour les paroles, pour les chorégraphies et pour la voix) par des algo n'est pas une révolution. C'est l'étape suivante d'une industrie déjà largement encrée.
Posté par Big Pete .
Évalué à 3.
Dernière modification le 02 février 2023 à 10:04.
Oui, l'extrait que j'ai cité, si tu lit bien mon commentaire, c'est le résumé d'un livre écrit en 1987. Je me trouve dans la situation un peu embarrassante de devoir te contredire en argumentant que je suis d'accord avec toi.
Cela dit, j'aurais plein d'autre chose a dire sur ce sujet passionnant, (enfin qui me passionne), mais j'ai pas trop le temps là.
Je laisse juste cette pensée a ceux qui voudront bien s'en emparer :
Lorsque Dick écrit cette nouvelle au titre fabuleux : Do Androids Dream of Electric Sheep? en 1968, n'est-ce pas une réponse brillante a la réflexion de Turing sur la nature de l'intelligence des machines et de celle des hommes ?
En effet, quoi de plus humain que de rêver a des moutons électriques, et n'est-ce pas ça, au fond, qui nous différentie vraiment des machines ?
Au final, lorsqu'on cherche des traces d'humanité dans le passé, quand on fait de la paléoanthropologie, est-ce qu'on cherche des fossiles d'humain ? des reste de corps ? ou plutôt des traces comme des peintures, des outils, des sculptures ? Est-ce ce qui fait de nous des hommes ce n'est pas cette capacité a éprouvé des sentiments envers des choses inanimées, ou qui semble l'être ? Quoi de plus humain qu'un enfant s'attachant a un ours en peluche ? Et au final, pour en revenir au sujet de réflexion du commentaire initial, quoi de plus naturellement humain que d'éprouver un sentiment envers une oeuvre …. crée par une machine ? Et comme Philip K Dick, on peut se demander si une machine sera un jour capable de faite quelque chose d'aussi irrationnel …
Faut pas gonfler Gérard Lambert quand il répare sa mobylette.
Posté par barmic 🦦 .
Évalué à 2.
Dernière modification le 02 février 2023 à 11:34.
Oui, l'extrait que j'ai cité, si tu lit bien mon commentaire, c'est le résumé d'un livre écrit en 1987. Je me trouve dans la situation un peu embarrassante de devoir te contredire en argumentant que je suis d'accord avec toi.
Si je demande la tronche d'Obama, c'est normal qu'elle ressemble à Obama.
Sauf que si je demande la tronche d'Obama et qu'on me ressort une peinture d'Obama, ce n'est pas de la création, c'est Google Image. Et du coup, le droit d'auteur revient à la personne qui a peint le portrait.
C'est un des gros problème, ces modèles sont utilisé pour s'affranchir du droit d'auteur et ne rien avoir à payer aux auteurs (ni à respecter leur licence), alors qu'ils ont été entraîner sur des images sans les droits dessus et qu'en plus, ils les recrachent telles quelles, ou en ((très) grosse) partie.
« Rappelez-vous toujours que si la Gestapo avait les moyens de vous faire parler, les politiciens ont, eux, les moyens de vous faire taire. » Coluche
Pour le coup, si on arrive avec une autre IA à démontrer que l'oeuvre d'une IA est un faux (c'est a dire le plagiat d'une oeuvre existante), on pourrait demander à une IA avocat d'intenter une action dans une juridiction virtuelle spécialisée auprès d'un juge IA pour demandé une réparation (en bitcoin).
Le tout potentiellement plusieurs milliers de fois par secondes. C'est le moment d'investir dans une startup pour monter un cabinet d'avocats artificiels spécialisés dans le droit d'auteur. (note que les IA de la finance sont surement déjà sur le coup).
Faut pas gonfler Gérard Lambert quand il répare sa mobylette.
Le problème, c'est de ne pas voir le problème. En fait, si tout le monde comprenait vraiment ce qui se passait et agissait en conséquence, alors ce serait beaucoup plus acceptable parce qu'on serait capable d'utiliser ces technologies sans tomber dans les pièges de délitement social.
Ces IAs ne sont rien d'autre que les versions avancées des logiciels de clip-art (sauf qu'à l'époque, on payait les designers de ces clip-arts, donc c'était un business-model sain). Ici on crée des trucs de qualité merdique, qui en fait pioche massivement dans les œuvres de millions d'artistes (mais en ressortent des trucs de type "mashup" de qualité sub-optimale). Et les gens s'habituent à cela et semblent considérer que c'est tout à fait utilisable, parce qu'en fait ils veulent faire des économies et ne savent pas dessiner eux-même. Donc on est à la fois dans une course à la médiocrité qualitative et dans un problème social où il y a perte de considération des auteurs originelle des œuvres, ce qui est totalement absurde et irrationnel (et pourtant c'est ce qui se passe). Tout cela en nourrissant une startup qui se nourrit de ces problèmes et qui pourra devenir suffisamment grosse pour ensuite être une partie significative des maux de nos société.
Notamment cela est vrai aussi bien pour les œuvres graphiques (Stable Diffusion, Dall-E et consort) que les textes littéraires (ChatGPT…) ou le code (Copilot…).
Quand je lis plus bas des trucs comme:
Il y a 1 an on ne s'attendait pas à pouvoir se faire expliquer du code
Sérieusement, si quiconque se sert de ChatGPT pour se faire expliquer du code, vous courez droit au mur. ChatGPT ne comprend pas le code. Il arrive juste à produire du texte qui a l'air d'être raisonnable mais sans aucune garantie d'être juste. Il faut que les gens comprennent ça et arrêtent d'écouter ce bot comme une sorte de prophète qui comprend tout! Sur ChatGPT, y avait ce lien sur LinuxFr, y a quelques jours, avec des exemples du bot qui répond mal à des calculs mathématiques niveau primaire. Et on veut lui faire expliquer du code complexe?
Puis:
ou rédiger un article (insipide mais ce n'est pas la question) par un chatbot.
Ben si, c'est exactement la question! C'est une course à la médiocrité et les gens se mettent à utiliser cela massivement dans des vrais usages de tous les jours de nos sociétés. On répand donc de la médiocrité tout en évinçant les humains, souvent sous prétextes que ceux évincés sont justement des humains qui produisent déjà du "contenu" médiocre, ce qu'on va alors argumenter comme étant leur faute qu'ils se font remplacer par une IA s'ils sont même pas capable de faire aussi bien. Mais justement en faisant cela, on ne leur laisse pas le temps d'apprendre et d'évoluer (ce que l'IA ne fera pas réellement; moi je l'attend encore l'IA qui peut développer un logiciel comme je le fais et comme tous les développeurs autour de moi, même certains débutants doués, le font). C'est juste effrayant. Et ce n'est pas ma vision de la société idéale.
Dans le monde du code, c'est déjà pas jouasse quand on voit la qualité du code industriel dans la nature, parce que désormais de plus en plus dirigée par des règles essentiellement économiques. Avec les "aides IA", ça ne fait qu'empirer. Voir par exemple cet autre lien passé sur Linuxfr qui était un autre article de recherche sur la qualité du code décroissant avec l'usage de l'IA (et les compétences des développeurs aussi, puisque ceux qui utilisent croient faire de la qualité mais en fait font pire — cf. le papier de recherche — ce qui me paraît évident si on se repose sur un système médiocre pour comprendre, lire et écrire du code plutôt que faire marcher et travailler son cerveau pour apprendre et évoluer; mon niveau maintenant est bien meilleur qu'il y a 10 ans, mais cela n'aurait pas été le cas si j'avais laissé des IAs coder pour moi).
Pour moi, il y a de véritables problèmes sociaux sur le fait de se reposer ainsi sur des machines pour créer (un peu tout). En fait, je pense depuis au moins une décennie déjà qu'il y a de gros problèmes de notre société qui se repose de plus en plus sur l'informatique et la technologie, souvent de manière totalement absurde et kafkaïenne puisqu'on en vient à complexifier inutilement énormément de processus humains sous prétexte de les "simplifier" officiellement. Ce phénomène a même un nom, on appelle cela le "Solutionnisme technologique". Je pense que la technologie peut être très utile (je suis développeur! C'est bien parce que je crois en ce que je fais), mais dans énormément de cas dans laquelle on l'utilise de nos jours, elle devient au contraire contre-productive.
En plus, très souvent, cela amène de nouveaux problèmes sociaux encore, comme des formes de précarité, par exemple ici on voit bien que le but de toutes ces technologies est de progressivement faire considérer les auteurs de graphisme/texte/code comme des métiers inférieurs et donc à moins payer. Sauf que — et c'est là où c'est kafkaïen — ces systèmes technologiques reposent lourdement sur les œuvres de ces mêmes auteurs. Aucune de ces IAs ne peuvent rien être sans ces auteurs à la base, mais on utilise leurs œuvres, sans les payer ni même les considérer positivement, pour les rendre inutile (en apparence). Comment un cycle pourrait-il être plus vicieux?
Je suis sûr qu'on pourra lire des gens dire que si un métier n'est plus pertinent (comme les allumeurs de bougies, souvent cités, disparus avec l'électricité!), c'est normal qu'il disparaisse. Sauf que là ce n'est pas du tout le cas. On aura toujours besoin de graphistes, illustrateurs, développeurs, écrivains et chroniqueurs… Mais on essaie de faire croire artificiellement à une forme d'inutilité.
En fait si on veut rapprocher cela de phénomènes sociaux récents, c'est plus proche de l'ubérisation. Plutôt que d'admettre l'utilité des chauffeurs de taxi, des livreurs, etc. on rabaisse leur niveau social en les forçant dans des situations professionnelles difficilement tenables, précaires et sous-payées. Il y a de nombreux pays où des procès se font (et se gagnent) autour de ce problème mais cela avance trop lentement, notamment à cause de certains pays qui veulent tout miser sur les "startups" et autres "licornes" (en France, ils sont à fond "startup nation", soutenus à fond par les pouvoirs politiques, et on en arrive à ce type d'absurdité où on tue notre recherche publique pour des chiffres et des visions économiques super court-termiste) et donc seront de leurs côté (voir notamment le cas des "Uber files"). Les problèmes du système éducatif moderne en sont un autre bon exemple (et l'école 42 — c'est marrant tiens y a aussi eu un lien dessus sur linuxfr y a quelques jours — est aussi un très bon exemple du problème; le fait que ce type d'enseignement puisse exister légalement m'a toujours sidéré; d'ailleurs encore une fois sur le sujet du soutien des pouvoirs publics, y a même au moins une visite d'un président et je me souviens de cette photo qui avait fait scandale où le président marche tranquillement au milieu de matelas au sol avec des étudiants dormant en sac de couchage; comment nos administrations peuvent-elle soutenir ce genre d'évolution sociale de l'enseignement?).
Ben là tout ça c'est pareil. C'est dans la même veine et c'est la claire direction annoncée par ceux qui créent ces systèmes. Et ne pas le voir est donc le problème. Le pire, c'est que quand on voit les gens qui s'extasient, on sait que ça va marcher. Comme Uber a marché (malgré les nombreux problèmes sociaux créés, les gens en sont encore à te répondre "mais c'est moins cher!" ce qui non seulement est une réponse terrible socialement, mais en plus est super court-termiste encore une fois, même économiquement, puisque si Uber va là où il espère aller, au final on sait que ce sera plus cher, puisqu'ils fixent des tarifs à perte à l'heure actuelle pour tuer la concurrence), de même que les plateformes vidéos de nos jours, de même que les plateforme de livraisons, de même qu'Amazon avant tous ceux-là, etc. Toutes ces entreprises sont arrivées avec des systèmes innovants mais basés sur l'exploitation d'autrui, et à chaque fois les gens tombent dedans parce qu'"ils ne voient pas le problème" (de leur point de vue, y en a pas, c'est juste mieux: moins cher, plus rapide, plus simple car centralisé, etc.).
« Quand les nazis sont venus chercher les communistes, je n’ai rien dit, je n’étais pas communiste.
Quand ils ont enfermé les sociaux-démocrates, je n’ai rien dit, je n’étais pas social-démocrate.
Quand ils sont venus chercher les syndicalistes, je n’ai rien dit, je n’étais pas syndicaliste.
Quand ils sont venus me chercher, il ne restait plus personne pour protester. »
C'est juste une tendance générale de notre société où je vois qu'on s'exploite de plus en plus les uns et les autres (par l'intermédiaire de "startups") et personne n'y voit aucun problème. Et oui, le problème, c'est vraiment de ne pas le voir.
Et c'est super frustrant quand on voit clairement que c'est encore un énième de ces cas qu'on a vu des dizaines de fois dans les 2 décennies passés, qui va encore se reproduire et tout le monde saute dedans à pieds joints. Et dans quelques années, on aura encore des "affaires" et autres scandales dans les journaux, et tout le monde en parlera, y aura peut-être même des amendes, mais ces entreprises continueront à s'enrichir tranquillement et les gens à utiliser leurs systèmes (les mêmes gens qui s'indigneront en lisant les dits articles).
De faire sortir mon imagination sur l'écran est pour moi le plus important, même si cela viole un peux le droit d'auteur (je ne publie pas).
Notons que pour moi le droit d'auteur est même un problème secondaire, même si c'est souvent celui que je vais avancer en premier parce que c'est en général l'un des rares trucs qui font bouger les choses (notamment parce que c'est la loi!).
Ensuite "violer un peu le droit d'auteur", si pour toi, ça te va, ben déjà y a une partie du problème. Encore une fois, c'est le "Quand ils sont venus chercher…": les gens sont d'accord pour aller à l'encontre de la loi tant qu'ils ne sont pas victimes. Le jour où ce sera soi-même, on poussera des cris d'orfraie.
J'ai l'impression de créer (je ne sais pas dessiner et cela me frustre).
Perso y a plein de trucs que je sais pas faire, et quand je veux/peux pas le faire moi-même, j'engage effectivement quelqu'un. Moi aussi ça me frustre de ne pas savoir faire plein de trucs, mais je n'en viens pas à des logiques d'exploitation pour autant, juste parce que ça va dans mon sens.
Film d'animation libre en CC by-sa/Art Libre, fait avec GIMP et autre logiciels libres: ZeMarmot [ http://film.zemarmot.net ]
Sérieusement, si quiconque se sert de ChatGPT pour se faire expliquer du code, vous courez droit au mur.
Comme tu me réponds sous un autre commentaire, je reprends ici… Je crois qu'encore une fois tu prends les mots au pied de la lettre(ou alors tu nous prends pour des cons). Voilà un exemple pratique de ce que j'entends par "expliquer du code" : https://linuxfr.org/users/octane/journaux/mon-avis-sur-chatgpt#comment-1913116 Ça se résume à dérouler le script et compiler les parties de la documentation qui conviennent. Mashup comme tu dis. Sans avoir à fouiller individuellement la manpage de chaque commande. Et pour l'utiliser quotidiennement, je suis au courant qu'il lui arrive de se tromper mais personne (vraiment personne) n'a dit que ChatGPT était devenu son mentor et qu'on faisait confiance à tout ce qu'il affiche. J'insiste mais je t'assure que personne n'est aussi bête et de toutes les façons quiconque le ferait se rendrait immédiatement compte qu'il y a des failles régulières. Par contre, oui il peut faire gagner du temps.
Il faut que les gens comprennent ça et arrêtent d'écouter ce bot comme une sorte de prophète qui comprend tout!
Il y a tout juste une semaine je disais mot pour mot "il faut connaître les limites de l'outil et cesser de l'utiliser comme un oracle qui peut nous apporter la réponse à la Vie l'Univers et tout le reste". On est d'accord que c'est la même chose que tu dis là ? Donc nous sommes d'accord.
Pour tout le reste de ton commentaire je comprends les inquiétudes (ubérisation, problèmes sociaux, …) mais c'est orthogonal à la critique de l'utilité du bouzin. Concernant DALL-E je n'en vois pas encore l'utilité à part s'amuser quelques minutes donc je n'ai rien à en dire. Mais pour ChatGPT il faut comprendre que des personnes pas complètement débiles l'ont utilisé plusieurs fois et sont conscients des failles. Et que tu joues à te faire peur avec le dev qui va copier-coller une réponse de ChatGPT pour la pousser en production. On peut faire le choix de ne s'intéresser qu'à ses manquements ou alors tester pour constater que bien que n'étant qu'un T9 évolué, on peut lui faire fournir des réponses utiles. Exactement comme on le ferait avec une réponse de StackOverflow.
Comme tu me réponds sous un autre commentaire, je reprends ici…
Oui, je voulais éviter de répéter les mêmes choses.
(ou alors tu nous prends pour des cons)
Tu m'as déjà sorti ça sur l'autre commentaire. Peut-on éviter s'il te plaît les attaques personnelles? C'est extrêmement désagréable et ne donne aucunement envie de répondre. On peut discuter entre personnes civilisées sans s'insulter les uns les autres. Merci.
On est d'accord que c'est la même chose que tu dis là ? Donc nous sommes d'accord.
Je n'ai pas dit que tu ne dis pas ça, ni ne t'ai visé personnellement ni rien (contrairement à toi qui me fait dire des trucs — ce qui est très désagréable, cf. mon point précédent— je ne t'ai rien fait dire). Je parle du problème de manière générale, je n'ai jamais parlé de toi. Ensuite, oui je réponds à des choses que d'autres disent, dont toi, parce que c'est comme ça que fonctionne une conversation. Mais ça ne veut pas dire que j'ai dit que tu disais l'inverse de moi sur certains points. J'ai développé ce que je pense personnellement, pas ce que je pense que les autres de la conversation pensent (je laisse ça à ceux qui se spécialisent à mettre des mots dans la bouche d'autrui).
Tu ne me verras jamais faire dans les attaques personnelles, je ne t'ai pas visé, je n'ai rien affirmé sur ce que tu penses.
Non mais honnêtement j'ai rien contre toi. Je te connais même pas, je n'ai pas parlé de toi et je comprends pas pourquoi tu sembles le prendre personnellement. J'aimerais donc suggérer qu'on continue la conversation sur des bases saines. 🤗
Pour tout le reste de ton commentaire je comprends les inquiétudes (ubérisation, problèmes sociaux, …) mais c'est orthogonal à la critique de l'utilité du bouzin.
Le problème est que c'est le modèle technique et commercial même du "bouzin". Ce serait comme dire que ce que fait Uber est orthogonal à tous les problèmes posés et que bon, y a quand même des intérêts à Uber. Oui y en a, mais justement basés sur les problèmes créés; ces "avancées" n'existeraient simplement pas si les problèmes associés n'avaient pas été créés. Alors sont-ce vraiment des avancés? Est-ce vraiment orthogonal?
Et que tu joues à te faire peur avec le dev qui va copier-coller une réponse de ChatGPT pour la pousser en production.
Pourquoi me faire peur? Encore une fois, tu essaies de personnaliser la discussion. Je soulève des problèmes de société. Ça n'a rien à voir avec moi (ou avec toi). Je ne me sens personnellement aucunement menacé par ces systèmes. Par contre, ils sont mauvais pour notre société. De même que je ne me sens pas menacé par Uber (je suis pas chauffeur), ni par Amazon (je vends pas d'objet) ni par les plateformes de livraison (je ne suis pas restaurateur), mais ça ne m'empêche pas d'être conscient des problèmes et d'alerter.
Encore une fois, c'est une variante du "Quand ils sont venus chercher…". C'est pas parce que moi je suis pas personnellement impacté qu'on ne devrait pas regarder les problèmes en face. Cette vision extrêmement individualiste des problèmes de société est ce qui nous mène dans le mur.
Film d'animation libre en CC by-sa/Art Libre, fait avec GIMP et autre logiciels libres: ZeMarmot [ http://film.zemarmot.net ]
Peut-on éviter s'il te plaît les attaques personnelles?
Alors milles excuses. Je ne l'ai pas écrit comme une attaque. Quand je dis "tu nous prends pour des cons" ça rejoint "vous courez droit au mur." Note que je ne t'ai qualifié de rien du tout mais bon ouais le ton est peut-être un peu sec. Sûrement parce qu'on lit de tout sur ce sujet, entre les adorateurs de l'IA et ceux qui annoncent la fin du monde. Et puis c'est un peu lourd de (re)lire qu'on a rien compris à son fonctionnement. Ce que je veux c'est prendre une position plus mesurée. Juste la question pratique (je ne me suis pas exprimé sur les dangers sociétaux). Je baisse sur la pression.
je comprends pas pourquoi tu sembles le prendre personnellement.
Bah tu me cites en disant "C'est une course à la médiocrité" (entre autres) donc ouais je l'ai un peu pris pour moi. M'enfin rien de grave.
Pourquoi me faire peur? Encore une fois, tu essaies de personnaliser la discussion. Je soulève des problèmes de société.
Justement je ne parlais pas des problèmes de société. J'ai voulu rester uniquement sur la question technique car je ne suis pas très à l'aise sur le sujet, c'est vachement flou et incertain. Tu dis "On aura toujours besoin de graphistes, illustrateurs, développeurs, écrivains et chroniqueurs… Mais on essaie de faire croire artificiellement à une forme d'inutilité." Si on en aura toujours besoin (et je suis d'accord sur ce point) qui croira à l'inutilité puisqu'il faudra bien embaucher ces développeurs ? Si ChatGPT est si mauvais, nous n'avons pas grand chose à craindre puisque sa production sera aussi mauvaise que lui et on embauchera des humains pour faire des choses de qualité. C'est comme les outils no-code qui devaient remplacer les devs… Je ne me sens pas menacé le moins du monde. Je vois bien par contre les soucis d'exploitation de la production d'auteurs qui n'ont pas donné leur accord pour entraîner ces trucs.
En fait j'ai l'impression que tu as des inquiétudes possiblement légitimes (problèmes de droits, problèmes d'emploi…) mais que c'est mélangé avec des choses annexes et infondées (je dis "tu" parce que je réponds à tes messages mais là encore ce n'est pas une attaque ! Ou alors une attaque de l'argumentation.) Par exemple le fait qu'il ne sache pas calculer, ou qu'il produise des textes sans saveur je ne vois pas en quoi ça nous mène "dans le mur". Les personnes qui l'utilisent pour autre chose que pour s'amuser le font en gardant les failles à l'esprit, comme tout développeur sait qu'il ne faut pas copier-coller un bout de code de StackOverflow si on ne l'a pas compris. Quand je lui demande de me trier des données, le mur me paraît assez éloigné. Des articles de presse entièrement rédigés par ChatGPT, là ouais on pourrait commencer à s'inquiéter mais vu les performances, ça se verrait assez vite. Sans compter que la production de qualité médiocre n'a jamais menacé les productions de qualité, que ça soit dans les arts ou la presse, il y a de la place pour les tabloïds et pour le journalisme d'investigation. Les clients feront le tri. Au final les critiques légitimes sur la qualité jurent avec l'inquiétude qu'on va droit dans le mur. Mais c'est peut-être parce que tu le vois du côté artistique et que je ne le considère que du côté pratique… Un outil comme un jq augmenté d'un Clippy beaucoup plus performant.
Si ChatGPT est si mauvais, nous n'avons pas grand chose à craindre puisque sa production sera aussi mauvaise que lui et on embauchera des humains pour faire des choses de qualité.
Oui comme les chauffeurs de bus, les livreurs, les agents d’entretien: on en a besoin. Et pourtant ces métiers ne sont pas valorisés, mal payés, avec des horaires à la con. La valeur d'un métier n'est pas fonction du besoin. Je pense que l'IA va dévaloriser des métiers, pas forcément dev, mais pourquoi pas journaliste?
Jehan et toi prenez le problème depuis deux extrémités: toi ceux qui utilisent l'IA, et Jehan ceux qui sont confrontés aux oeuvres de l'IA et à ses effets. Effectivement en tant qu'utilisateur c'est un super outil. En tant que visiteur du web on peut craindre une baisse de qualité, que ce qu'on cherche (ou ce qu'on veut diffuser) soit noyé dans la masse d’œuvres générées automatiquement sans intérêt ou fausses. On peut aussi se dire qu'un dehors du "générées automatiquement" on est déjà dans ce cas, mais on va passer au niveau supérieur. Un océan de caca.
En tant que visiteur du web on peut craindre une baisse de qualité, que ce qu'on cherche (ou ce qu'on veut diffuser) soit noyé dans la masse d’œuvres générées automatiquement
Comme dit plus haut, pour moi c'est "Un outil comme un jq augmenté d'un Clippy beaucoup plus performant.". C'est à dire que je ne l'utilise pas pour la production d'oeuvre. Ni graphiques, ni écrites. Sur ce point je ne suis pas loin d'être d'accord (cf. ma phrase sur "Des articles de presse entièrement rédigés par ChatGPT.")
Maintenant, n'avons nous pas déjà appris à naviguer entre les torrents de vidéos mensongères, les blogs obscurs, les journaux sensationnalistes, les articles de fake-science à la France-Soir,… L'océan dont tu parles est déjà là mais on sait (à peu près) où trouver les infos qui comptent. Je ne suis pas sûr que des trucs générés automatiquement y changeront grand chose.
Maintenant, n'avons nous pas déjà appris à naviguer entre les torrents de vidéos mensongères, les blogs obscurs, les journaux sensationnalistes, les articles de fake-science à la France-Soir,…
toi, nous, très probablement.
Mais d'autres pas encore.
Il y en a encore qui pensent qu'il y a du Graphène dans les vaccins à ARNm, et des micro-puces qui font apparaître plein d'adresses MAC dans les scans des réseaux Wifi…
Pourquoi bloquer la publicité et les traqueurs : https://greboca.com/Pourquoi-bloquer-la-publicite-et-les-traqueurs.html
Si ChatGPT est si mauvais, nous n'avons pas grand chose à craindre puisque sa production sera aussi mauvaise que lui et on embauchera des humains pour faire des choses de qualité.
Bien sûr. Encore une fois, à un niveau personnel je ne suis absolument pas menacé. Les bots codeurs ne remplaceront jamais les bons développeurs (et puis cela fait des années que j'ai décidé de ne plus travailler plus pour le type d'employeur où ce genre de considérations pourraient advenir). De même que les plateformes de livraisons ne sont sûrement pas un problème pour les chefs étoilés… Cela n'empêche pas, encore une fois, de regarder les changements de société dans leur ensemble. Ce n'est pas parce que ça ne s'applique pas à nous (et même au contraire parce que ça nous rend la vie plus pratique: achats moins chers, livraisons rapides et pas cher, etc.) qu'il faut fermer les yeux.
Si on se concentre sur l'industrie du développement logiciel, on va clairement vers du vite-fait mal-fait, avec des "apps" mobile faites en quelques jours dans des frameworks qui produisent du code de merde et peu maintenable (un peu du Frontpage-like, version "app mobile", pour ceux qui se souviennent encore de l'époque où les gens faisaient des sites web in-maintenable en WYSIWYG). De même que dans les autres industries, on a de la malbouffe à tous les niveaux, des gens sous-payés et dans des conditions de travail horrible aussi à tous les niveaux, de la précarité de l'emploi constante et des reculs sociaux divers…
Et donc oui, en informatique, le no-code, y a sûrement des gens qui en font; et je suis sûr que des applications écrites par des bots avec des dévs stagiaires sous-payés pour juste superviser la "création", y a des "entrepreneurs" qui en rêveraient. De même que certains ont commencé à commercialiser des produits avec des images générées (j'ai déjà vu au moins un cas de livre publié avec une couverture générée en décembre mais je retrouve plus la référence; et je doute que ce soit le seul cas), et je suis persuadé que certains commencent/commenceront bientôt à écrire des articles avec ChatGPT (je pense notamment à tous les "medias" qui ne produisent plus que du "contenu" plutôt que des articles et reportages, faits par des stagiaires sous-payés, genre les journaux rachetés par Reworld Media à tour de bras; mon sentiment est que ce type de "media" ne se privera pas si ça leur fait gagner du temps). Tous ces outils ne sont que des continuations de cette dégradation générale de la qualité dans notre société, depuis que les citoyens ne sont plus que des "consommateurs", que les articles, œuvres graphiques et vidéos, etc. ne sont plus que du "contenu" pour attirer les gens à "consommer" le vrai "produit" (la publicité), tout en donnant leurs "données" (pardon, "data"). C'est juste ridicule, notre monde moderne est un simulacre où la majorité n'est que déchet sans qualité dans le seul but de nous inciter vers nos plus bas instincts de consommateur. On est inondé par cette médiocrité au point qu'il devient de plus en plus difficile de trouver la qualité.
Certes tout cela ne met pas en péril (professionnel) ceux qui font de la qualité. Au contraire même, ça renforce notre valeur et on crée une dichotomie, une fracture professionnelle même, entre les bons/expérimentés (qui seront payés d'autant plus cher) et les précaires (qui seront payés des misères). C'est le monde qu'on crée de plus en plus avec tous ces changements. Il faut bien le voir. C'est pas théorique ou hypothétique, ça a commencé y a des années. Et même si je suis du "bon côté" de la fracture, ben désolé, mais non. C'est pas le monde dont je rêve, c'est pas le monde que je veux voir.
Sans compter que la production de qualité médiocre n'a jamais menacé les productions de qualité
Effectivement, au contraire, ça la valorise (la production de qualité devient un "luxe", donc d'autant plus cher). Mais justement l'idée d'un monde de surproduction (on n'est plus dans la simple production, on surproduit, car ça devient de plus en plus facile de faire en quantité aux dépends de la qualité) de qualité médiocre pour la "populace" quand les riches sont les seuls à pouvoir se permettre la qualité, encore une fois, c'est pas le monde dont je rêve.
En tant que quelqu'un qui produit de la qualité, je préfère 1000 fois être payé raisonnablement (plutôt que super cher, comme un "producteur de luxe") de même que l'ensemble des autres producteurs (donc qu'on vive tous bien, tous ensemble, c'est ça mon rêve), plutôt qu'être l'un des rares à être payé très bien (voire trop bien) aux dépens de tous les autres qui vivraient dans la précarité. Et c'est bien pour ça que mes choix de vie se sont tournés vers le financement participatif de projets entièrement libres (en tant que mainteneur de GIMP et la production de films d'animation libres eux aussi), parce que je préfère être du côté de ceux qui font des choses utiles, même si je trime financièrement en conséquence, alors que je pourrais sans problème être engagé dans un GAFAM ou une startup quelconque.
Encore une fois donc, il ne s'agit ni de toi, ni de moi, et donc ni du fait que nous, personnellement, on n'est certes pas impacté négativement (au contraire), mais bien de la direction qu'on veut que notre société prenne. Pour l'instant, on se dirige de plus en plus vers des logiques de fractures sociales à tous les niveaux.
P.S.:
(je dis "tu" parce que je réponds à tes messages mais là encore ce n'est pas une attaque ! Ou alors une attaque de l'argumentation.)
Je n'ai rien pris comme une attaque dans ce dernier message. C'est de la simple argumentation, c'est bien. Et c'est tout de suite mieux quand on discute ainsi, sainement. 😁
Film d'animation libre en CC by-sa/Art Libre, fait avec GIMP et autre logiciels libres: ZeMarmot [ http://film.zemarmot.net ]
Tu as choisi ton mode de vie, tu évites les employeurs nocifs, les supermarchés, les outils qui pourraient être dommageable au reste de la société. J'en suis juste à éviter les plus méchants avec ce que m'offre le libre (et à le financer occasionnellement). Tu prends des mesures et moi des mesurettes donc bravo sincère et j'espère que le monde que tu veux voir est encore possible.
En lisant cette réponse et un échange précédent que nous avions eu au sujet des darks patterns, je crois que je suis juste désabusé. Limite cynique. J'aime mes données et le libre donc je n'abreuve ni Facebook ni Google (enfin lui j'essaye mais il est omniprésent…) mais je pratique parfois le doomscrolling sur Twitter. L'élection de Trump, Cambridge Analytica, suivis de la pandémie, nous ont montré à quel point les contenus débiles/nocifs étaient lus et partagés. L'effet que ça avait déjà sur nos vies. Et dans cet océan de déchets, d'éventuels articles médiocres écrits par une IA ne seront pour moi qu'une goutte de plus. Les humains le font déjà si bien…
Oh je suis extrêmement désabusé moi-même. Je ne crois pas une seconde que je verrai le monde que je veux, je pense que l'homme va à sa perte et ne me fais aucune illusion sur ma capacité (inexistante) à empêcher cela.
Dans les autres trucs que j'ai changé dans ma vie est que je suis devenu végétalien/vegan depuis quelques années. Et pourtant, j'étais un énorme mangeur de fromage (c'est la partie que je regrette le plus dans ce régime alimentaire). Mais je ne supporte plus l'hypocrisie de l'industrie animale, qui est terrible d'un point de vue écologique, de même que l'extermination systématique que l'on fait des autres espèces.
Simplement je veux vivre bien dans ma peau et au moins, je peux me dire que j'ai pas participé (ou du moins le moins possible et que j'ai fait tout ce qui est en mon pouvoir pour ne pas prendre part à la nocivité ambiante) à toutes ces activités nocives. En un sens, c'est aussi une forme de mesquinerie qui me permet de dire "c'était pas moi" et surtout d'être fier de moi et de comment je vis ma vie au quotidien (en exploitant le moins possible autrui, notamment), mais bon, peut-être qu'on s'en foutra le jour de l'apocalypse! 😂😱
D'un autre côté, si tout le monde faisait ainsi, peut-être que justement on serait capable d'inverser la vapeur. Comme j'ai dit, je suis aussi désabusé et ne crois pas une seconde que ça arrivera, mais il faut bien certains pour commencer, sinon c'est clair qu'on ne donne aucune chance que cela arrive jamais. Je dirais donc que je suis désabusé, cependant tout en laissant la porte entre-ouverte sur une légère lueur d'espoir. On sait jamais! 🤷
Film d'animation libre en CC by-sa/Art Libre, fait avec GIMP et autre logiciels libres: ZeMarmot [ http://film.zemarmot.net ]
Il y a bien cette citation que l'on attribue à Georges Bernanos (je ne sais si elle est apocryphe ou non) :
On ne comprend absolument rien à la civilisation moderne si l'on n'admet pas tout d'abord qu'elle est une conspiration universelle contre toute espèce de vie intérieure.
Or si l'être humain se détourne de toute vie intérieure, il ne peut combler le vide resenti que par sa vie extérieure, ce qui se traduit, inévitablement, par une augmentation sans frein de sa consommation de biens…
Sapere aude ! Aie le courage de te servir de ton propre entendement. Voilà la devise des Lumières.
bot qui répond mal à des calculs mathématiques niveau primaire. Et on veut lui faire expliquer du code complexe?
C'est drôle parce que tu hurles que "les gens" n'ont pas compris comment ça fonctionne mais cette seule phrase montre que tu n'as pas vraiment compris non plus… Qu'un modèle de langage ne fasse pas de calcul ça ne devrait surprendre personne. C'est normal, quand on a compris comment ça fonctionne. Afficher de la documentation par contre, ça rentre plus dans la catégorie "langage". Donc oui lui faire afficher une succession de passages de documentation c'est carrément indiqué. Je veux bien que tu me montres la faille ici
Il n'y a pas d'obligation que réponse au calcul en question soit calculatoire …puisqu'il s'agit d'un modèle de langage. Mais cette mauvaise réponse montre justement que la capacité à « afficher une succession de passage de documentation » c'est pas trop ça : le résultat est largement disponible sur la toile mais il a fallu que ça tape largement à côté.
Qu'une explication de code te semble correcte (perso, j'ai jugé insuffisant dès le second point) ne remet pas en doute le fait que le truc tombera juste au moins une fois sur deux. Se fier à ça pour son code de production, pour moi, c'est pareil que de jouer au loto/roulette ou sacrifier/brûler des poulets/cierges etc. Mais bon, chacun reste libre de ses croyances.
“It is seldom that liberty of any kind is lost all at once.” ― David Hume
le résultat est largement disponible sur la toile mais il a fallu que ça tape largement à côté.
Si tu parles de 1+1 il me semble qu'il a répondu correctement. Ensuite c'est l'algo de "Reinforcement Learning from Human Feedback" qui provoque l'erreur (sycophancy bias, les gens qui bossent dessus connaissent le soucis et la recherche continue). Mais dans tous les cas on est d'accord que ces modèles sont expérimentaux hein. Vu que j'ai appris l'expression aujourd'hui il semblerait que tu joues à la "négation polémique" avec ton "se fier à ça pour son code de production". Je re-re-reprends l'exemple de StackOverflow, qui colle en production du code copié sur le net ? Faut arrêter avec ce fantasme ou alors me trouver qqun qui aurait dit que ChatGPT savait tout résoudre. C'est suffisant pour le besoin, parfois ça ne l'est pas et charge à l'utilisateur de le tester/comprendre.
Puisque t'insistes (sans chercher à faire de polémique ?) sur StackOverflow, oui il y a des devs (et admins) qui collent du code copié sur le Net en prod. En soi ce n'est pas problématique tant qu'on comprend ce que ça fait exactement (mais l'inverse est hélas du vécu aussi.)
Maintenant, il y a quand même une différence entre les deux mondes parce-que SO n'est pas juste un corpus mais une plateforme de Q&A assez exigeante (je vois pas mal de questions et de réponses virées pour manque de qualité, et celles restantes sont améliorées par la communauté en plus des nombreux commentaires qui accompagnent et permettent d'avoir une vision correcte si on le veut) et non une boite opaque. Bref, des choses non comparables, mais c'est moi qui fantasme.
“It is seldom that liberty of any kind is lost all at once.” ― David Hume
C'est le principe qui est comparable. Copier-coller quelque chose que tu n'as pas compris. À partir de là, quelque soit la source, c'est mauvais. Et la responsabilité incombe au copieur.
Je trouve que quand la source est une IA, c'est tout de suite plus pernicieux: le texte est crédible mais souvent inexact ou juste faux.
Et on n'est pas sur StackOverflow où d'autres vont pointer du doigt l'erreur subtile mais essentielle qui s'est glissée dans le texte: là, tu es seul face à un texte quasi unique.
L'humain à l'origine de l'erreur sur internet voulait sûrement donner une réponse juste ; ChatGPT produit seulement une réponse crédible. Une source comme ça est à fuir comme la peste.
On tourne en rond. Oui c'est à fuir si on compte l'utiliser comme un Oracle infaillible. Et quelque soit la réponse qu'il te donnera, un code ça se teste.
sûrement parce que vous vous faites avoir par l'idée que ces logiciels sont "intelligents". Non ils ne le sont pas. Ces systèmes logiciels "n'apprennent" pas réellement, ils ne comprennent pas ce qu'ils font
J'ai l'impression que tu prends un peu les gens pour des cons. Je pense que tout le monde (au moins sur LinuxFr…) comprend le sens des expressions "algorithme", "modèle" ou "données d'entraînement." Et que les modèles de ces IA ne sont pas mis à "comprendre" le langage naturel pour "réfléchir" à la question posée. Il y a un contexte dans l'utilisation des mots. Ici, "comprendre" serait plutôt "traduire pour utiliser", un peu comme un compilo qui comprend ton code haut niveau pour le traduire en langage machine. Et dans ce contexte, ils comprennent puisqu'on obtient bien en sortie quelque chose correspondant à la demande en langage naturel (modulo les ratés (ChatGPT) ou la faible qualité (Dall-E)). La question du droit d'auteur est primordiale et ce genre d'études qui pointent les failles feront que les modèles seront améliorés pour ne pas recracher de manière basique les données d'entraînement.
Il faut aussi garder à l'esprit que ces trucs sont très jeunes. Il y a 1 an on ne s'attendait pas à pouvoir se faire expliquer du code ou rédiger un article (insipide mais ce n'est pas la question) par un chatbot. Je ne suis pas de ceux qui prédisent une Intelligence Artificielle Forte pour bientôt (ni même de notre vivant je pense) mais on aurait tort de penser qu'on a atteint là le maximum des possibilités de ces modèles. Tiens d'ailleurs OpenAI vient de sortir un modèle servant à distinguer un texte rédigé par une IA d'un texte rédigé par un humain. Là encore personne n'est dupe, ça va surtout servir à entraîner ChatGPT à mieux masquer son IAttitude…
Rien à voir mais je découvre que je déteste vraiment cette nouvelle pratique d'associer à la publication d'un article scientifique une promotion sur les réseaux sociaux. Ça assigne aux chercheurs une nouvelle casquette, celle de la communication et de la promotion. Par conséquence cela empire la logique commerciale autour de la recherche et l'assimilation d'un article à un produit à vendre. Je redoute le jour où être présent sur les réseaux sociaux et où en faire la tournée à chaque publication sera, même pas forcément obligatoire, mais bien vu par les directeurs de thèses et d'équipes de recherche. Notamment parce qu'à ce stade là, on sera proche de l'évaluation de cette capacité dans les embauches du milieu de la recherche.
En plus, le passage au format des réseaux sociaux – court et incisif, forcément, c'est le gagne pain des entreprises derrières – est destructeur et implique un passage à la trappe des subtilités et des nuances.
Juste un tout petit truc : je trouve que l'expression intelligence artificielle est tellement trompeuse, mais tellement vendeuse. Comment ne pas y céder :(.
# Pour ceux qui ressortent encore régulièrement que ces "AI" "créent" des images…
Posté par Jehan (site web personnel, Mastodon) . Évalué à 10.
Voilà, ça n'aura pas traîné, on a déjà les premiers papiers de recherche qui montre comment ces modèles sont capable de recracher des quasi-copies des images sur lesquelles ils se sont entraînés. Ouvrez le PDF du lien, il des images d'exemple, avec Stable Diffusion qui a recrache des images quasiment à l'identique (hormis la grosse perte de qualité) avec le prompt adéquat.
Bon c'est un petit lien pour ceux qui sur LinuxFr ne comprennent pas comment ces systèmes entraîné sur des données réelles fonctionnent et sortent encore régulièrement qu'ils ne voient aucun risque de droit d'auteur, que ces images sont bel et bien des "créations" du modèle et autres absurdités. Genre on lit des trucs ridicules genre que ça ne reproduit que le "style" et que le style n'est pas sous droit d'auteur (mais c'est quoi "le style"? Et surtout plus précisément pour un modèle d'apprentissage, ça veut dire quoi le style? Cherchez pas, ça n'existe pas; sortir ce type d'argument ne veut rien dire). Encore une fois, sûrement parce que vous vous faites avoir par l'idée que ces logiciels sont "intelligents". Non ils ne le sont pas. Ces systèmes logiciels "n'apprennent" pas réellement, ils ne comprennent pas ce qu'ils font (ou ce que vous leur dites quand vous envoyez une commande, même si c'est en langage naturel donc vous avez l'impression qu'il y a une intéraction de compréhension mutuelle. Non.), ils ne reproduisent pas des styles ou des genres (même si vous leur avez dit de le faire et qu'on a l'impression qu'ils le font puisque le rendu est dans le style approprié; ça a juste recraché les bonnes données qui étaient "tagguées" de manière appropriée, en simplifiant en très gros), ils ne dessinent pas, ils ne réfléchissent pas sur un sujet que vous leur suggérez…
Y a eu plusieurs commentaires dans ce sens sur LinuxFr par ceux qui veulent absolument défendre ces systèmes d'IA (pour une raison que j'ai du mal à comprendre) et à chaque fois, je me retenais de répondre. Alors c'est bien qu'y ait maintenant des papiers de recherche sur le sujet qui commencent à sortir! 😁
Voir aussi ce tweet pour ceux qui préfèrent ce format: https://twitter.com/Eric_Wallace_/status/1620449934863642624
Film d'animation libre en CC by-sa/Art Libre, fait avec GIMP et autre logiciels libres: ZeMarmot [ http://film.zemarmot.net ]
[^] # Re: Pour ceux qui ressortent encore régulièrement que ces "AI" "créent" des images…
Posté par Ecran Plat (site web personnel) . Évalué à 1.
Où est le problème ?
Si je demande la tronche d'Obama, c'est normal qu'elle ressemble à Obama. Après, ton papier peut prendre des objets, comme un crapaud seul. Le but avec les IA est de faire des compositions, comme un crapaud au bord d'un étang en Drôme provençale au coucher du soleil.
On s'en moque que le réseau de neurones ne comprenne pas ce que je dis, et je dis tant mieux finalement. Ce qui compte, c'est le résultat uniquement.
Je me suis amusé à faire de l'outpainting et c'est génial, c'est un super passe-temps. J'ai l'impression de créer (je ne sais pas dessiner et cela me frustre).
De faire sortir mon imagination sur l'écran est pour moi le plus important, même si cela viole un peux le droit d'auteur (je ne publie pas).
l'image ci-dessous, je me suis fait un fond d'écran
[^] # Re: Pour ceux qui ressortent encore régulièrement que ces "AI" "créent" des images…
Posté par lejocelyn (site web personnel) . Évalué à 6. Dernière modification le 01 février 2023 à 10:01.
Merci Jehan pour ce lien et ces explications.
Parmi les problèmes que posent ces approches, il y a par exemple le souci du droit d'auteur. Si une image est recrachée simplement déformées par quelques filtres, ce n'est pas une composition originale. Et si une image est remixée dans d'autres images, ce n'est pas de la création à partir de rien, mais de la composition avec l'existant, ce qui au niveau du droit d'auteur pose d'autres problèmes encore.
[^] # Re: Pour ceux qui ressortent encore régulièrement que ces "AI" "créent" des images…
Posté par Big Pete . Évalué à 5.
On peut transposer dans la musique pour mieux comprendre le problème. Une IA artistique musicale pourrait piocher dans la prod musicale "humaine" et fabriquer des stars optimisées de la musique populaire à partir des fonds existants en cherchant à maximiser ses revenus en inondant le marché. C'est une piste qui est actuellement explorée par l'industrie : https://cnm.fr/la-musique-ia-et-lartiste/
Mais ce pitch, c'est aussi plus ou moins celui d'un bouquin d'un des auteur majeur de la SF Américaine, Norman Spinrad : Rock Machine, écrit en 1987, c'est à dire il y a 36 ans, et qui s'inscrit dans la mouvance Cyberpunk de l'époque :
Spinrad a la réputation d'être un auteur visionnaire, mais souvent radical et provocateur. Mais j'avoue que voir le monde d'aujourd'hui essayer de ressembler à un roman de Spinrad a quelque chose d'à la fois fascinant et relativement inquiétant. Rock Machine n'est pas son meilleur bouquin sur le sujet (Jack Barron et l'éternité est à mon avis indépassable) et le style de Spinrad ne plaît pas à tout le monde. (et objectivement, la qualité littéraire est variable, c'est à dire qu'il a ce coté punk, pour le meilleur et pour le pire).
Pour en finir sur la musique, récemment sur KEXP, une grosse radio publique américaine, est apparu sur mon radar, un groupe hors normes : Mdou Moctar avec une prestation hallucinante d'un de leur morceau : Afrique Victime
Pourquoi en parler ici ? Leur façon pété de faire varier le rythme de façon instinctive, ce truc là, qui te prend aux tripes, te donne l'impression d'une chevauchée sauvage à dos de dromadaire au milieu des dunes, jamais une machine n'arrivera à le faire. Absolument aucune chance, j'en suis intimement persuadé. Comme me le faisait remarquer un ami musicien, aujourd'hui la plupart des musiciens jouent au clic, qui permet de synchroniser le rythme de chacun avec celui des machines, de façon "parfaite". Les musicos de Mdou Moctar n'ont pas de clic, ils se laissent guidée par le groove, à l'instinct, et même si ça dérape, qu'est ce que ça peut faire ? Au contraire…
Pour finir sur Mdou Moctar, je permet de conseiller ce doc autoproduit, qui parle de leur difficulté à jouer dans un pays où on risque sa vie à le faire : Mdou Moctar - "Afrique Victime: The Documentary"
Oui, le fond du sujet, n'est pas tant de savoir si une machine à le pouvoir de créer une oeuvre artistique de façon plus ou au moins autonome, mais qu'au fond, ce qui est vraiment important, ce sera toujours notre capacité à le faire, avec ou sans machines, et tu a raison, on s'en fout, du moment que ça nous permet d'exprimer et partager nos émotions. C'est là le truc.
La vraie question, c'est toujours la même, au bout du compte, que reste-il d'humain dans la machine ?
;-)
Faut pas gonfler Gérard Lambert quand il répare sa mobylette.
[^] # Re: Pour ceux qui ressortent encore régulièrement que ces "AI" "créent" des images…
Posté par barmic 🦦 . Évalué à 4.
Dans un proche avenir ? Les « chansons de l'été », les boys band, Hatsune Miku,… C'est exactement ça. Et tu peux trouver la même chose dans le cinéma ou le jeux vidéo.
La question n'est pas (il me semble) la qualité produite pour de bonne ou de mauvaise raison (ça fait des années qu'on a de la mauvaise qualité produite de manière cynique), mais la rétribution et la reconnaissance des auteurs originaux.
https://linuxfr.org/users/barmic/journaux/y-en-a-marre-de-ce-gros-troll
[^] # Re: Pour ceux qui ressortent encore régulièrement que ces "AI" "créent" des images…
Posté par Gil Cot ✔ (site web personnel, Mastodon) . Évalué à 2.
Avec les dites chansons de l'été, on a encore des chansons poussées au forceps.
Avec les boys band, il y a encore des gens de chair et d'os qui doivent interagir entre eux.
Dans un futur avenir, tout cela sera virtuel dans le sens où on n'aura que des sons de synthèse (et où Sally G. sera une IA) et des hologrammes (gérés par l'IA nommée Bobby R.)
Je te rejoins sur le cynisme …qui a fait passer les fast-food pour la référence alimentaire de certaines personnes. La bonne raison d'être du meilleur des mondes qui se dessine est justement de ne plus rétribuer l'originalité et la création, et de faire tourner au max la cash-machine.
“It is seldom that liberty of any kind is lost all at once.” ― David Hume
[^] # Re: Pour ceux qui ressortent encore régulièrement que ces "AI" "créent" des images…
Posté par barmic 🦦 . Évalué à 2.
Hatsune Miku existe depuis 2007 (c'est la plus connu mais il y en a d'autres). Tu as sur twitch et youtube des vtubeurs qui font carrière et qui font des concerts sur fortnite ou autre.
Le message auquel je répond décrit le système avec des humains comme étant futuriste. J'explique que ça fait plus de 30 ans que ça se met en place et que ça s'industrialise progressivement. Le fait de remplacer 4 techniciens (pour le son, pour les paroles, pour les chorégraphies et pour la voix) par des algo n'est pas une révolution. C'est l'étape suivante d'une industrie déjà largement encrée.
https://linuxfr.org/users/barmic/journaux/y-en-a-marre-de-ce-gros-troll
[^] # Re: Pour ceux qui ressortent encore régulièrement que ces "AI" "créent" des images…
Posté par Big Pete . Évalué à 3. Dernière modification le 02 février 2023 à 10:04.
Oui, l'extrait que j'ai cité, si tu lit bien mon commentaire, c'est le résumé d'un livre écrit en 1987. Je me trouve dans la situation un peu embarrassante de devoir te contredire en argumentant que je suis d'accord avec toi.
Cela dit, j'aurais plein d'autre chose a dire sur ce sujet passionnant, (enfin qui me passionne), mais j'ai pas trop le temps là.
Je laisse juste cette pensée a ceux qui voudront bien s'en emparer :
Lorsque Dick écrit cette nouvelle au titre fabuleux : Do Androids Dream of Electric Sheep? en 1968, n'est-ce pas une réponse brillante a la réflexion de Turing sur la nature de l'intelligence des machines et de celle des hommes ?
En effet, quoi de plus humain que de rêver a des moutons électriques, et n'est-ce pas ça, au fond, qui nous différentie vraiment des machines ?
Au final, lorsqu'on cherche des traces d'humanité dans le passé, quand on fait de la paléoanthropologie, est-ce qu'on cherche des fossiles d'humain ? des reste de corps ? ou plutôt des traces comme des peintures, des outils, des sculptures ? Est-ce ce qui fait de nous des hommes ce n'est pas cette capacité a éprouvé des sentiments envers des choses inanimées, ou qui semble l'être ? Quoi de plus humain qu'un enfant s'attachant a un ours en peluche ? Et au final, pour en revenir au sujet de réflexion du commentaire initial, quoi de plus naturellement humain que d'éprouver un sentiment envers une oeuvre …. crée par une machine ? Et comme Philip K Dick, on peut se demander si une machine sera un jour capable de faite quelque chose d'aussi irrationnel …
Faut pas gonfler Gérard Lambert quand il répare sa mobylette.
[^] # Re: Pour ceux qui ressortent encore régulièrement que ces "AI" "créent" des images…
Posté par barmic 🦦 . Évalué à 2. Dernière modification le 02 février 2023 à 11:34.
Effectivement je te demande pardon
https://linuxfr.org/users/barmic/journaux/y-en-a-marre-de-ce-gros-troll
[^] # Re: Pour ceux qui ressortent encore régulièrement que ces "AI" "créent" des images…
Posté par claudex . Évalué à 10.
Sauf que si je demande la tronche d'Obama et qu'on me ressort une peinture d'Obama, ce n'est pas de la création, c'est Google Image. Et du coup, le droit d'auteur revient à la personne qui a peint le portrait.
C'est un des gros problème, ces modèles sont utilisé pour s'affranchir du droit d'auteur et ne rien avoir à payer aux auteurs (ni à respecter leur licence), alors qu'ils ont été entraîner sur des images sans les droits dessus et qu'en plus, ils les recrachent telles quelles, ou en ((très) grosse) partie.
« Rappelez-vous toujours que si la Gestapo avait les moyens de vous faire parler, les politiciens ont, eux, les moyens de vous faire taire. » Coluche
[^] # Re: Pour ceux qui ressortent encore régulièrement que ces "AI" "créent" des images…
Posté par Big Pete . Évalué à 10.
Pour le coup, si on arrive avec une autre IA à démontrer que l'oeuvre d'une IA est un faux (c'est a dire le plagiat d'une oeuvre existante), on pourrait demander à une IA avocat d'intenter une action dans une juridiction virtuelle spécialisée auprès d'un juge IA pour demandé une réparation (en bitcoin).
Le tout potentiellement plusieurs milliers de fois par secondes. C'est le moment d'investir dans une startup pour monter un cabinet d'avocats artificiels spécialisés dans le droit d'auteur. (note que les IA de la finance sont surement déjà sur le coup).
Faut pas gonfler Gérard Lambert quand il répare sa mobylette.
[^] # Re: Pour ceux qui ressortent encore régulièrement que ces "AI" "créent" des images…
Posté par Jehan (site web personnel, Mastodon) . Évalué à 10. Dernière modification le 01 février 2023 à 19:49.
Le problème, c'est de ne pas voir le problème. En fait, si tout le monde comprenait vraiment ce qui se passait et agissait en conséquence, alors ce serait beaucoup plus acceptable parce qu'on serait capable d'utiliser ces technologies sans tomber dans les pièges de délitement social.
Ces IAs ne sont rien d'autre que les versions avancées des logiciels de clip-art (sauf qu'à l'époque, on payait les designers de ces clip-arts, donc c'était un business-model sain). Ici on crée des trucs de qualité merdique, qui en fait pioche massivement dans les œuvres de millions d'artistes (mais en ressortent des trucs de type "mashup" de qualité sub-optimale). Et les gens s'habituent à cela et semblent considérer que c'est tout à fait utilisable, parce qu'en fait ils veulent faire des économies et ne savent pas dessiner eux-même. Donc on est à la fois dans une course à la médiocrité qualitative et dans un problème social où il y a perte de considération des auteurs originelle des œuvres, ce qui est totalement absurde et irrationnel (et pourtant c'est ce qui se passe). Tout cela en nourrissant une startup qui se nourrit de ces problèmes et qui pourra devenir suffisamment grosse pour ensuite être une partie significative des maux de nos société.
Notamment cela est vrai aussi bien pour les œuvres graphiques (Stable Diffusion, Dall-E et consort) que les textes littéraires (ChatGPT…) ou le code (Copilot…).
Quand je lis plus bas des trucs comme:
Sérieusement, si quiconque se sert de ChatGPT pour se faire expliquer du code, vous courez droit au mur. ChatGPT ne comprend pas le code. Il arrive juste à produire du texte qui a l'air d'être raisonnable mais sans aucune garantie d'être juste. Il faut que les gens comprennent ça et arrêtent d'écouter ce bot comme une sorte de prophète qui comprend tout! Sur ChatGPT, y avait ce lien sur LinuxFr, y a quelques jours, avec des exemples du bot qui répond mal à des calculs mathématiques niveau primaire. Et on veut lui faire expliquer du code complexe?
Puis:
Ben si, c'est exactement la question! C'est une course à la médiocrité et les gens se mettent à utiliser cela massivement dans des vrais usages de tous les jours de nos sociétés. On répand donc de la médiocrité tout en évinçant les humains, souvent sous prétextes que ceux évincés sont justement des humains qui produisent déjà du "contenu" médiocre, ce qu'on va alors argumenter comme étant leur faute qu'ils se font remplacer par une IA s'ils sont même pas capable de faire aussi bien. Mais justement en faisant cela, on ne leur laisse pas le temps d'apprendre et d'évoluer (ce que l'IA ne fera pas réellement; moi je l'attend encore l'IA qui peut développer un logiciel comme je le fais et comme tous les développeurs autour de moi, même certains débutants doués, le font). C'est juste effrayant. Et ce n'est pas ma vision de la société idéale.
Dans le monde du code, c'est déjà pas jouasse quand on voit la qualité du code industriel dans la nature, parce que désormais de plus en plus dirigée par des règles essentiellement économiques. Avec les "aides IA", ça ne fait qu'empirer. Voir par exemple cet autre lien passé sur Linuxfr qui était un autre article de recherche sur la qualité du code décroissant avec l'usage de l'IA (et les compétences des développeurs aussi, puisque ceux qui utilisent croient faire de la qualité mais en fait font pire — cf. le papier de recherche — ce qui me paraît évident si on se repose sur un système médiocre pour comprendre, lire et écrire du code plutôt que faire marcher et travailler son cerveau pour apprendre et évoluer; mon niveau maintenant est bien meilleur qu'il y a 10 ans, mais cela n'aurait pas été le cas si j'avais laissé des IAs coder pour moi).
Pour moi, il y a de véritables problèmes sociaux sur le fait de se reposer ainsi sur des machines pour créer (un peu tout). En fait, je pense depuis au moins une décennie déjà qu'il y a de gros problèmes de notre société qui se repose de plus en plus sur l'informatique et la technologie, souvent de manière totalement absurde et kafkaïenne puisqu'on en vient à complexifier inutilement énormément de processus humains sous prétexte de les "simplifier" officiellement. Ce phénomène a même un nom, on appelle cela le "Solutionnisme technologique". Je pense que la technologie peut être très utile (je suis développeur! C'est bien parce que je crois en ce que je fais), mais dans énormément de cas dans laquelle on l'utilise de nos jours, elle devient au contraire contre-productive.
En plus, très souvent, cela amène de nouveaux problèmes sociaux encore, comme des formes de précarité, par exemple ici on voit bien que le but de toutes ces technologies est de progressivement faire considérer les auteurs de graphisme/texte/code comme des métiers inférieurs et donc à moins payer. Sauf que — et c'est là où c'est kafkaïen — ces systèmes technologiques reposent lourdement sur les œuvres de ces mêmes auteurs. Aucune de ces IAs ne peuvent rien être sans ces auteurs à la base, mais on utilise leurs œuvres, sans les payer ni même les considérer positivement, pour les rendre inutile (en apparence). Comment un cycle pourrait-il être plus vicieux?
Je suis sûr qu'on pourra lire des gens dire que si un métier n'est plus pertinent (comme les allumeurs de bougies, souvent cités, disparus avec l'électricité!), c'est normal qu'il disparaisse. Sauf que là ce n'est pas du tout le cas. On aura toujours besoin de graphistes, illustrateurs, développeurs, écrivains et chroniqueurs… Mais on essaie de faire croire artificiellement à une forme d'inutilité.
En fait si on veut rapprocher cela de phénomènes sociaux récents, c'est plus proche de l'ubérisation. Plutôt que d'admettre l'utilité des chauffeurs de taxi, des livreurs, etc. on rabaisse leur niveau social en les forçant dans des situations professionnelles difficilement tenables, précaires et sous-payées. Il y a de nombreux pays où des procès se font (et se gagnent) autour de ce problème mais cela avance trop lentement, notamment à cause de certains pays qui veulent tout miser sur les "startups" et autres "licornes" (en France, ils sont à fond "startup nation", soutenus à fond par les pouvoirs politiques, et on en arrive à ce type d'absurdité où on tue notre recherche publique pour des chiffres et des visions économiques super court-termiste) et donc seront de leurs côté (voir notamment le cas des "Uber files"). Les problèmes du système éducatif moderne en sont un autre bon exemple (et l'école 42 — c'est marrant tiens y a aussi eu un lien dessus sur linuxfr y a quelques jours — est aussi un très bon exemple du problème; le fait que ce type d'enseignement puisse exister légalement m'a toujours sidéré; d'ailleurs encore une fois sur le sujet du soutien des pouvoirs publics, y a même au moins une visite d'un président et je me souviens de cette photo qui avait fait scandale où le président marche tranquillement au milieu de matelas au sol avec des étudiants dormant en sac de couchage; comment nos administrations peuvent-elle soutenir ce genre d'évolution sociale de l'enseignement?).
Ben là tout ça c'est pareil. C'est dans la même veine et c'est la claire direction annoncée par ceux qui créent ces systèmes. Et ne pas le voir est donc le problème. Le pire, c'est que quand on voit les gens qui s'extasient, on sait que ça va marcher. Comme Uber a marché (malgré les nombreux problèmes sociaux créés, les gens en sont encore à te répondre "mais c'est moins cher!" ce qui non seulement est une réponse terrible socialement, mais en plus est super court-termiste encore une fois, même économiquement, puisque si Uber va là où il espère aller, au final on sait que ce sera plus cher, puisqu'ils fixent des tarifs à perte à l'heure actuelle pour tuer la concurrence), de même que les plateformes vidéos de nos jours, de même que les plateforme de livraisons, de même qu'Amazon avant tous ceux-là, etc. Toutes ces entreprises sont arrivées avec des systèmes innovants mais basés sur l'exploitation d'autrui, et à chaque fois les gens tombent dedans parce qu'"ils ne voient pas le problème" (de leur point de vue, y en a pas, c'est juste mieux: moins cher, plus rapide, plus simple car centralisé, etc.).
C'est une variante moderne et économique de "Quand ils sont venus chercher…":
C'est juste une tendance générale de notre société où je vois qu'on s'exploite de plus en plus les uns et les autres (par l'intermédiaire de "startups") et personne n'y voit aucun problème. Et oui, le problème, c'est vraiment de ne pas le voir.
Et c'est super frustrant quand on voit clairement que c'est encore un énième de ces cas qu'on a vu des dizaines de fois dans les 2 décennies passés, qui va encore se reproduire et tout le monde saute dedans à pieds joints. Et dans quelques années, on aura encore des "affaires" et autres scandales dans les journaux, et tout le monde en parlera, y aura peut-être même des amendes, mais ces entreprises continueront à s'enrichir tranquillement et les gens à utiliser leurs systèmes (les mêmes gens qui s'indigneront en lisant les dits articles).
Notons que pour moi le droit d'auteur est même un problème secondaire, même si c'est souvent celui que je vais avancer en premier parce que c'est en général l'un des rares trucs qui font bouger les choses (notamment parce que c'est la loi!).
Ensuite "violer un peu le droit d'auteur", si pour toi, ça te va, ben déjà y a une partie du problème. Encore une fois, c'est le "Quand ils sont venus chercher…": les gens sont d'accord pour aller à l'encontre de la loi tant qu'ils ne sont pas victimes. Le jour où ce sera soi-même, on poussera des cris d'orfraie.
Perso y a plein de trucs que je sais pas faire, et quand je veux/peux pas le faire moi-même, j'engage effectivement quelqu'un. Moi aussi ça me frustre de ne pas savoir faire plein de trucs, mais je n'en viens pas à des logiques d'exploitation pour autant, juste parce que ça va dans mon sens.
Film d'animation libre en CC by-sa/Art Libre, fait avec GIMP et autre logiciels libres: ZeMarmot [ http://film.zemarmot.net ]
[^] # Re: Pour ceux qui ressortent encore régulièrement que ces "AI" "créent" des images…
Posté par Faya . Évalué à 0.
Comme tu me réponds sous un autre commentaire, je reprends ici… Je crois qu'encore une fois tu prends les mots au pied de la lettre(ou alors tu nous prends pour des cons). Voilà un exemple pratique de ce que j'entends par "expliquer du code" : https://linuxfr.org/users/octane/journaux/mon-avis-sur-chatgpt#comment-1913116 Ça se résume à dérouler le script et compiler les parties de la documentation qui conviennent. Mashup comme tu dis. Sans avoir à fouiller individuellement la manpage de chaque commande. Et pour l'utiliser quotidiennement, je suis au courant qu'il lui arrive de se tromper mais personne (vraiment personne) n'a dit que ChatGPT était devenu son mentor et qu'on faisait confiance à tout ce qu'il affiche. J'insiste mais je t'assure que personne n'est aussi bête et de toutes les façons quiconque le ferait se rendrait immédiatement compte qu'il y a des failles régulières. Par contre, oui il peut faire gagner du temps.
Il y a tout juste une semaine je disais mot pour mot "il faut connaître les limites de l'outil et cesser de l'utiliser comme un oracle qui peut nous apporter la réponse à la Vie l'Univers et tout le reste". On est d'accord que c'est la même chose que tu dis là ? Donc nous sommes d'accord.
Pour tout le reste de ton commentaire je comprends les inquiétudes (ubérisation, problèmes sociaux, …) mais c'est orthogonal à la critique de l'utilité du bouzin. Concernant DALL-E je n'en vois pas encore l'utilité à part s'amuser quelques minutes donc je n'ai rien à en dire. Mais pour ChatGPT il faut comprendre que des personnes pas complètement débiles l'ont utilisé plusieurs fois et sont conscients des failles. Et que tu joues à te faire peur avec le dev qui va copier-coller une réponse de ChatGPT pour la pousser en production. On peut faire le choix de ne s'intéresser qu'à ses manquements ou alors tester pour constater que bien que n'étant qu'un T9 évolué, on peut lui faire fournir des réponses utiles. Exactement comme on le ferait avec une réponse de StackOverflow.
[^] # Re: Pour ceux qui ressortent encore régulièrement que ces "AI" "créent" des images…
Posté par Jehan (site web personnel, Mastodon) . Évalué à 7.
Oui, je voulais éviter de répéter les mêmes choses.
Tu m'as déjà sorti ça sur l'autre commentaire. Peut-on éviter s'il te plaît les attaques personnelles? C'est extrêmement désagréable et ne donne aucunement envie de répondre. On peut discuter entre personnes civilisées sans s'insulter les uns les autres. Merci.
Je n'ai pas dit que tu ne dis pas ça, ni ne t'ai visé personnellement ni rien (contrairement à toi qui me fait dire des trucs — ce qui est très désagréable, cf. mon point précédent— je ne t'ai rien fait dire). Je parle du problème de manière générale, je n'ai jamais parlé de toi. Ensuite, oui je réponds à des choses que d'autres disent, dont toi, parce que c'est comme ça que fonctionne une conversation. Mais ça ne veut pas dire que j'ai dit que tu disais l'inverse de moi sur certains points. J'ai développé ce que je pense personnellement, pas ce que je pense que les autres de la conversation pensent (je laisse ça à ceux qui se spécialisent à mettre des mots dans la bouche d'autrui).
Tu ne me verras jamais faire dans les attaques personnelles, je ne t'ai pas visé, je n'ai rien affirmé sur ce que tu penses.
Non mais honnêtement j'ai rien contre toi. Je te connais même pas, je n'ai pas parlé de toi et je comprends pas pourquoi tu sembles le prendre personnellement. J'aimerais donc suggérer qu'on continue la conversation sur des bases saines. 🤗
Le problème est que c'est le modèle technique et commercial même du "bouzin". Ce serait comme dire que ce que fait Uber est orthogonal à tous les problèmes posés et que bon, y a quand même des intérêts à Uber. Oui y en a, mais justement basés sur les problèmes créés; ces "avancées" n'existeraient simplement pas si les problèmes associés n'avaient pas été créés. Alors sont-ce vraiment des avancés? Est-ce vraiment orthogonal?
Pourquoi me faire peur? Encore une fois, tu essaies de personnaliser la discussion. Je soulève des problèmes de société. Ça n'a rien à voir avec moi (ou avec toi). Je ne me sens personnellement aucunement menacé par ces systèmes. Par contre, ils sont mauvais pour notre société. De même que je ne me sens pas menacé par Uber (je suis pas chauffeur), ni par Amazon (je vends pas d'objet) ni par les plateformes de livraison (je ne suis pas restaurateur), mais ça ne m'empêche pas d'être conscient des problèmes et d'alerter.
Encore une fois, c'est une variante du "Quand ils sont venus chercher…". C'est pas parce que moi je suis pas personnellement impacté qu'on ne devrait pas regarder les problèmes en face. Cette vision extrêmement individualiste des problèmes de société est ce qui nous mène dans le mur.
Film d'animation libre en CC by-sa/Art Libre, fait avec GIMP et autre logiciels libres: ZeMarmot [ http://film.zemarmot.net ]
[^] # Re: Pour ceux qui ressortent encore régulièrement que ces "AI" "créent" des images…
Posté par Faya . Évalué à 6.
Alors milles excuses. Je ne l'ai pas écrit comme une attaque. Quand je dis "tu nous prends pour des cons" ça rejoint "vous courez droit au mur." Note que je ne t'ai qualifié de rien du tout mais bon ouais le ton est peut-être un peu sec. Sûrement parce qu'on lit de tout sur ce sujet, entre les adorateurs de l'IA et ceux qui annoncent la fin du monde. Et puis c'est un peu lourd de (re)lire qu'on a rien compris à son fonctionnement. Ce que je veux c'est prendre une position plus mesurée. Juste la question pratique (je ne me suis pas exprimé sur les dangers sociétaux). Je baisse sur la pression.
Bah tu me cites en disant "C'est une course à la médiocrité" (entre autres) donc ouais je l'ai un peu pris pour moi. M'enfin rien de grave.
Justement je ne parlais pas des problèmes de société. J'ai voulu rester uniquement sur la question technique car je ne suis pas très à l'aise sur le sujet, c'est vachement flou et incertain. Tu dis "On aura toujours besoin de graphistes, illustrateurs, développeurs, écrivains et chroniqueurs… Mais on essaie de faire croire artificiellement à une forme d'inutilité." Si on en aura toujours besoin (et je suis d'accord sur ce point) qui croira à l'inutilité puisqu'il faudra bien embaucher ces développeurs ? Si ChatGPT est si mauvais, nous n'avons pas grand chose à craindre puisque sa production sera aussi mauvaise que lui et on embauchera des humains pour faire des choses de qualité. C'est comme les outils no-code qui devaient remplacer les devs… Je ne me sens pas menacé le moins du monde. Je vois bien par contre les soucis d'exploitation de la production d'auteurs qui n'ont pas donné leur accord pour entraîner ces trucs.
En fait j'ai l'impression que tu as des inquiétudes possiblement légitimes (problèmes de droits, problèmes d'emploi…) mais que c'est mélangé avec des choses annexes et infondées (je dis "tu" parce que je réponds à tes messages mais là encore ce n'est pas une attaque ! Ou alors une attaque de l'argumentation.) Par exemple le fait qu'il ne sache pas calculer, ou qu'il produise des textes sans saveur je ne vois pas en quoi ça nous mène "dans le mur". Les personnes qui l'utilisent pour autre chose que pour s'amuser le font en gardant les failles à l'esprit, comme tout développeur sait qu'il ne faut pas copier-coller un bout de code de StackOverflow si on ne l'a pas compris. Quand je lui demande de me trier des données, le mur me paraît assez éloigné. Des articles de presse entièrement rédigés par ChatGPT, là ouais on pourrait commencer à s'inquiéter mais vu les performances, ça se verrait assez vite. Sans compter que la production de qualité médiocre n'a jamais menacé les productions de qualité, que ça soit dans les arts ou la presse, il y a de la place pour les tabloïds et pour le journalisme d'investigation. Les clients feront le tri. Au final les critiques légitimes sur la qualité jurent avec l'inquiétude qu'on va droit dans le mur. Mais c'est peut-être parce que tu le vois du côté artistique et que je ne le considère que du côté pratique… Un outil comme un jq augmenté d'un Clippy beaucoup plus performant.
[^] # Re: Pour ceux qui ressortent encore régulièrement que ces "AI" "créent" des images…
Posté par ted (site web personnel) . Évalué à 8.
Oui comme les chauffeurs de bus, les livreurs, les agents d’entretien: on en a besoin. Et pourtant ces métiers ne sont pas valorisés, mal payés, avec des horaires à la con. La valeur d'un métier n'est pas fonction du besoin. Je pense que l'IA va dévaloriser des métiers, pas forcément dev, mais pourquoi pas journaliste?
Jehan et toi prenez le problème depuis deux extrémités: toi ceux qui utilisent l'IA, et Jehan ceux qui sont confrontés aux oeuvres de l'IA et à ses effets. Effectivement en tant qu'utilisateur c'est un super outil. En tant que visiteur du web on peut craindre une baisse de qualité, que ce qu'on cherche (ou ce qu'on veut diffuser) soit noyé dans la masse d’œuvres générées automatiquement sans intérêt ou fausses. On peut aussi se dire qu'un dehors du "générées automatiquement" on est déjà dans ce cas, mais on va passer au niveau supérieur. Un océan de caca.
Un LUG en Lorraine : https://enunclic-cappel.fr
[^] # Re: Pour ceux qui ressortent encore régulièrement que ces "AI" "créent" des images…
Posté par Faya . Évalué à 2.
Comme dit plus haut, pour moi c'est "Un outil comme un jq augmenté d'un Clippy beaucoup plus performant.". C'est à dire que je ne l'utilise pas pour la production d'oeuvre. Ni graphiques, ni écrites. Sur ce point je ne suis pas loin d'être d'accord (cf. ma phrase sur "Des articles de presse entièrement rédigés par ChatGPT.")
Maintenant, n'avons nous pas déjà appris à naviguer entre les torrents de vidéos mensongères, les blogs obscurs, les journaux sensationnalistes, les articles de fake-science à la France-Soir,… L'océan dont tu parles est déjà là mais on sait (à peu près) où trouver les infos qui comptent. Je ne suis pas sûr que des trucs générés automatiquement y changeront grand chose.
[^] # Re: Pour ceux qui ressortent encore régulièrement que ces "AI" "créent" des images…
Posté par GG (site web personnel) . Évalué à 2.
toi, nous, très probablement.
Mais d'autres pas encore.
Il y en a encore qui pensent qu'il y a du Graphène dans les vaccins à ARNm, et des micro-puces qui font apparaître plein d'adresses MAC dans les scans des réseaux Wifi…
Pourquoi bloquer la publicité et les traqueurs : https://greboca.com/Pourquoi-bloquer-la-publicite-et-les-traqueurs.html
[^] # Re: Pour ceux qui ressortent encore régulièrement que ces "AI" "créent" des images…
Posté par Jehan (site web personnel, Mastodon) . Évalué à 8. Dernière modification le 02 février 2023 à 15:37.
👍
Bien sûr. Encore une fois, à un niveau personnel je ne suis absolument pas menacé. Les bots codeurs ne remplaceront jamais les bons développeurs (et puis cela fait des années que j'ai décidé de ne plus travailler plus pour le type d'employeur où ce genre de considérations pourraient advenir). De même que les plateformes de livraisons ne sont sûrement pas un problème pour les chefs étoilés… Cela n'empêche pas, encore une fois, de regarder les changements de société dans leur ensemble. Ce n'est pas parce que ça ne s'applique pas à nous (et même au contraire parce que ça nous rend la vie plus pratique: achats moins chers, livraisons rapides et pas cher, etc.) qu'il faut fermer les yeux.
Si on se concentre sur l'industrie du développement logiciel, on va clairement vers du vite-fait mal-fait, avec des "apps" mobile faites en quelques jours dans des frameworks qui produisent du code de merde et peu maintenable (un peu du Frontpage-like, version "app mobile", pour ceux qui se souviennent encore de l'époque où les gens faisaient des sites web in-maintenable en WYSIWYG). De même que dans les autres industries, on a de la malbouffe à tous les niveaux, des gens sous-payés et dans des conditions de travail horrible aussi à tous les niveaux, de la précarité de l'emploi constante et des reculs sociaux divers…
Et donc oui, en informatique, le no-code, y a sûrement des gens qui en font; et je suis sûr que des applications écrites par des bots avec des dévs stagiaires sous-payés pour juste superviser la "création", y a des "entrepreneurs" qui en rêveraient. De même que certains ont commencé à commercialiser des produits avec des images générées (j'ai déjà vu au moins un cas de livre publié avec une couverture générée en décembre mais je retrouve plus la référence; et je doute que ce soit le seul cas), et je suis persuadé que certains commencent/commenceront bientôt à écrire des articles avec ChatGPT (je pense notamment à tous les "medias" qui ne produisent plus que du "contenu" plutôt que des articles et reportages, faits par des stagiaires sous-payés, genre les journaux rachetés par Reworld Media à tour de bras; mon sentiment est que ce type de "media" ne se privera pas si ça leur fait gagner du temps). Tous ces outils ne sont que des continuations de cette dégradation générale de la qualité dans notre société, depuis que les citoyens ne sont plus que des "consommateurs", que les articles, œuvres graphiques et vidéos, etc. ne sont plus que du "contenu" pour attirer les gens à "consommer" le vrai "produit" (la publicité), tout en donnant leurs "données" (pardon, "data"). C'est juste ridicule, notre monde moderne est un simulacre où la majorité n'est que déchet sans qualité dans le seul but de nous inciter vers nos plus bas instincts de consommateur. On est inondé par cette médiocrité au point qu'il devient de plus en plus difficile de trouver la qualité.
Certes tout cela ne met pas en péril (professionnel) ceux qui font de la qualité. Au contraire même, ça renforce notre valeur et on crée une dichotomie, une fracture professionnelle même, entre les bons/expérimentés (qui seront payés d'autant plus cher) et les précaires (qui seront payés des misères). C'est le monde qu'on crée de plus en plus avec tous ces changements. Il faut bien le voir. C'est pas théorique ou hypothétique, ça a commencé y a des années. Et même si je suis du "bon côté" de la fracture, ben désolé, mais non. C'est pas le monde dont je rêve, c'est pas le monde que je veux voir.
Effectivement, au contraire, ça la valorise (la production de qualité devient un "luxe", donc d'autant plus cher). Mais justement l'idée d'un monde de surproduction (on n'est plus dans la simple production, on surproduit, car ça devient de plus en plus facile de faire en quantité aux dépends de la qualité) de qualité médiocre pour la "populace" quand les riches sont les seuls à pouvoir se permettre la qualité, encore une fois, c'est pas le monde dont je rêve.
En tant que quelqu'un qui produit de la qualité, je préfère 1000 fois être payé raisonnablement (plutôt que super cher, comme un "producteur de luxe") de même que l'ensemble des autres producteurs (donc qu'on vive tous bien, tous ensemble, c'est ça mon rêve), plutôt qu'être l'un des rares à être payé très bien (voire trop bien) aux dépens de tous les autres qui vivraient dans la précarité. Et c'est bien pour ça que mes choix de vie se sont tournés vers le financement participatif de projets entièrement libres (en tant que mainteneur de GIMP et la production de films d'animation libres eux aussi), parce que je préfère être du côté de ceux qui font des choses utiles, même si je trime financièrement en conséquence, alors que je pourrais sans problème être engagé dans un GAFAM ou une startup quelconque.
Encore une fois donc, il ne s'agit ni de toi, ni de moi, et donc ni du fait que nous, personnellement, on n'est certes pas impacté négativement (au contraire), mais bien de la direction qu'on veut que notre société prenne. Pour l'instant, on se dirige de plus en plus vers des logiques de fractures sociales à tous les niveaux.
P.S.:
Je n'ai rien pris comme une attaque dans ce dernier message. C'est de la simple argumentation, c'est bien. Et c'est tout de suite mieux quand on discute ainsi, sainement. 😁
Film d'animation libre en CC by-sa/Art Libre, fait avec GIMP et autre logiciels libres: ZeMarmot [ http://film.zemarmot.net ]
[^] # Re: Pour ceux qui ressortent encore régulièrement que ces "AI" "créent" des images…
Posté par Faya . Évalué à 4.
Tu as choisi ton mode de vie, tu évites les employeurs nocifs, les supermarchés, les outils qui pourraient être dommageable au reste de la société. J'en suis juste à éviter les plus méchants avec ce que m'offre le libre (et à le financer occasionnellement). Tu prends des mesures et moi des mesurettes donc bravo sincère et j'espère que le monde que tu veux voir est encore possible.
En lisant cette réponse et un échange précédent que nous avions eu au sujet des darks patterns, je crois que je suis juste désabusé. Limite cynique. J'aime mes données et le libre donc je n'abreuve ni Facebook ni Google (enfin lui j'essaye mais il est omniprésent…) mais je pratique parfois le doomscrolling sur Twitter. L'élection de Trump, Cambridge Analytica, suivis de la pandémie, nous ont montré à quel point les contenus débiles/nocifs étaient lus et partagés. L'effet que ça avait déjà sur nos vies. Et dans cet océan de déchets, d'éventuels articles médiocres écrits par une IA ne seront pour moi qu'une goutte de plus. Les humains le font déjà si bien…
[^] # Re: Pour ceux qui ressortent encore régulièrement que ces "AI" "créent" des images…
Posté par Jehan (site web personnel, Mastodon) . Évalué à 5.
Oh je suis extrêmement désabusé moi-même. Je ne crois pas une seconde que je verrai le monde que je veux, je pense que l'homme va à sa perte et ne me fais aucune illusion sur ma capacité (inexistante) à empêcher cela.
Dans les autres trucs que j'ai changé dans ma vie est que je suis devenu végétalien/vegan depuis quelques années. Et pourtant, j'étais un énorme mangeur de fromage (c'est la partie que je regrette le plus dans ce régime alimentaire). Mais je ne supporte plus l'hypocrisie de l'industrie animale, qui est terrible d'un point de vue écologique, de même que l'extermination systématique que l'on fait des autres espèces.
Simplement je veux vivre bien dans ma peau et au moins, je peux me dire que j'ai pas participé (ou du moins le moins possible et que j'ai fait tout ce qui est en mon pouvoir pour ne pas prendre part à la nocivité ambiante) à toutes ces activités nocives. En un sens, c'est aussi une forme de mesquinerie qui me permet de dire "c'était pas moi" et surtout d'être fier de moi et de comment je vis ma vie au quotidien (en exploitant le moins possible autrui, notamment), mais bon, peut-être qu'on s'en foutra le jour de l'apocalypse! 😂😱
D'un autre côté, si tout le monde faisait ainsi, peut-être que justement on serait capable d'inverser la vapeur. Comme j'ai dit, je suis aussi désabusé et ne crois pas une seconde que ça arrivera, mais il faut bien certains pour commencer, sinon c'est clair qu'on ne donne aucune chance que cela arrive jamais. Je dirais donc que je suis désabusé, cependant tout en laissant la porte entre-ouverte sur une légère lueur d'espoir. On sait jamais! 🤷
Film d'animation libre en CC by-sa/Art Libre, fait avec GIMP et autre logiciels libres: ZeMarmot [ http://film.zemarmot.net ]
[^] # Re: Pour ceux qui ressortent encore régulièrement que ces "AI" "créent" des images…
Posté par kantien . Évalué à 3.
Il y a bien cette citation que l'on attribue à Georges Bernanos (je ne sais si elle est apocryphe ou non) :
Or si l'être humain se détourne de toute vie intérieure, il ne peut combler le vide resenti que par sa vie extérieure, ce qui se traduit, inévitablement, par une augmentation sans frein de sa consommation de biens…
Sapere aude ! Aie le courage de te servir de ton propre entendement. Voilà la devise des Lumières.
[^] # Re: Pour ceux qui ressortent encore régulièrement que ces "AI" "créent" des images…
Posté par Faya . Évalué à 1.
C'est drôle parce que tu hurles que "les gens" n'ont pas compris comment ça fonctionne mais cette seule phrase montre que tu n'as pas vraiment compris non plus… Qu'un modèle de langage ne fasse pas de calcul ça ne devrait surprendre personne. C'est normal, quand on a compris comment ça fonctionne. Afficher de la documentation par contre, ça rentre plus dans la catégorie "langage". Donc oui lui faire afficher une succession de passages de documentation c'est carrément indiqué. Je veux bien que tu me montres la faille ici
Explication de code
[^] # Re: Pour ceux qui ressortent encore régulièrement que ces "AI" "créent" des images…
Posté par Gil Cot ✔ (site web personnel, Mastodon) . Évalué à 3.
Il n'y a pas d'obligation que réponse au calcul en question soit calculatoire …puisqu'il s'agit d'un modèle de langage. Mais cette mauvaise réponse montre justement que la capacité à « afficher une succession de passage de documentation » c'est pas trop ça : le résultat est largement disponible sur la toile mais il a fallu que ça tape largement à côté.
Qu'une explication de code te semble correcte (perso, j'ai jugé insuffisant dès le second point) ne remet pas en doute le fait que le truc tombera juste au moins une fois sur deux. Se fier à ça pour son code de production, pour moi, c'est pareil que de jouer au loto/roulette ou sacrifier/brûler des poulets/cierges etc. Mais bon, chacun reste libre de ses croyances.
“It is seldom that liberty of any kind is lost all at once.” ― David Hume
[^] # Re: Pour ceux qui ressortent encore régulièrement que ces "AI" "créent" des images…
Posté par Faya . Évalué à 2.
Si tu parles de 1+1 il me semble qu'il a répondu correctement. Ensuite c'est l'algo de "Reinforcement Learning from Human Feedback" qui provoque l'erreur (sycophancy bias, les gens qui bossent dessus connaissent le soucis et la recherche continue). Mais dans tous les cas on est d'accord que ces modèles sont expérimentaux hein. Vu que j'ai appris l'expression aujourd'hui il semblerait que tu joues à la "négation polémique" avec ton "se fier à ça pour son code de production". Je re-re-reprends l'exemple de StackOverflow, qui colle en production du code copié sur le net ? Faut arrêter avec ce fantasme ou alors me trouver qqun qui aurait dit que ChatGPT savait tout résoudre. C'est suffisant pour le besoin, parfois ça ne l'est pas et charge à l'utilisateur de le tester/comprendre.
[^] # Re: Pour ceux qui ressortent encore régulièrement que ces "AI" "créent" des images…
Posté par Gil Cot ✔ (site web personnel, Mastodon) . Évalué à 4. Dernière modification le 02 février 2023 à 02:49.
Puisque t'insistes (sans chercher à faire de polémique ?) sur StackOverflow, oui il y a des devs (et admins) qui collent du code copié sur le Net en prod. En soi ce n'est pas problématique tant qu'on comprend ce que ça fait exactement (mais l'inverse est hélas du vécu aussi.)
Maintenant, il y a quand même une différence entre les deux mondes parce-que SO n'est pas juste un corpus mais une plateforme de Q&A assez exigeante (je vois pas mal de questions et de réponses virées pour manque de qualité, et celles restantes sont améliorées par la communauté en plus des nombreux commentaires qui accompagnent et permettent d'avoir une vision correcte si on le veut) et non une boite opaque. Bref, des choses non comparables, mais c'est moi qui fantasme.
“It is seldom that liberty of any kind is lost all at once.” ― David Hume
[^] # Re: Pour ceux qui ressortent encore régulièrement que ces "AI" "créent" des images…
Posté par Faya . Évalué à 3.
C'est le principe qui est comparable. Copier-coller quelque chose que tu n'as pas compris. À partir de là, quelque soit la source, c'est mauvais. Et la responsabilité incombe au copieur.
[^] # Re: Pour ceux qui ressortent encore régulièrement que ces "AI" "créent" des images…
Posté par Christophe . Évalué à 6.
Je trouve que quand la source est une IA, c'est tout de suite plus pernicieux: le texte est crédible mais souvent inexact ou juste faux.
Et on n'est pas sur StackOverflow où d'autres vont pointer du doigt l'erreur subtile mais essentielle qui s'est glissée dans le texte: là, tu es seul face à un texte quasi unique.
L'humain à l'origine de l'erreur sur internet voulait sûrement donner une réponse juste ; ChatGPT produit seulement une réponse crédible. Une source comme ça est à fuir comme la peste.
[^] # Re: Pour ceux qui ressortent encore régulièrement que ces "AI" "créent" des images…
Posté par Faya . Évalué à 2.
On tourne en rond. Oui c'est à fuir si on compte l'utiliser comme un Oracle infaillible. Et quelque soit la réponse qu'il te donnera, un code ça se teste.
[^] # Re: Pour ceux qui ressortent encore régulièrement que ces "AI" "créent" des images…
Posté par Faya . Évalué à 3.
J'ai l'impression que tu prends un peu les gens pour des cons. Je pense que tout le monde (au moins sur LinuxFr…) comprend le sens des expressions "algorithme", "modèle" ou "données d'entraînement." Et que les modèles de ces IA ne sont pas mis à "comprendre" le langage naturel pour "réfléchir" à la question posée. Il y a un contexte dans l'utilisation des mots. Ici, "comprendre" serait plutôt "traduire pour utiliser", un peu comme un compilo qui comprend ton code haut niveau pour le traduire en langage machine. Et dans ce contexte, ils comprennent puisqu'on obtient bien en sortie quelque chose correspondant à la demande en langage naturel (modulo les ratés (ChatGPT) ou la faible qualité (Dall-E)). La question du droit d'auteur est primordiale et ce genre d'études qui pointent les failles feront que les modèles seront améliorés pour ne pas recracher de manière basique les données d'entraînement.
Il faut aussi garder à l'esprit que ces trucs sont très jeunes. Il y a 1 an on ne s'attendait pas à pouvoir se faire expliquer du code ou rédiger un article (insipide mais ce n'est pas la question) par un chatbot. Je ne suis pas de ceux qui prédisent une Intelligence Artificielle Forte pour bientôt (ni même de notre vivant je pense) mais on aurait tort de penser qu'on a atteint là le maximum des possibilités de ces modèles. Tiens d'ailleurs OpenAI vient de sortir un modèle servant à distinguer un texte rédigé par une IA d'un texte rédigé par un humain. Là encore personne n'est dupe, ça va surtout servir à entraîner ChatGPT à mieux masquer son IAttitude…
[^] # Re: Pour ceux qui ressortent encore régulièrement que ces "AI" "créent" des images…
Posté par Élafru . Évalué à 6.
Rien à voir mais je découvre que je déteste vraiment cette nouvelle pratique d'associer à la publication d'un article scientifique une promotion sur les réseaux sociaux. Ça assigne aux chercheurs une nouvelle casquette, celle de la communication et de la promotion. Par conséquence cela empire la logique commerciale autour de la recherche et l'assimilation d'un article à un produit à vendre. Je redoute le jour où être présent sur les réseaux sociaux et où en faire la tournée à chaque publication sera, même pas forcément obligatoire, mais bien vu par les directeurs de thèses et d'équipes de recherche. Notamment parce qu'à ce stade là, on sera proche de l'évaluation de cette capacité dans les embauches du milieu de la recherche.
En plus, le passage au format des réseaux sociaux – court et incisif, forcément, c'est le gagne pain des entreprises derrières – est destructeur et implique un passage à la trappe des subtilités et des nuances.
# Terminologie
Posté par cg . Évalué à 2.
Juste un tout petit truc : je trouve que l'expression intelligence artificielle est tellement trompeuse, mais tellement vendeuse. Comment ne pas y céder :(.
Suivre le flux des commentaires
Note : les commentaires appartiennent à celles et ceux qui les ont postés. Nous n’en sommes pas responsables.