Salut,
C’est un peu tendance aujourd’hui de disserter à propos du chatgpt…
L’un de mes amis, plutôt calé pour avoir déjà travaillé dans le domaine, annonce à qui veut l’entendre que nous aurions atteint là la fameuse singularité, et qu’à l’occasion prochaine cette nouvelle merveille pourra nous aider à résoudre nos problèmes, à commencer par le réchauffement climatique. Il nous invite à chercher la bonne question à lui poser.
Je ne suis malheureusement pas d’accord avec lui. Contrairement à ce que j’imaginais a l’époque, je pense que nous ne sommes ici en présence que d’un synthétiseur textuel. Voici donc ma réponse :
Cher ami,
Au risque de te décevoir, je m’étonne de t’entendre dire voir la singularité (rien que ça) devant ce qui me semble être un synthétiseur très sophistiqué.
Tu as dû connaître David Copperfield, peut-être même l’as-tu vu en spectacle, en chair et en os ? Qu’est-ce qui t’aura donc alors empêché de crier haut et fort avoir rencontré un véritable magicien et vu de tes propres yeux de la magie ?
« Il y a un truc ! » !
Un synthétiseur (images ou texte), ça reste impressionnant et même utile aussi. Cela ressemble très fort à certaines activités humaines. Aussi cela peut nous faire porter un nouveau regard sur nous-même et certaines de nos activités.
Mais déjà on peut se sentir « bête » de résoudre un Sudoku ou jouer à bataille avec des cartes. Les mandalas, c’est pas mal non plus… Et pourtant, l’on ne se pose pas la question de savoir si une machine peut le faire à notre place. On pourrait facilement s’en douter.
Mieux vaut une tête bien faite qu’une tête bien pleine ? Et si nous avions ici le paroxysme de la tête bien pleine, disons même « On ne peut plus pleine »… Qu’en dirons-nous ? Et finalement, même pour les études et la plupart de nos activités humaines, est-ce toujours si vrai ? J’en ai connu des camarades qui me semblaient briller, surtout grâce à leur mémoire mais sans jamais vraiment comprendre quoi que ce soit :/
Te souviens-tu du paradoxe du singe savant ? C’était très à la mode à une époque…
Je trouve bien pertinentes les vidéos de Monsieur Phi.
Dernièrement https://youtu.be/dDhTMIao-fM
Si tu regardes cette vidéo de Monsieur Phi jusqu’au bout, je te garantis un jeu amusant.
Nous pourrions par exemple débattre du meilleur préambule (“pre-prompt” ou même “prompt”-« cadre ») pour obtenir un bon agent de discussion (“chatbot”).
Le piège en l’occurrence est de vouloir garantir à l’utilisateur (« vendre ») un dialogue avec « une intelligence artificielle », devant précisément se nommer ainsi. En plaçant dans le préambule le terme « intelligence artificielle » (ou “AI”), le synthétiseur sera orienté vers des textes à ce sujet. Dans toute la littérature les IA ne sont pas que bienveillantes.
Une solution pourrait être d’utiliser un dictionnaire « d’isolation ». Le synthétiseur recevrait en entrée du genre « Jésus rencontre un flâneur et cherche à lui répondre de manière juste et bienveillante. » Mais l’utilisateur pourrait lire « Je suis une intelligence artificielle. » (et non pas « Je suis Jésus. »). Car je pense que le vocable « Jésus » est (dans toute la littérature, matière première du synthétiseur) des plus entourés de propos bienveillants. Alors que, par exemple, le vocable « Dieu » est très probablement entouré de tant de bienveillance que colère, punition, châtiment, etc.
Bien à toi.
PS : Par synthétiseur, j’entends également ce que l’on appelle faire un travail de synthèse à partir de plusieurs textes, mais pourquoi pas voir aussi un rapprochement avec ce que l’on appel un synthétiseur dans Star Trek… D’ailleurs, toujours dans Start Trek, l’ordinateur est très sympathique et réalise de très bonnes synthèses de situations mais ne semble pas capable de résoudre des situations complexes, d’où l’utilité d’un capitaine ou d’un conseillé scientifique ;)
Qu’en pensez-vous ?
Intelligence artificielle susceptible de pouvoir donc nous aider à résoudre des problèmes tels que le réchauffement climatique ou synthétiseur de texte très sophistiqué ?
S’il devait s’agir de la singularité, notre résistance à le croire pourrait-il n’être qu'un mauvais moment à passer ?
# C'est quoi le problème ?
Posté par ckiller . Évalué à 10.
Le réchauffement climatique n'a pas besoin de technologie ou de singularité pour le résoudre, il a besoin d'un consensus politique universel sur la cible à atteindre et de volonté politique puissante pour l'atteindre.
Ce consensus étant inatteignable, aucun outil ne nous sauvera.
[^] # Re: C'est quoi le problème ?
Posté par Micromy (site web personnel) . Évalué à 10. Dernière modification le 07 mai 2023 à 19:04.
D'ailleurs il faut se méfier et ne pas trop attendre des IA une solution, car si elles répondent de manière "pragmatique" on pourrait avoir par exemple :
- "Débranchez-moi, mon bilan carbone est pire que les économies d'émission des solutions que je pourrais vous donner"
- "Il faut réduire la consommation de type occidentale et revenir à un mode de vie pré révolution industrielle"
- "Il faut laisser fuiter plusieurs laboratoires P4 pour réduire efficacement la population humaine"
Etc. 😁
[bon, c'est dimanche soir, il pleut, et je suis effrayé par les naïfs du solutionnisme technologique…]
[^] # Re: C'est quoi le problème ?
Posté par Nicolas Boulay (site web personnel) . Évalué à 0.
Que recouvre le solutionnisme technologique ? Je sais que cette insulte vient du coté écolo/décroissant.
La technologie a toujours été une solution à un problème. Cela a souvent marché. As-tu des contre exemple ?
"La première sécurité est la liberté"
[^] # Re: C'est quoi le problème ?
Posté par Thomas Douillard . Évalué à 10.
Le solutionnisme technologique est la croyance que la technologie, plus de technologie, est la réponse à tous les problèmes.
Dans le cas du changement climatique, le problème vient de la technologie : notre technologie basée sur le pétrole produit énormément de gaz à effets de serres. Le solutionnisme technologique dira "il y a qu’à créer des technologies décarbonées et virer le CO2 et tout va bien, on pourra tout faire comme avant". Dans ce mode de pensée il est inenvisageable qu’il n’y ait pas de problème qui soit soluble par simplement plus de technologie ou de meilleurs technologie.
Il n’est pas vraiment question de dire que la technologie ne résout pas de problème. Il est question de dire que tous les problèmes ne sont pas forcément solubles juste par la technologie. Exemple parmi d’autres que la technologie n’a pas résolu, il semble qu’il y ait encore des guerres dans le monde. Et on voit pas trop comment on pourrait résoudre ça juste avec de la technologie.
[^] # Re: C'est quoi le problème ?
Posté par BAud (site web personnel) . Évalué à 4. Dernière modification le 09 mai 2023 à 13:05.
cf. Low-tech aussi
bah, quelques bombes H devraient en venir à bout ?!
Euh… wait !!! /o\
[^] # Re: C'est quoi le problème ?
Posté par Nicolas Boulay (site web personnel) . Évalué à 0.
Tu ne donnes pas vraiment d'exemples. Les solutions techno n'ont jamais prétendu être instantané. La fission puis la fusion nucléaire pourrait résoudre une grosse part des problèmes de CO2, une fois présente, cela sera une histoire de cout.
Concernant la paix, la bombe H a justement évité une confrontation USA/Russie. La guerre est devenu l'ennemi elle-même, on essaye toujours de rester sous un certain niveau pour éviter l'engrenage. L'AK47 a fait bien plus de mort que la bombe atomique au final.
"La première sécurité est la liberté"
[^] # Re: C'est quoi le problème ?
Posté par Thomas Douillard . Évalué à 8.
L’AK47 c’est pas de la technologie ?
La question ici c’est de savoir si, si elles arrivent genre la fusion qui reste spéculative, elles arriveront assez tôt pour limiter les dégâts. Des gens meurent déjà et ça fait déjà quelques temps qu’on a eu les premiers réfugiés climatiques, on a pas de temps, et parier dessus reste un pari.
Autre problème, la biodiversité. Elle s’effondre globalement https://zenodo.org/record/3237468 et c’est largement dû à nos modes de vies. Un technosolutionniste dira "on à qu’à intensifier l’agriculture, ça libérera des terres pour le reste", ça ne nous dit rien sur la soutenabilité ou la réussite du maintien des sols si on rajoute des drônes. L’érosion est dûe à nos modes de vie, et en plus on va vers des crises avec le manque d’eau dans nos régions … on maîtrise pas grand chose actuellement, et c’est de notre faute. C’est certainement pas en s’en remettant simplement à des technos qui seront prêtes, un jour peut être, qui sont supposées tout résoudre, qu’on va s’en sortir. Faut croire aux miracles, on est pas loin des processions pour la pluie. Mais l’humain actuel est trop évolué pour faire ça ! Euh, non ?
[^] # Re: C'est quoi le problème ?
Posté par Lawless . Évalué à 6.
Surtout que le réchauffement ne se résoudra jamais, il n'y a pas de retour en arrière possible, il faudra des siècles pour purger le surplus de CO2 que les activités humaines ont mis dans l’atmosphère. Les activés humaines ont enclenché une dérive climatique irréversible, même si demain on arrêtait toute émission de CO2, les océans continueraient de se réchauffer pendant des siècles.
La seule chose qu'on pourrait faire (mais que nous ne faisons pas) c'est limiter la casse en limitant le réchauffement.
Mais pour limiter le réchauffement il faudrait nous passer des énergies fossiles, qui représentent 80 % de la production d'énergie mondiale. Ce qui veut dire, diminuer notre niveau de vie, pas deux, trois, cinq ou plus. Moins se déplacer, moins manger de viande, moins acheter de trucs et de bidules, changer d'ordinateur tous les vingt ans, etc.
C'est pour cette raison que personne ne veut s'occuper du problème et que nous nous dirigeons vers 1,5 °C de réchauffement global en 2030, 2 °C de réchauffement en 2050 et plus de 3° C en 2100 (ce qui correspond à 4 °C en France).
[^] # Re: C'est quoi le problème ?
Posté par Thierry Thomas (site web personnel, Mastodon) . Évalué à 3.
Il y a des gens qui travaillent sur des puits de carbone, dans le but de faire diminuer les taux de CO2 dans l’air et dans l’eau.
Mais je n’ai aucune idée de la date estimée pour une solution globale suffisante…
[^] # Re: C'est quoi le problème ?
Posté par ted (site web personnel) . Évalué à 4.
J'ai aussi entendu ce genre de trucs, et c'est un bon exemple de solutionnisme technologique.
De ce que j'avais compris, l'idée c'est d'utiliser de l'énergie "verte" pour alimenter des dispositifs capables de capter le co2 de l'atmosphère et (éventuellement) l'enfouir sous terre. Mais pendant ce temps, on va continuer à creuser ailleurs pour sortir du carbone de terre et le rejeter dans l'air. Donc en fait on va continuer à polluer l'air (et gagner plein de thunes) sous prétexte que d'autres pourront peut être le nettoyer plus tard (en dépensant plein d'énergie).
Un LUG en Lorraine : https://enunclic-cappel.fr
[^] # Re: C'est quoi le problème ?
Posté par Thierry Thomas (site web personnel, Mastodon) . Évalué à 3.
Je ne pense pas qu’on en soit au point où l’on pourrait envisager la captation technologique comme un prétexte pour pouvoir continuer à polluer, même si certains le font avec la captation naturelle : bon, d’accord, je pollue, mais en contrepartie je vais planter un arbre. On n’en est pas encore là !
Cependant, il me semble intéressant de suivre ce qui ce fait. Quelques liens :
[^] # Re: C'est quoi le problème ?
Posté par Thomas Douillard . Évalué à 2.
Moyennement d’accord, pendant un temps une des défense des possesseurs de bitcoin pour continuer la fête c’était "non mais c’est de l’énergie renouvelable", même si on a rouvert des centrales à charbon pour le minage.
[^] # Re: C'est quoi le problème ?
Posté par Tonton Th (Mastodon) . Évalué à 1.
[^] # Re: C'est quoi le problème ?
Posté par mrlem (site web personnel) . Évalué à 6.
En même temps, pourquoi cette volonté politique viendrait, quand la base électorale n'en a à l'évidence cure ? Enfin j'exagère : il y a bien eu une prise de conscience, et il y a bien des sujets sur lequel c'est le pouvoir qui a la main. Cependant, on aura beau prendre le problème sous toutes les coutures, tant qu'on (au collectif) tiendra à notre consommation d'énergie / eau / produits non-essentiels comme à la prunelle de nos yeux, rien n'y fera.
Mais je te rejoins : aucun outil ne nous sauvera. Et je rajouterais, un consensus politique universel n'y changerai rien non plus, tant qu'aussi peu de gens parmi ceux qui en ont les moyens sont prêts à changer ne serait-ce qu'un peu.
[^] # « Celui qui Sait ! »™ (Re: C’est quoi le problème)
Posté par Space_e_man (site web personnel) . Évalué à 1.
Ce me fait penser à deux choses.
D’abord que penser d’une démocratie qui permet à une majorité d’entraîner le monde entier à sa perte ? Que ceux-là soient prêts à mourir dans d’atroces souffrances, ou en tout cas de condamner leur progéniture à cela, c’est une chose. Mais comment ne pas respecter cette minorité qui serait prête quant à elle à faire tous les sacrifices nécessaires pour éviter le pire ou d’un moins tous ce qu’il est encore possible d’éviter ? N’avait-on pas dit qu’il fallait absolument défendre les droits et aspirations des minorités ?
Seulement voilà, tout cela dépend de l’estimation que l’on considère de la situation. Et voilà cette deuxième chose.
Je regardais la dernière vidéo en date de Paul Jorion, … et aussi son dernier article, une synthèse produite par ChatGPT justement…
Et je me dis que ce genre d’hyper synthétiseur, tel l’ordinateur dans Star Trek, peut bien nous aider à nous fixer autour d’un certain point de vue, celui de la machine, obtenu à partir de la compilation rigoureuse de toutes la connaissance d’une situation. Nous aurions ici les prémisses. Ce que j’entends, ce n’est pas qu’à l’heure actuelle la synthèse produite soit parfaitement fiable et impartiale, mais que c’est ce que c’est là ce que l’on peut attendre de l’hyper synthétiseur, la voie de « Celui qui Sait ! »™.
À une époque où l’on ne sait plus qui croire, que croire, ce n’est pas tant d’une intelligence dont nous aurions besoin mais d’une synthèse, la plus complète et la plus juste possible.
[^] # Re: « Celui qui Sait ! »™ (Re: C’est quoi le problème)
Posté par Thomas Douillard . Évalué à 10.
Tu crois que, par exemple sur le climat, ChatGPT obtiendrait une synthèse plus fiable que celle du GIEC ? Moi pas, d’ailleurs si il y a pas de GIEC peu de chances que ChatGPT arrive à capter grand chose comme information sur le climat. Sur le sujet c’est pas ChatGPT qui fait la synthèse rigoureuse, c’est le GIEC, qui est déjà un peu biaisé d’un certain point de vue question synthèse vu qu’il a tendance à minimiser certains effets et peu voir ses conclusions dans les rapports pour décideurs revu par des gouvernements qui ont intérêt à pas non plus être alarmistes.
ChatGPT, d’un autre côté, doit faire une synthèse qui comprend potentiellement la désinformation omniprésente, sur le net et ailleurs, sur la question. Et le filtrage de qualité de l’information en entier est à la base moins bon, donc la synthèse chatGPT est forcément moins bonne que celle du GIEC. Qui pourra, malgré le fait qu’on essaye tant bien que mal de le biaiser dans un certain sens, baratiner un peu ce que tu veux lui faire dire.
[^] # Re: « Celui qui Sait ! »™ (Re: C’est quoi le problème)
Posté par Nicolas Boulay (site web personnel) . Évalué à 2.
Si tous les rapports du giec sont avalé par GPT, tu peux poser des questions comme une requête de base de donnée. C'est utile aussi.
"La première sécurité est la liberté"
[^] # Re: C'est quoi le problème ?
Posté par PhRæD . Évalué à 4.
Aucun consensus ne nous ayant amené à la situation actuelle (il,suffit de se souvenir de 2005), je ne vois pas pourquoi il en faudrait un pour changer de cap.
C’est encore un exemple de la marque des dominants de faire croire que rien ne peut changer (le fameux TINA).
« Y a même des gens qui ont l’air vivant, mais ils sont morts depuis longtemps ! »
[^] # Re: C'est quoi le problème ?
Posté par ckiller . Évalué à 2.
Aucun consensus ne menait à la seconde guerre mondiale, mais seul une coalition et un effort de guerre (politique donc) a permis de résoudre le conflit. Idem pour la destruction de la couche d'ozone et une interdiction concertée.
Et des exemples comme cela, il y en a des tonnes.
Pour ce qui de ta remarque sur la marque des dominants, ça fera un malheur dans ta prochaine réunion de l'amical complotiste et te laisse donc avec tes préjugés pétés.
[^] # Re: C'est quoi le problème ?
Posté par PhRæD . Évalué à 7.
Par definition, la seconde guerre mondiale est issue d’un dissensus, et l’une des parties a gagné (comme toujours à la guerre). C’est tout.
Quand à mes « préjugés bien pétés », nous vivons dans un système appelé capitalisme basé sur l’exploitation par les propriétaires des moyens de production (les dominants) des autres (les dominés). Rien de complotiste là-dedans : ça s’appelle la réalité.
Cette domination N’EST PAS issue d’un consensus, mais le résultat d’une lutte (des classes) permanente. Sortir de la crise environnementale actuelle nécessite de passer à autre chose que le capitalisme, ce qui ne résultera que d’un (très) gros effort de conquête des dominés actuels.
Aucun consensus dans tout ça.
« Y a même des gens qui ont l’air vivant, mais ils sont morts depuis longtemps ! »
[^] # Re: C'est quoi le problème ?
Posté par Nicolas Dumoulin (site web personnel) . Évalué à 1.
Donc, s'il y en a des tonnes, c'est que trouver un consensus politique face à une crise majeure est possible. Et parfois assez rapidement.
Si on part perdant d'avance, on ne fera jamais rien.
L'Humanité s'est élevée, notre niveau d'éducation s'est élevé, et c'est pas fini.
# sommes nous davantage que des synthétiseurs textuels ?
Posté par sobriquet . Évalué à 2.
De mon côté, je ne me demande pas tellement si ChatGPT est intelligent, parce que je n'aime pas utiliser des concepts trop flous tels que "intelligence". Je me demande surtout dans quelle mesure nous, humains, sommes davantage que des "synthétiseurs textuels" (pour reprendre le terme utilisé dans le journal).
Nous sommes certainement de meilleurs synthétiseurs textuels, en l'état actuel de la technologie, parce que nous somme capables de mettre à jour nos connaissances en temps réel. Je ne suis pas sûr que cette différence perdure. On doit pouvoir trouver quelques autres différences, mais je ne suis pas sûr non plus qu'elles soient si considérables.
On peut aussi se considérer supérieurs à des synthétiseurs textuels parce que nous avons des moyens d'acquérir des informations autrement que par le texte, et que nous avons des moyens d'agir directement sur notre environnement. Je ne crois pas que cela soit une différence fondamentale. En effet, on peut considérer les informations que nous recevons de notre environnement comme un langage : c'est un système de signes (les perceptions) doté d'une sémantique (acquise par l'expérience) et d'une syntaxe (les lois physiques). Si c'est un langage, les synthétiseurs textuels peuvent théoriquement se l'approprier. Dans la même logique, les actions que nous pouvons faire constituent également un langage ; les synthétiseurs textuels ont donc la capacité de devenir des "synthétiseurs d'actions".
Il y a 2 ans, je considérais la singularité comme une spéculation juste bonne pour écrire de la science-fiction. Aujourd'hui, je suis bien plus réservé. Les humains sont sans doute un peu plus que des "synthétiseurs d'actions", mais peut-être pas de beaucoup.
[^] # Re: sommes nous davantage que des synthétiseurs textuels ?
Posté par Guillaume Denry (site web personnel) . Évalué à 2.
Pour moi, la question la plus fondamentale, c'est de savoir si un "GPT" suffisamment évolué possède une conscience ou un "moi" géolocalisé comme c'est le cas pour nous les humains (quoique, vous êtes tous peut-être des zombies philosophiques et je ne le saurai jamais :D).
[^] # Re: sommes nous davantage que des synthétiseurs textuels ?
Posté par Space_e_man (site web personnel) . Évalué à 4. Dernière modification le 08 mai 2023 à 00:45.
Un jour prochain, nous pourrons sur commande et en quelques secondes obtenir le livre de chevet de nos rêves pour la soirée. Le système s’améliorera de semaine en semaine et viendra le jour où l’un de nous obtiendra ainsi, après quelques cliques et préambule directif ce qui lui semblera être un chef-d’œuvre monumental, le livre qui retourne l’être. Des larmes lui couleront sur les joues et ses jambes trembleront. Le matin suivant, il se dirigera, le livre sous le coude, chez un grand éditeur… Et là, il découvrira une file immense dans la rue, d’autres férus de lecture, tous aussi bouleversés les uns que les autres, tous avec un livre différent en mains. Les plus grands auteurs seront-ils alors relégués à de vulgaires scribouillards ?
Ça j’en suis presque sûr.
Quant à nous, êtres humains, Homo sapiens, Homo consumericus, comment nous comparer encore à la machine, à ce genre de machine ?
Ne sommes-nous pas juste ce que nous sommes ? Un être de chair et de sang, chimique, hormonal, primitif, mais pensant. Dans quelles mesures (qualitative ?) la pensée est-elle liée aux langages ?
Et aussi, à quoi mène la comparaison ?
L’homme fort se compare-t-il à une tractopelle ?
Quelle place aurons-nous encore dans ce monde ? Là n’est-elle pas la question ?
« Puis-je me rendre utile et mériter ma place auprès de vous ? Et combien de temps ? » Le fameux travail ou l’emploi… Dans sa propre maison, pour ces propres enfants ou pour ses voisins, le travail n’est pas reconnu de la même manière et ne donne pas droit à la même retraite par exemple. Alors, signons des contrats de travail entre voisins, jouons le jeu et pour les mêmes tâches ménagères nous aurons droit à une retraite ? Je m’égare… , peut-être…
Alors, juste pour le GPT dont nous parlions…, je pense que l’on ne pourra pas de si tôt lui faire résoudre les mystères de la science et des mathématiques, ce pourquoi les chercheurs travaillent d’arrache-pied…
Par exemples,
10 mystères scientifiques qui attendent toujours leur réponse
Les grands mystères scientifiques non résolus de notre époque
Cinq mystères que la science n’a toujours pas élucidés
5 grands mystères de l'Univers qui fascinent les scientifiques
Sans compter, les problèmes non résolus en mathématiques
[^] # Re: sommes nous davantage que des synthétiseurs textuels ?
Posté par hugotrip . Évalué à 4.
Pour certains problèmes que tu soulignes, les mathématiques en particulier, il est possible que leur résolutions n'impliquent pas d'innover, mais juste de relier différemment des connaissances actuelles, auquel cas ils seraient (à horizon très proche ?) à portée de ChatGPT (surtout par chance, dans cet horizon).
[^] # Re: sommes nous davantage que des synthétiseurs textuels ?
Posté par BAud (site web personnel) . Évalué à 3. Dernière modification le 08 mai 2023 à 18:39.
qu'il sache déjà additionner 1 + 1 dans ℕ, ça serait bien oui :-)
sans se heurter aux Théorèmes d'incomplétude de Gödel :p
[^] # Re: sommes nous davantage que des synthétiseurs textuels ?
Posté par hugotrip . Évalué à 1.
De ce que j'en avais compris, j'imaginais que ChatGPT pourrait synthétiser une solution à un problème (ne nécessitant que de relier des connaissances déjà présente), qui seulement par chance/hasard serait juste (peut-être serait-ce optimisé avec un prompt aux petits oignons).
Je ne pensais sinon pas que ChatGPT serait capable de faire des calculs, ce qui fait que ta remarque "additionner 1 + 1" m'interpelle : j'en doute, mais n'ayant pas de compte, je ne peux pas tester s'il est capable de résoudre des problèmes mathématiques (relativement simples) comme des histoires de robinets et de baignoires, ou de trains qui se croisent ?
Et sinon, n'étant pas mathématicien à la base, ta remarque m'interpelle aussi dans le fait que tu précises que tu poses la question dans l'ensemble des entiers naturels : pourquoi le préciser (y a-t-il par exemple un ensemble dans lequel 1+1≠2) ?
[^] # Re: sommes nous davantage que des synthétiseurs textuels ?
Posté par BAud (site web personnel) . Évalué à 4. Dernière modification le 09 mai 2023 à 00:24.
moui, une solution mais bon, elle peut être totalement fausse ; déjà qu'il ne réussit pas à traduire Saint-Quay Portrieux en Breton et qu'il invente une connerie, alors qu'il suffit de regarder la page wikipedia français pour la réponse…
qu'il n'est pas foutu de donner un taux de confiance dans ses réponses…
qu'il met 3 plombes à répondre une logorrhée et que t'es obligé de réclamer de répondre laconiquement et de taper plus vite sur le clavier…
si tu suis aveuglément ce que répond chatgpt, ils risquent de se rentrer dedans…
bin dans l'ensemble des parents / enfants, 1 + 1 peut donner 0, 1, 2, 3 voire plus pour les familles nombreuses :-) voire 1 enfant peut avoir plus de 2 parents dans les familles recomposées, là ça fait 2 + 1 = 1 /o\
Pour rester dans les corps mathématiques, tu peux avoir 1 + 1 = 10 (en base 2 :p)
[^] # Re: sommes nous davantage que des synthétiseurs textuels ?
Posté par hugotrip . Évalué à 1.
On est d'accord, une bonne solution ne pourrait advenir que par chance, mais peut-être y aurait-il moyen d'améliorer cette chance (avec une optimisation du prompt, en lui imposant une formulation qui permette de tester les solutions qu'il propose, ou que sais-je). L'idée là est juste qu'il a la capacité de proposer des connexions auxquelles on n'a pas forcément pensé (la majorité car elles sont débiles certes).
Sinon, donc pour le fait de résoudre des problèmes mathématiques aussi c'est bien ce que j'en ai compris du fonctionnement. C'est intéressant, car c'est peut-être plutôt sur ce type de question que devrait être éprouvée l'intelligence (ou non) d'un programme : le test de Turing semble montrer ses limites avec ChatGPT.
Merci enfin pour ces exemples pourtant triviaux où 1+1≠2.
(j'ai honte, une de mes blagues préférées est pourtant : "Dans la vie y a 10 types de personnes, celles qui comprennent le binaire et les autres")
[^] # Re: sommes nous davantage que des synthétiseurs textuels ?
Posté par BAud (site web personnel) . Évalué à 3.
bin, tu vas passer ton temps à faire du fact checking :-) c'est ton intelligence que tu utilises pas celle que n'a pas chatgpt qui ne fait que du rapprochement probabiliste de termes/thèmes à associer : c'est un bon pipoteur, ça oui :/
c'est très shadok ça : plus ça rate, plus on a des des chances que ça marche ! :-D
Tu as actuellement une série de replays assez intéressante sur l'IA sur Arte : bon, les intervenants ont tendance à dire plein de bien de l'IA, puis tout son contraire par la suite… j'avais relevé Arte - Intelligence artificielle quand les émotions s'en mêlent - 06-05-2023 23h20 qui réussissait à faire percevoir quelques nuances (un peu trop emphatique sur le début tout de même :/).
[^] # Re: sommes nous davantage que des synthétiseurs textuels ?
Posté par hugotrip . Évalué à 1.
c'est une possibilité (ou pas, si "tester les solutions qu'il propose" peut être automatisé)
Après, on est d'accord que ChatGPT ne va quasiment rien faire tout seul : il est très peu probable qu'il te propose une solution directement correcte : les nuances que j'apportais visaient surtout à indiquer qu'il pourrait te donner des "directions de connexions" de connaissances intéressantes à explorer, en te sortant de ta "vallée de pensée".
(ou pas ? De par son fonctionnement probabiliste, peut-être aurait-il tendance à s'approfondir dans cette "vallée")
[^] # Re: sommes nous davantage que des synthétiseurs textuels ?
Posté par sobriquet . Évalué à 2. Dernière modification le 09 mai 2023 à 00:37.
ChatGPT sait faire ça ! J'ai testé les opérations arithmétiques, le calcul d'intégrale et le calcul de limites. Bon, certes, il s'est vautré sur le calcul de limite :/
[^] # Re: sommes nous davantage que des synthétiseurs textuels ?
Posté par BAud (site web personnel) . Évalué à 2. Dernière modification le 09 mai 2023 à 02:30.
tu es sûr ?
je te cite la dernière phrase de l'abstract de ce papier https://arxiv.org/abs/2301.13867 Mathematical Capabilities of ChatGPT
le PDF complet est sur https://arxiv.org/pdf/2301.13867.pdf
[^] # Re: sommes nous davantage que des synthétiseurs textuels ?
Posté par sobriquet . Évalué à 2.
Oui, j'ai testé juste avant de répondre pour être sûr. Le papier que tu cites, publié en janvier dernier, concerne GPT 3. En mars dernier, ChatGPT est passé à la version 3.5, qui a de plus grandes aptitudes arithmétiques et logiques. Quand à la version 4, payante, elle doit être encore un cran au dessus. Cet article donne une liste d'examens que ChatGPT a réussi jusqu'à présent.
Science4All a fait une très bonne série de vidéos sur "Le bayésianisme, une philosophie universelle du savoir". Bien qu'elle soit antérieure aux derniers coups d'éclats des IA, elle permet de mieux comprendre de quoi ces algorithmes à base de probabilité sont capables. On peut aussi mentionner le théorème de Cox-Jaynes, selon lequel, si on admet quelques hypothèses intuitives, tout processus d'apprentissage est équivalent à la théorie des probabilité.
Ma perception actuelle des choses est que le cerveau humain, dans sa fonction cognitive, est essentiellement une grosse machine à faire des probabilités.
Si on laisse 10 ans de développement à ces technologies, qu'on leur donne accès à des corpus spécialisés, ou à des corpus de données non linguistiques, je crois qu'elle vont mettre beaucoup de monde à la porte.
Je n'ai accès qu'à la version 3.5 de ChatGPT, mais si tu veux lui soumettre un problème de trains qui se croisent ou de baignoire qui fuit, je veux bien faire l'intermédiaire :)
[^] # Re: sommes nous davantage que des synthétiseurs textuels ?
Posté par hugotrip . Évalué à 1.
Par exemple :
BAud étant plus calé que moi mathématiquement, je lui laisse le plaisir de te donner la bonne réponse.
[^] # Re: sommes nous davantage que des synthétiseurs textuels ?
Posté par sobriquet . Évalué à 2.
Voilà sa réponse :
Il me semble qu'il s'est trompé en posant l'équation, il aurait dû poser :
Je lui ai fait régénérer sa réponse 2 fois, il a donné un autre résultat, également faux (il me semble), puis le même. Je suis curieux de savoir si ChatGPT 4 fait mieux.
[^] # Re: sommes nous davantage que des synthétiseurs textuels ?
Posté par BAud (site web personnel) . Évalué à 3.
CQFD ;-)
Pour revenir à ce que tu disais un commentaire précédent :
=> se vautrer comme une grosse loutre :p
et sinon :
srsly 1111?!
il n'y a que moi que cela choque ?
le mot mieux ? moui… qu'il joue donc au qui perd, perd ! ;-) Tu vas me devoir 100 balles et un Mars :p
[^] # Re: sommes nous davantage que des synthétiseurs textuels ?
Posté par sobriquet . Évalué à 1. Dernière modification le 09 mai 2023 à 13:26.
J'ai pas dit que ChatGPT était une application aboutie pour le calcul mathématique :) Au contraire, je confirme que, passé un certain niveau de difficulté, il fait souvent des erreurs. Je dis juste qu'il sait faire des maths dans une certaine mesure, et que cela prouve que c'est à la portée de ce type de technologie.
Il faut imaginer quelles pourraient être les capacités de ces technologies dans 10 ans, une fois qu'ont aura le retour sur investissement des milliards actuellement dépensés. Ce ne sera certainement pas algorithmiquement optimal, mais ce sera toujours mieux que ce que ChatGPT nous fournit aujourd'hui gratuitement en 30 secondes.
[^] # Re: sommes nous davantage que des synthétiseurs textuels ?
Posté par BAud (site web personnel) . Évalué à 4.
en dessous de quelle difficulté ne se trompe-t'il jamais ? ne pas savoir le taux de confiance dans ses réponses est une mesure de leur ineptie.
déjà ne pas savoir que 1 + 1 = 2 pour des entiers naturels… ça met le niveau très bas :/
je dis pareil que toi, avec mesure < 0 ;-) (en dessous de tout pour l'instant, vu que ce n'est pas son propos de pipoteur pas intelligent — exit le I de IA — même un perroquet serait plus cohérent :/)
[^] # Re: sommes nous davantage que des synthétiseurs textuels ?
Posté par sobriquet . Évalué à 1.
Pourquoi dis-tu qu'il ne sait pas que 1 + 1 = 2 ? Comme dit plus haut, il gère très bien les additions. Si tu ne veux pas créer de compte, tu peux tester HuggingChat : je ne l'ai pas beaucoup testé, il a l'air moins bon en maths que ChatGPT (il se plante sur les grosses additions), mais il sait très bien combien font 1 + 1.
Aucun ordinateur ne fait jamais d'erreur, il peut toujours y avoir un rayon cosmique qui traîne et qui induit un bug non rattrapé par la détection/correction d'erreur. Ce niveau d'exigence est absurde et inutile. La bonne question serait de savoir quel est le risque d'erreur acceptable. Il est ensuite simple de faire des jeux d'essais pour estimer le taux d'erreurs du modèle de langage sur le type de problème qui nous intéresse, et de décider si c'est acceptable ou pas.
Empiriquement, je constate que, dans les calculs formels, le risque d'erreur de ChatGPT augmente avec le nombre d'étapes de raisonnement. On peut y trouver une explication : dans un raisonnement formel, la bonne étape de raisonnement est celle qui est la plus probable dans le modèle de langage. Mais ces outils ne nous donnent pas l'étape la plus probable, ils tirent au hasard une étape proportionnellement à leur probabilité. Cela peut se corriger en donnant au modèle de langage une quantité si importante de raisonnements formels que la probabilité de donner autre chose que l'étape la plus probable va tendre vers zéro. En plus, générer automatiquement des tonnes de raisonnements formels est facile.
[^] # Re: sommes nous davantage que des synthétiseurs textuels ?
Posté par lejocelyn (site web personnel) . Évalué à 5. Dernière modification le 10 mai 2023 à 10:20.
De mon côté, je viens de lui demander l'addition de deux chiffres binaires, et voilà ce que ça donne:
[^] # Re: sommes nous davantage que des synthétiseurs textuels ?
Posté par hugotrip . Évalué à 2.
Ouais bon ben il fera
un bac Ldes spés littéraires, c'est pas grave.[^] # Re: sommes nous davantage que des synthétiseurs textuels ?
Posté par BAud (site web personnel) . Évalué à 3.
contrairement à toi, je pense que les spés L sont plus compétentes que chatgpt :p
la preuve, j'ai fait une Math Sup/spé parce que bon l'histoire-géo j'étais une burne finie (collé pour avoir fait des maths en cours d'histoire… bah j'ai dû faire des maths pendant 2 h o_O même ma prof' de math de première m'a collé pour n'avoir pas rédigé l'exo trivial que j'ai fait au tableau, bah 2 h de maths de plus :p)
j'apprenais l'informatique à mon prof' de math en 4ème ce n'est qu'en prépa que j'ai éprouvé mes limites à reprendre mes enseignants (ils avaient un peu plus de répondant, vu la prépa que j'ai suivie, cf. un autre de mes commentaires :D)
[^] # Re: sommes nous davantage que des synthétiseurs textuels ?
Posté par hugotrip . Évalué à 1.
Je tiens à te rassurer, c'était une boutade (mais ratée donc).
Je voulait simplement souligner que le domaine d'utilisation de ChatGPT est plutôt sur des tâches littéraires que sur des tâches scientifiques.
[^] # Re: sommes nous davantage que des synthétiseurs textuels ?
Posté par BAud (site web personnel) . Évalué à 3.
chatgpt<, sors de ce corps !
[^] # Re: sommes nous davantage que des synthétiseurs textuels ?
Posté par Faya . Évalué à 4.
Test GPT4 :
[^] # Re: sommes nous davantage que des synthétiseurs textuels ?
Posté par sobriquet . Évalué à 1.
Merci pour le partage !
[^] # Re: sommes nous davantage que des synthétiseurs textuels ?
Posté par hugotrip . Évalué à 2.
Ouais, il est vraiment pas mal celui-là car en plus d'être correct, il est original : car il utilise un raisonnement plus abstrait (les vitesses combinées, terme que je comprend mais que ni moi, ni Google ne connaissent à priori), donc moins probable : Tu sais si ChatGPT4 utilise un plugin scientifique ?
À titre perso, ce qui me plaît particulièrement dans cette résolution c'est que la notion de vitesses combinées simplifie le problème élégamment, mais je ne l'aurais pas présenté comme ça : d'un point de vue physicien, après la première étape (distance parcourue par le 1er train jusqu'au départ du 2nd ), cela revient a effectuer un changement de référentiel : on étudie alors le mouvement vu du 2nd train : combien de temps met alors le 1er , avec une vitesse relative de 180 km/h pour parcourir les 150 km qui le sépare du 2nd. C'est tout.
[^] # Re: sommes nous davantage que des synthétiseurs textuels ?
Posté par Faya . Évalué à 3. Dernière modification le 12 mai 2023 à 14:56.
C'est aussi ce que je me suis dit. Je ne suis guère matheux mais je trouve la méthode de résolution intéressante.
Pas à ma connaissance. J'ai juste utilisé le playground, j'ai ajouté "You are a maths teacher" dans le rôle "system" (j'aurais peut-être dû le mettre en français d'ailleurs) et j'ai directement collé le problème soumis par hugotrip. Ironiquement, si j'abaisse le paramètre
températuredu modèle de0.9à0(c'est une valeur entre 0 et 1, censée contrôler l'incertitude et sa propension à inventer), il me redonne un résultat faux. Je le remonte à0.5et il me redonne le bon raisonnement. Mais gpt4 fais souvent mieux gpt3.5 ouais. Et dans tous les cas les problèmes de trains qui se croisent sont légions sur le net donc il n'a assurément pas eu à faire preuve de logique mais plutôt remplacer des valeurs dans des textes de solutions qui font partie de son corpus. Il faudrait un problème plus original pour tester sa logique (spoiler : il n'en a sûrement pas).[^] # Re: sommes nous davantage que des synthétiseurs textuels ?
Posté par GaMa (site web personnel) . Évalué à 2.
Défi relevé :
Roger est un homme comme les autres, mais son métier est particulier, il est pilote de fusée.
Il vit sur la troisième génération station spatial internationale (ISS3) qui orbite autour de la planète Vit3km (une planète de la voix lactée, colonisé par les humains à l'époque où se passe cette histoire). Vit3km à un diamètre de 10000km et orbite autour de son soleil en 200 rotations (appelées jours).
La semaine dernière il a rencontré XFgS5H, un robot qui vit sur la planète ParHeure (diamètre de 12000km).
Malgré que XFgS5H soit un robot, Roger en est totalement tombé amoureux (en même temps, il faut dire que les intelligences artificielles ont beaucoup progressé depuis la période de ChatGPT4).
Ils décident de se rencontrer à nouveau, sur la planète LAmourFou (diamètre de 5000km), une planète qui rend follement amoureux toute personne (humaine ou non) à sa surface. Beaucoup de gens partent en we en amoureux là-bas.
La distance Vit3km-ParHeure est de 5000 millions de kilomètres.
La distance Vit3km-LAmourFou est de 4000 millions de kilomètres.
La distance ParHeure-LAmourFou est de 4500 millions de kilomètres.
La station ISS3 est à une altitude de 200km au dessus de la surface moyenne de Vit3km et orbite autour de Vit3km en 30h.
La fusée de Roger est équipée d'un réacteur un peu ancien avec une poussée relativement faible. Elle a une accélération de 20km/h/h.
La fusée de XFgS5H est plus récente et son accélération est de 40km/h/h.
Lorsque Roger décollera, il le fera au bon moment pour avoir une vitesse initiale la plus avantageuse (en utilisant la vitesse de ISS3).
XFgS5H lui, décollera directement de sa planète.
Dans les deux cas, ils accéléreront constamment au début et, au bon moment, ils inverseront la poussé de leur réacteur pour arriver avec une vitesse nulle à la surface de LAmourFou.
Ils veulent arriver en même temps à la surface de LAmourFou. En ignorant la gravité des planètes, qui doit partir en premier et combien de temps le deuxième doit attendre après le départ du premier avant de décoller à son tour ?
(PS, je n'ai absolument pas essayer de résoudre cet exercice)
(PS2, on peut changer l'énoncé pour avoir une vitesse constante au lieu d'une accélération si ChatGPT a du mal avec les intégrales, ça serait quand même un exercice intéressant)
Matthieu Gautier|irc:starmad
[^] # Re: sommes nous davantage que des synthétiseurs textuels ?
Posté par Moonz . Évalué à 2.
Moi : Tu n’as pas pris en compte que les voyageurs doivent décélérer pour pouvoir se poser en toute sécurité.
Moi : Roger part de la station ISS3, qui a déjà une vitesse initiale (de par son orbite)
Flemme de vérifier s'il a encore oublié un élément de l'énoncé / si ses calculs sont corrects.
[^] # Re: sommes nous davantage que des synthétiseurs textuels ?
Posté par GaMa (site web personnel) . Évalué à 2.
C'est complétement lunaire, la première résolution de ta discussion donne une estimation mais quand tu lui dit qu'ils doivent décélérer (et donc prendre plus de temps), il donne une réponse plus courte.
Moi j'ai eu cette conversation : https://pastebin.com/wnCM43K8
Il semble encore plus dans les choux. La compréhension du problème est bien moins bonne. Le comble il trouve que Roger a un temps de parcours plus long que XFgS5H et en déduit que XFgS5H doit partir avant ….
Et pour savoir combien de temps d’écart, il refait un calcul complexe (et complétement faux) au lieu de faire une soustraction.
Sa deuxième estimation me donne une durée de trajet de moins de 2 mois alors qu'avant il était en années…
Je suis sur la version gratuite de chatGPT et j'ai droit qu'à 10 questions donc je peux pas aller plus loin (mais pas sûr d'avoir envie de toutes façons)
Matthieu Gautier|irc:starmad
[^] # Re: sommes nous davantage que des synthétiseurs textuels ?
Posté par sobriquet . Évalué à 1.
Tu as testé avec ChatGPT 3.5 ou ChatGPT 4 ?
[^] # Re: sommes nous davantage que des synthétiseurs textuels ?
Posté par hugotrip . Évalué à 2.
(Je réponds un peu tard, désolé)
Ça pourrait effectivement expliquer "l'improbabilité" de la réponse de ChatGPT, qui est ici d'un niveau plus élevé (d'un point de vue de l'abstraction de la méthode, avec des vitesses combinées)
Néanmoins, je déplore que le côté "teacher" n'ai été pris en compte qu'au niveau connaissance, et pas au niveau pédagogie, car la réponse donnée ne facilite pas "la généralisation".
Après peut-être que vu du corpus utilisé par ChatGPT, tous les profs de maths ne sont pas pédagogues….
[^] # Re: sommes nous davantage que des synthétiseurs textuels ?
Posté par hugotrip . Évalué à 2.
Merci pour l'essai.
Je serais plus indulgent que BAud, car ma déformation professionnelle me fait voir dans ses erreurs des erreurs d'élèves :
Et ça, ça me fait penser au bachotage, ou tu fais bosser les élèves sur un type d'exercices, et dès qu'on sort de ce type, ça déraille…
D'ailleurs, je n'ai pas fait exprès de faire partir les trains à deux instants différents. J'aurais donné le même temps de départ, on aurait dit qu'il s'en sortait bien.
Là aussi je me vois à corriger des copies et à me dire que je ne pensais pas perturber mes élèves en prenant tel énoncé.
J'aurais donc tendance à penser que c'était une sacrément bonne intuition de partir sur un programme qui cherche juste à prévoir le mot suivant (c'est-à-dire le plus probable selon la chaîne de mots précédents - de plus en plus grande avec les versions supérieures de ChatGPT).
Après je dirai que là, il est clairement possible qu'on aie fabriqué quelque chose qui s'approche grandement de disons1 notre aire du langage.
je mets beaucoup de pincettes là-dessus, car n'étant pas spécialiste, je ne pourrai dire si c'est exactement aire du langage, ou peut-être juste une sous fonction ou plus, ou peut-être seulement une grosse connerie ? ↩
[^] # Re: sommes nous davantage que des synthétiseurs textuels ?
Posté par BAud (site web personnel) . Évalué à 1. Dernière modification le 11 mai 2023 à 04:38.
c'est pourtant ce que je mets en exergue : pas ta déformation professionnelle mais bien des erreur que tout élève ne ferait pas
et pourtant j'étais un bon pipoteur face à mes colleurs de Ginette — bon en interne, on parlait plutôt, l'ami de Mickey, de la BJ :p — la plupart à l'X… Wejdi, mon co-collé m'a souvent sauvé les miches en collant le colleur :p spa pour rien que j'ai fini Piston :D (bon, là c'est la prof' de réseau qui adorait que je ne vienne pas à son cours, elle a tout de même réussi à me mettre 17 à une interro que je ne lui ai jamais rendu, elle ne m'avait mis que 15 par défaut o_O)
[^] # Re: sommes nous davantage que des synthétiseurs textuels ?
Posté par Claude SIMON (site web personnel) . Évalué à 2.
Énoncé :
Soit f:R→R telle que ∀x∈R:f(7x−3)=x+80. Calculer la dérivée de f.Réponse avec GPT-3.5 :
Je lui ai demandé de déterminer spécifiquement f(x), et après 4 réponses incorrectes :
Ouf !
Il a l'air d'apprendre, car avec un nouveau chat :
Je me demande si la version 4 aurait tout de suite trouvé la bonne réponse…
Pour nous émanciper des géants du numérique : Zelbinium !
[^] # Re: sommes nous davantage que des synthétiseurs textuels ?
Posté par Faya . Évalué à 2.
Non :
[^] # Re: sommes nous davantage que des synthétiseurs textuels ?
Posté par LaurentClaessens (site web personnel) . Évalué à 3.
Qui peut le plus ne peut pas spécialement le moins. J'ai testé
«Combien de dal dans 34 dl ?».
ChatGPT (la version gratuite) a correctement compris que je parlais de décalitres et de décilitres, mais s'est planté d'un facteur 10 dans sa conversion.
Donc, certes, il est capable de choses avancées, mais il est aussi capable de se vautrer dans des choses basiques.
C'est pour ça que j'aime bien utilise chatGPT pour faire de la programmation. D'une part il n'est pas mauvais, mais surtout il y a un moyen évident d'immédiatement vérifier que ce qu'il raconte est correct.
Si il me dit qu'il y a 0.34dam dans 34dl, je n'ai pas vraiment de moyens de vérifier autrement qu'en faisant complètement l'exercice moi-même.
Par contre si je lui demande ce convertir une jpg en noir et blanc en python et qu'il me répond
cv2.imcvt("image.jpg", 2)
(de mémoire un truc du genre)
Ben là je peux immédiatement vérifier si ça marche.
[^] # Re: sommes nous davantage que des synthétiseurs textuels ?
Posté par hugotrip . Évalué à 2.
Alors en fait il semblerait qu'il puisse faire des choses vraiment pas mal, mais il doit déléguer à un plugin, par exemple Wolfram.
[^] # Re: sommes nous davantage que des synthétiseurs textuels ?
Posté par GG (site web personnel) . Évalué à 2.
Effectivement, il ne restera que les gros.
Pourquoi bloquer la publicité et les traqueurs : https://greboca.com/Pourquoi-bloquer-la-publicite-et-les-traqueurs.html
# « système prédictif »
Posté par Denis Dordoigne . Évalué à 2.
Si j'ai bien compris l'outil dont il est question ne fait que de l'analyse predictive, donc je le qualifierais simplement de prédictif.
Membre de l'april, et vous ? https://april.org/adherer -- Infini, l'internet libre et non commercial : https://infini.fr
[^] # Re: « système prédictif »
Posté par BAud (site web personnel) . Évalué à 4. Dernière modification le 08 mai 2023 à 18:44.
piochée dans un corpus douteux :/ même mon aspirateur est sans doute plus prédictible :-)
[^] # Re: « système prédictif »
Posté par Denis Dordoigne . Évalué à 5.
L'humanité n'est-elle pas elle-même un corpus douteux ?
Membre de l'april, et vous ? https://april.org/adherer -- Infini, l'internet libre et non commercial : https://infini.fr
[^] # Re: « système prédictif »
Posté par cg . Évalué à 5.
J'en doute.
Suivre le flux des commentaires
Note : les commentaires appartiennent à celles et ceux qui les ont postés. Nous n’en sommes pas responsables.