Tero Karras, Samuli Laine et Timo Aila travaillent chez nVidia, particulièrement sur les réseaux antagonistes génératifs (en Anglais, Generative adversarial networks, GANs).
Un GAN est un modèle génératif où deux réseaux sont placés en compétition dans un scénario de théorie des jeux. Le premier réseau est le générateur, il génère un échantillon (ex. une image), tandis que son adversaire, le discriminateur essaie de détecter si un échantillon est réel ou bien s'il est le résultat du générateur. (Wikipedia)
Une des applications, des "avatars" à la demande: L'intelligence artificielle utilisée pour générer des visages de personnes qui n'existent pas.
Le site générateur de visages: https://thispersondoesnotexist.com/
La vidéo, an Anglais: https://www.youtube.com/watch?v=kSLJriaOumA
# Vallée de l'étrange
Posté par byrad . Évalué à 4. Dernière modification le 17 février 2019 à 20:35.
J'ai fait défiler pas mal de visages et le résultat est vraiment dérangeant.
Certains visages ont beaucoup d'artefacts mais d'autres sont beaucoup plus réalistes.
Mais, c'est justement ceux qui sont le plus réalistes qui sont dérangeant.
On est en pleine vallée de l'étrange.
[^] # Re: Vallée de l'étrange
Posté par vv222 . Évalué à 8.
Le générateur donné en lien me donne au contraire l’impression qu’on est en train de sortir de cette vallée.
J’ai même imaginé un instant que l’info donnée sur le journal est bidon et que j’avais affaire à de vrais visages ;)
[^] # Re: Vallée de l'étrange
Posté par arnaudus . Évalué à 2. Dernière modification le 18 février 2019 à 09:25.
Exactement pareil, j'imagine que quand on ne sait pas que c'est un générateur, on ne peut pas le deviner. Étrangement, les artefacts semblent se trouver plutôt dans les "décorations" (lunettes, boucles d'oreilles…). Par contre, je trouve qu'il y a une sorte de surreprésentation de "drôles de tronches", des visages qui, sans être anormaux, sont plutôt rares dans la population. Je me serais attendu, au contraire, à avoir que des tronches normales qui ne sortent pas de l'ordinaire.
Le mieux serait d'afficher deux images, une d'un vrai visage et une d'un visage généré, et de demander de cliquer sur le vrai. On verrait ainsi à quel point l'algorithme peut tromber le client.
[^] # Re: Vallée de l'étrange
Posté par Grunt . Évalué à 10.
Je pense que tu dois vivre et travailler à des endroits où les tronches sont davantages normées que dans la moyenne de la population.
Si les visages de ce générateur sont beaucoup plus disparates que ceux utilisés dans la pub ou dans les médias de l'état/des multinationales, ils sont plus proches des tronches qu'on voit en arrivant sur un chantier, en croisant les gens qui font le ménage, en entrant dans un bar, en faisant les courses dans un magasin discount… bref les tronches que je vois tous les jours dans un milieu populaire.
Au contraire, j'ai même lu quelqu'un reprocher au générateur d'être trop "normé", en termes de tranche d'âges, de handicaps, de cicatrices.. par rapport à un échantillon d'humanité qui serait tiré au hasard.
THIS IS JUST A PLACEHOLDER. YOU SHOULD NEVER SEE THIS STRING.
[^] # Re: Vallée de l'étrange
Posté par arnaudus . Évalué à 3.
En même temps, je crois que je n'ai jamais eu de noirs, par exemple. Donc le truc est clairement biaisé, mais en même temps, je ne suis pas sûr du tout que l'objectif était de donner des portraits avec une probabilité proportionnelle à ce qu'on trouve dans la population.
J'ai fait défilé une vingtaine d'images et en effet, j'ai eu peu de "drôles de tronches". C"était probablement un effet d'échantillonnage lors de ma première série.
[^] # Re: Vallée de l'étrange
Posté par woffer 🐧 . Évalué à 3.
Moi, j'en ai eu au moins 1 sur une trentaine de visages demandés.
[^] # Re: Vallée de l'étrange
Posté par Foutaises . Évalué à 5.
Qu'est-ce qui te fait penser que les noirs n'existent pas ?
[^] # Re: Vallée de l'étrange
Posté par eggus . Évalué à 3.
Pour les infos bidons il y a des softs qui à partir d'images d'une personne permettent de lui faire dire n'importe quoi y compris expressions du visage.
Ca date un peu, j'avais vu des démos avec Bush. J'imagine que la technique s'est grandement améliorée depuis.
Je me rapelle qu'ils avaient du mal avec Poutine car ils avaient peu d'images de lui avec des expressions faciales différentes (pokerface).
[^] # Re: Vallée de l'étrange
Posté par Faya . Évalué à 4.
Deepfakes : https://www.journaldugeek.com/dossier/deepfake-facile-de-creer-videos-truquees-credibles/
Reddit avait déjà été submergé de fausses vidéos pornos plus vraies que nature l'année dernière. Autre exemple plus comique : Jennifer Lawrence as STEVE BUSCEMI At The Golden Globes DEEPFAKE
[^] # Re: Vallée de l'étrange
Posté par Xavier Maillard . Évalué à 5.
Si on les fait des defiler un peu rapidement, on a vraiment l'impression de voir de vraies personnes. Si on prend bien le temps de les examiner, effectivement, on remarque les petits details qui ne trompent pas.
Neanmmoins, c'est surprenant d'avoir une telle qualite. J'imagine les debouches pour nos complotistes de la fake news et autres manipulateurs (politiciens).
Je ne veux pas sombrer dans le pessimisme mais mon petit doigt me dit que cette technologie ne risque pas d'etre utilisee a bon escient…
# Comment "démasquer" un faux visage
Posté par Zhao . Évalué à 10. Dernière modification le 17 février 2019 à 22:51.
Pour ceux que ça intéresse, il existe quelques méthodes qui marchent bien pour détecter que ce n'est pas une vraie photo. Certains détails ne "fonctionnent pas" :
C'est vraiment impressionnant de voir l'évolution de ces technologies d'année en année.
[^] # Re: Comment "démasquer" un faux visage
Posté par liberforce (site web personnel) . Évalué à 5.
C'est surtout effrayant compte tenu du risque d'utilisation de ces technologies pour faire de la désinformation de masse. Si tu n'es plus capable de garantir que ce que tu vois est la réalité, comment les gens peuvent faire confiance à une information plutôt qu'à une autre. On a déjà vu des images avec une IA qui modifie une scène pour changer la saison durant laquelle elle est filmée. Si on arrive à plaquer le visage d'une personne fictive sur celui sur un individu réel, ça va devenir difficile de se la jouer Saint Thomas…
[^] # Re: Comment "démasquer" un faux visage
Posté par Goffi (site web personnel, Mastodon) . Évalué à 10.
C'est entre autres à ça que servent les journalistes. C'est un milieu en grande difficulté, et il y a des choses à reprocher à nombre de médias, mais ça reste un métier essentiel, et un de leur rôle principal est de vérifier les informations (ce qui est peu compatible avec l'actuelle culture de l'urgence).
[^] # Re: Comment "démasquer" un faux visage
Posté par liberforce (site web personnel) . Évalué à 9. Dernière modification le 18 février 2019 à 11:24.
Le journaliste se fie aux sources. Quand les sources ne sont pas falsifiées, c'est déjà difficile d'avoir du journalisme de qualité. Si les sources sont falsifiées, je te laisse imaginer…
[^] # Re: Comment "démasquer" un faux visage
Posté par Goffi (site web personnel, Mastodon) . Évalué à 8.
Un vrai bon journaliste, ça recoupe les informations, ça va sur le terrain, et ça a une base de contacts fiables.
Un des problèmes principaux, c'est que les difficultés financières entraînent une augmentation des cadences, et les journalistes font de plus en plus de choses dans l'urgence, et en multipliant les rôles (papier + photo + correction par exemple, là où avant il y avait 3 personnes différentes), ça laisse moins de temps pour faire correctement la vérification.
En plus de ça il y a l'expérience qui devrait aider à démêler le vrai du faux.
[^] # Re: Comment "démasquer" un faux visage
Posté par Anonyme . Évalué à 4.
papier +
photogoogle street view + correctioncomme ca de ton travail même plus besoin de dépêcher qqun ou de demander un un collègues en région de faire la photo
[^] # Re: Comment "démasquer" un faux visage
Posté par Philippe F (site web personnel) . Évalué à 6.
Le problème, c'est que les gens ne se fient plus aux journalistes…
La plupart des informations sont maintenant véhiculées par les réseaux sociaux, seule la première ligne de l'article est lue, l'émotion est le seul angle d'analyse de ce qui est dit. Si en plus l'information va dans le sens du poil du lecteur, il y a encore moins d'analyse qui est faite.
Saloperie de société de moutons !!!
[^] # Re: Comment "démasquer" un faux visage
Posté par fearan . Évalué à 10.
parce que nos media officiels nous abreuvent de vrais nouvelle?
Si les gens cherchent ailleurs, c'est peut être du a ces derniers qui depuis quelques temps ne font que de la propagande; ils font exactement ce que l'on reproche a rt.
tu veux qu'on parle des chaines d'info en continu?
Il ne faut pas décorner les boeufs avant d'avoir semé le vent
[^] # Re: Comment "démasquer" un faux visage
Posté par arnaudus . Évalué à 2. Dernière modification le 19 février 2019 à 16:48.
On peut éventuellement reprocher aux médias "officiels" d'avoir une ligne éditoriale biaisée (parler de telle chose plutôt que telle autre), ou éventuellement d'avoir du retard à l'allumage sur certains sujets (parce que leur intérêt a été sous-estimé), voire d'être assez nombriliste (les sujets qui touchent les journalistes sont plus souvent évoqués), mais de là à dire qu'ils nous abreuvent de fausses nouvelles, il ne faut pas déconner. Quel est le taux d'erreur dans ce qui est raconté au JT des grandes chaînes? 1%? peut-être moins, même.
Ce qui est avancé sans preuve peut être nié sans preuve, d'une part. Typiquement, le mouvement des gilets jaunes a été monté en mayonnaise de manière quasiment frénétique par les chaines d'info continue avant même les premières manifestations, et la place que prennent ces manifs réunissant quelques dizaines de milliers de personnes toutes les semaines est assez disproportionnée (en particulier, les grandes manifs syndicales regroupent souvent à Paris plus de gens que de gilets jaunes sur toute la France, et elles ont droit à 15 secondes dans les JT). Et d'autre part, il ne faut pas confondre la propagande avec ce que tu n'as pas envie d'entendre. Je suis complètement d'accord que ce qui est dit à la télé, d'une manière générale, est compatible avec l'idéologie politique dominante en Europe (une vision plutôt libérale économiquement et socialement). Mais c'est aussi (encore?) l'idéologie majoritaire dans la population, ça n'a rien d'illégitime.
Je crois qu'il veut juste dire que les mouvements populaires ne sont basés sur aucune analyse politique rationnelle et ne sont basés que sur des émotions: la peur (du déclassement, de la pauvreté), la souffrance, l'envie aussi (je ne vois pas pour quelle autre raison on prendrait du plaisir à cramer des voitures de luxe), la frustration… Ces émotions et les réactions qu'elles suscitent sont peut-être légitimes, mais ça reste très primaire en terme d'analyse, et les revendications des gilets jaunes, quand ils arrivent à se mettre d'accord, sont hétéroclites, souvent paradoxales, ou bien curieusement très convenues. Quand une partie substantielle des gens qui manifestent pensent que leurs problèmes viennent de l'immigration, ou que l'attentat de Strasbourg a été commandité par l'État, bah ça ne donne pas très envie de creuser un peu plus leur analyse politique et économique…
[^] # Re: Comment "démasquer" un faux visage
Posté par fearan . Évalué à 6. Dernière modification le 19 février 2019 à 18:33.
plus loin une double page dans un journal (Le monde)
https://www.nouvelobs.com/rue89/rue89-medias/20080822.RUE5450/bhl-n-a-pas-vu-toutes-ses-choses-vues-en-georgie.html
plus globalement la reprise quasi systématique de la propagande gouvernementale, nous servant leur discours comme si c'était la bonne parole; pas de recul, pas de critique. Alors oui y a des exceptions, lorsque c'est trop gros (pseudo augmentation de smic)
comme le RIC?
Il ne faut pas décorner les boeufs avant d'avoir semé le vent
[^] # Re: Comment "démasquer" un faux visage
Posté par Kerro . Évalué à 10.
Je dirais 90 %.
Dès qu'ils parlent d'un sujet que je connais, c'est totalement n'importe quoi. Aucune raison que ce soit différent pour le reste.
[^] # Re: Comment "démasquer" un faux visage
Posté par j_m . Évalué à 10.
D'après Bourdieu c'est la même chose quand ils parlent d'un sujet un peu sociologique. Et même quand ils interviewent des experts, si le gars n'est pas aguerris à la télévision il aura du mal à expliquer quelque chose tellement les questions sont à côté de la plaque.
Quant aux experts qui s'expriment tous les jours sur les sujets d'actualité, ce sont des guignols.
Bourdieu sur la télévision
[^] # Re: Comment "démasquer" un faux visage
Posté par Nicolas Boulay (site web personnel) . Évalué à 9.
Comme disait l'autre, la plus part des fake news sont des faux grossiers, et un nombre très important de personnes tombent de dans, pas besoin de deep fake pour ça.
"La première sécurité est la liberté"
[^] # Re: Comment "démasquer" un faux visage
Posté par dj_ (site web personnel) . Évalué à 6.
Une journaliste indienne a eut son visage collé sur une video porno pour faire penser à une sextape
[^] # Re: Comment "démasquer" un faux visage
Posté par Anonyme . Évalué à 4.
Oui c'est la nouvelle mode des fake porn, c'est loin d'être le seul exemple.
[^] # Re: Comment "démasquer" un faux visage
Posté par barmic . Évalué à 4.
J'avoue que les oreilles sont régulièrement ratées. Je ne m'en était pas rendu compte avant que tu ne mette le doigt dessus.
[^] # Re: Comment "démasquer" un faux visage
Posté par Thomas Douillard . Évalué à 3.
J’ai l’impression qu’il y a des problèmes d’ages aussi, genre un visage de bébé avec une bouche d’adulte ou un enfant avec une peau trop ridée, par ex.
[^] # Re: Comment "démasquer" un faux visage
Posté par Anonyme . Évalué à 4.
Oui parfois ça fonctionne pas du tout mais après des jeunes avec des rides d'expression et des adultes avec un visage enfantin ça existe.
Peut-être aussi que le fait de savoir d'avance que c'est un portrait artificiel pousse inconsciemment à davantage chercher l'erreur. En art figuratif, il y a un biais assez commun de penser qu'une pose, une morphologie ou un éclairage inhabituel est une représentation fantaisiste ou une reproduction maladroite de la réalité, alors qu'en photo on remet moins facilement en cause la véracité de certaines choses inhabituelles (même si c'est de moins en moins le cas depuis l'arrivée massive de la retouche numérique).
# Comment être sûr qu'un visage n'existe pas ?
Posté par Eh_Dis_Mwan . Évalué à -10.
S'il n'existe pas, il y a problème dans l'algo, si aucun problème dans l'algo, alors elle existe, a existé ou existera au vu du nombre d'humain ayant existé/existent/existeront sur Terre
Dis autrement, comment savent ils que cette personne n'existent effectivement pas ?
[^] # Re: Comment être sûr qu'un visage n'existe pas ?
Posté par Lutin . Évalué à 5.
C'est une manière de dire que le visage est généré par ordinateur.
[^] # Re: Comment être sûr qu'un visage n'existe pas ?
Posté par arnaudus . Évalué à 7. Dernière modification le 19 février 2019 à 09:21.
C'est avec ce genre de gloubiboulga sémantique qu'on arrive à défendre l'argument ontologique…
Quand bien même une image générée ressemblerait à quelqu'un d'existant, ça ne changerait pas le fait que les images ont bien été crées indépendamment de l'existence de cette personne.
[^] # Re: Comment être sûr qu'un visage n'existe pas ?
Posté par Eh_Dis_Mwan . Évalué à -2.
Bonjour,
Donc "visage synthétique" seraient plus à même d'être vrai, AMHA.
Le titre est assez effrayant quand même
[^] # Re: Comment être sûr qu'un visage n'existe pas ?
Posté par arnaudus . Évalué à 3.
Je ne comprends toujours pas le problème avec le titre. Ces visages n'existent pas plus que les visages imaginés par un dessinateur de BD, ou générés par des graphistes en images de synthèse. Ils n'existent pas de la même manière que les personnages de fiction n'existent pas. La différence, c'est que jusqu'à présent, le visage des personnages de fiction étaient issus de l'imagination d'un dessinateur, alors que ces visages-là, en quelque sorte, sont issus de l'«imagination» d'un ordinateur. En plus, la qualité des images sont telles qu'elles peuvent faire illusion.
Après, on peut prendre l'angle qu'on souhaite pour se faire peur ou non. Si on veut se rassurer, on ne parle que d'un algorithme qui donne des visages réalistes à partir de consignes (abstraites et multivariées, mais on s'en fout). Si on disposait d'un programme qui générait un visage à partir d'instructions telles que «un homme d'une cinquantaine d'années avec des lunettes et un nez court», ça ne fait pas tellement peur, c'est juste une version réaliste d'un «Monsieur patate». Si on veut se faire peur, on parle d'intelligence artificielle, et du fait que l'algorithme a appris ce qu'était un visage à partir d'échantillons de photos et est capable d'en recréer à volonté. Mais bon, dans toutes les prédictions catastrophistes qu'on peut lire, aucune d'entre elles n'est dûe à l'intelligence artificielle, on ne parle que de l'utilisation que des êtres humains mal intentionnés pourraient en faire. Honnêtement, j'ai quand même plus peur de ce que quelqu'un pourrait faire d'une bombe à neutrons que d'un algorithme qui génère des visages…
[^] # Re: Comment être sûr qu'un visage n'existe pas ?
Posté par WrathOfThePixel . Évalué à 4.
Ça n'est pas parce qu'Indiana Jones ressemble comme deux gouttes d'eau à Harrison Ford qu'on peut dire qu'il existe.
[^] # Re: Comment être sûr qu'un visage n'existe pas ?
Posté par nico4nicolas . Évalué à 3.
Les gouttes d'eau se différencient lorsque la température de l'air est inférieure à 0°C.
[^] # Re: Comment être sûr qu'un visage n'existe pas ?
Posté par kantien . Évalué à 3. Dernière modification le 20 février 2019 à 11:16.
D'autant que, il est nécessaire de le rappeler, Indiana c'était le nom du chien ! Mais ils ont peut être pris aussi des images de chiens pour alimenter leur algorithme… :-D
Sapere aude ! Aie le courage de te servir de ton propre entendement. Voilà la devise des Lumières.
[^] # Re: Comment être sûr qu'un visage n'existe pas ?
Posté par Benoît Sibaud (site web personnel) . Évalué à 5.
Et une photo de Charles Bronson est une image de quelqu'un qui n'existe pas non plus.
[^] # Re: Comment être sûr qu'un visage n'existe pas ?
Posté par Big Pete . Évalué à 2. Dernière modification le 20 février 2019 à 14:19.
Et si ça se trouve, c'est une photo de Jean Paul Bronson …
Faut pas gonfler Gérard Lambert quand il répare sa mobylette.
[^] # Re: Comment être sûr qu'un visage n'existe pas ?
Posté par Deuterium . Évalué à 10.
Plus prosaïquement, comment être sûr qu'il n'y a pas de phénomène d'overfitting ? Où l'algorithme renverrait essentiellement une vraie personne tirée au hasard dans son corpus, légèrement altérée ?
Suivre le flux des commentaires
Note : les commentaires appartiennent à celles et ceux qui les ont postés. Nous n’en sommes pas responsables.