Bonjour les amis,
C’est pas moi, c’est lui, …
(C’est malheureusement tout chez Google)
En 2 mois, Google a licencié ses deux co-directrices de l'éthique des IA, Timnit Gebru et Margarett Mitchell. Pendant ce temps, Google a aussi développé, et probablement bientôt déployé, des algorithmes entraînés sur d'immenses quantités de données non-sécurisées, de manière extrêmement opaque, ce qui avait été critiqué par les deux co-directrices dans un article de recherche.
Le déploiement précipité d'algorithmes très dangereux sans aucune audit interne ni externe, sur les téléphones de milliards d'humains, me semble absolument terrifiant. Mais le plus effrayant, c'est que cette histoire est complètement ignorée par le grand public, les médias, l'industrie de la tech et le monde académique…
→ https://youtu.be/HbFadtOxs4k
Si on veut arrêter Google dans sa démolition de l’éthique au profit de la course à l’IA, il va nous falloir surveiller avec beaucoup plus d’attention ce que Google fait.
# Boule de neige
Posté par Alecto . Évalué à 9.
Lê produit vraiment du contenu de qualité !
J'espère que cette vidéo va rendre le sujet un peu plus bruyant ! La triste nouvelle a été relayée en France sur les sites spécialisés (par exemple NextInpact), mais une vidéo Youtube va sans doutes toucher un publique différent, donc le problème ne sera peut être plus cantonné au monde de la tech.
[^] # Re: Boule de neige
Posté par Ysabeau 🧶 (site web personnel, Mastodon) . Évalué à 5.
Ça a été relayé aussi récemment dans l'Humanité dimanche qui a consacré un numéro spécial aux GAFAM.
« Tak ne veut pas quʼon pense à lui, il veut quʼon pense », Terry Pratchett, Déraillé.
[^] # Re: Boule de neige
Posté par ckiller . Évalué à 6.
tout les médias en parlent en fait.
https://www.lefigaro.fr/secteur/high-tech/une-deuxieme-chercheuse-en-ethique-renvoyee-de-google-20210220
Même google news https://news.google.com/search?q=google%20ethique&hl=fr&gl=FR&ceid=FR%3Afr
Et ca va totalement dans le story telling des GAFAM bashing, il n'y a aucune crainte d'une quelconque censure.
Bref, il faut comprendre qu'une info met du temps à circuler.
# pessimiste ?
Posté par valvin . Évalué à 10.
Les risques liés à la collecte des données faites par Google (et d'autres) m'inquiètent depuis de nombreuses années.
Croire que leur service éthique est indépendant et dispose d'un pouvoir quelconque me semble dupe.
Oui Google réalise des IA avec les données collectées et sont de plus en plus gigantesques. Et quiconque s'opposera à ça en interne sera sujet a des problèmes. Il s'agit de leur "business model". Qu'il fasse le menage n'a donc rien d'étonnant.
J'ai envie de dire fallait s'inquieter avant et j'imagine que la plupart des lecteurs ici (quoi que?) l'ont fait mais pas le grand public.
Du coup ce qui se passe est le resultat de ces 10 dernières années. Le message le plus important et qu'il faut arreter d'alimenter la machine avec nos données. Mais c'est bien plus facile a dire qu'à faire en 2021.
[^] # Re: pessimiste ?
Posté par antistress (site web personnel) . Évalué à 10.
Pareil. Je me suis dit que je me foutais de cette info qui n'en est même pas une au fond. On commente l'écume mais il faut vider la mer !
[^] # Re: pessimiste ?
Posté par George_abitbol . Évalué à 10.
Personnellement, je serais bien moins optimiste.
Dans ma vie, je ne sais pas si j'ai croisé beaucoup de techos (y compris libristes convaincus) sans compte gmail ou téléphone googleisé ou un compte youtube, un navigateur chrome vanilla (pas chromium) en navigateur principal ou google en moteur de recherche par défaut, voire parfois tout ça à la fois.
[^] # Re: pessimiste ?
Posté par vv222 . Évalué à 10.
Sur LinuxFR même, pourtant pas un repaire du fan-club des GAFAM, tu es donneur de leçons si tu n'utilises pas de téléphone portable. Tu t'attaques à un logiciel libre si tu qualifie Chromium ou VS Code de cheval de Troie. Tu n'as pas besoin de pertinence des résultats si tu utilises un autre moteur de recherche que Google.
[^] # Re: pessimiste ?
Posté par Jean-Baptiste Faure . Évalué à 10.
Oui, le problème c'est que Google communique très bien, en particulier en mettant beaucoup d'argent et de moyens techniques pour soutenir le logiciel libre.
D'autre part beaucoup trop de techniciens se fichent éperdument des conséquences de ce qu'ils construisent pourvu qu'ils s'éclatent en le faisant. Ils sont prêts à vendre leur âme à celui qui leur donnera les moyens de faire joujou, que ce soit avec des IA incontrôlables, des mathématiques financières ou des drones tueurs.
# Directeur de quoi ?
Posté par elf32 . Évalué à 10.
La notion de directeur de l'éthique des IA est déjà suspecte en soi.
[^] # Re: Directeur de quoi ?
Posté par antistress (site web personnel) . Évalué à 10. Dernière modification le 24 février 2021 à 11:54.
C'est une conséquence du libéralisme.
Est-ce aux entreprises d'avoir spontanément de l'éthique ? C'est un contre-sens, ce n'est pas leur raison d'être. Il faut des lois qui encadrent les entreprises dans ce domaine comme dans les autres. Facebook nous fait le même coup, d'ailleurs.
[^] # Re: Directeur de quoi ?
Posté par Quinane . Évalué à -1.
Je dirais plutôt du capitalisme.
En effet, autant demander du lait à un bouc. S'en étonner relève de la naïveté.
Google est et à toujours été un nuisible. Cela n'apparaît que plus clairement à proportion de leur hégémonie.
Les grandes entreprises monopolistiques peuvent tout se permettre ou quasi…et se permettent tout ou quasi.
[^] # Re: Directeur de quoi ?
Posté par Jean-Baptiste Faure . Évalué à 10.
Non, pas toujours et c'est bien là un aspect du problème.
Il ne faut pas oublier que, tout au début de Google, ses fondateurs étaient résolument opposés à la publicité et que le slogan "Don't be evil" n'était pas un leurre. Ce n'est qu'au début des années 2000 qu'ils ont pris un virage à 180 degrés sous la pression des financiers parce qu'il fallait bien rentabiliser l'entreprise. Ils ont très vite compris que les logs de leur moteur de recherche étaient en fait une mine d'or par la connaissance du comportement des utilisateurs qu'ils leurs fournissaient. À partir de là le métier de Google a changé.
Beaucoup de gens qui ont découvert Google à ses débuts restent des nostalgiques de cette époque et n'arrivent pas à reconnaître que Google a complètement changé.
[^] # Re: Directeur de quoi ?
Posté par Quinane . Évalué à 3.
Ils étaient alors eux-mêmes peut-être bien naïfs.
Ils auraient été conséquents, ils auraient libérer le code de l'algo du Page Rank.
[^] # Re: Directeur de quoi ?
Posté par GG (site web personnel) . Évalué à 10.
À l'époque, les résultats du moteur de recherche étaient très pertinents.
On pouvait combiner des opérateurs logiques, et préciser les mots clefs qu'on voulait absolument dans les résultats.
Depuis pas mal de temps, même si on précise qu'on ne veut pas de résultats ayant certains mots-clefs, il y en aura.
Et, à l'inverse, si on veut des pages avec certains mots clefs, ben bien souvent ces mots-clefs sont absents des pages.
Et, et souvent il y a des pages qui sont remontées, et on sait pas trop pourquoi…
Finalement, je me contente de DuckDuckGo, et j'apprends à m'en servir de manière efficace.
Pourquoi bloquer la publicité et les traqueurs : https://greboca.com/Pourquoi-bloquer-la-publicite-et-les-traqueurs.html
[^] # Re: Directeur de quoi ?
Posté par Jehan (site web personnel, Mastodon) . Évalué à 10. Dernière modification le 25 février 2021 à 00:56.
Ben… j'ai connu les débuts de Google et c'était vers cette période, probablement 2 ou 3 ans avant au plus. Je m'en souviens bien, ce sont les années lycée où je découvrais moi-même l'informatique. Un petit coup de Wikipedia me confirme une date de création fin 1998. Donc à part si tu me dis qu'un an et quelques mois, c'est assez pour changer les gens (surtout qu'un an ou 2 dans la vie d'une entreprise, c'est rien), ben ta théorie (des gentils petits fondateurs anti-pub qui se sont fait manger par les méchants financiers) me semble plutôt fantaisiste.
Il m'est plutôt avis que (comme souvent) plein de gens se faisaient une image idyllique de l'entreprise juste parce qu'ils aimaient le produit. Puis plus tard, plutôt de se dire qu'on s'est plantés, on s'imagine une sorte de scénario où les pauvres petits patrons idéalistes se sont fait manger par les vilains financiers. Sauf que dans les faits, les 2 co-fondateurs ont toujours été à divers postes clés de pouvoir (CEO, président…), sont encore tous les deux employés de Google et/ou Alphabet (la nouvelle maison mère), sont membres du conseil d'administration et ont tous deux des parts importantes qui leur permet de peser sur toutes les décisions. Normalement les fondateurs qui sont à contre-courant de l'évolution de leur entreprise se font assez rapidement évincer (il leur reste les parts, mais ils perdent au minimum leur statut d'employé et les postes clés).
On constate le même genre de phénomène d'image positive avec des entreprises comme Free où il y a encore des gens pour défendre l'entreprise comme si c'était une entreprise saine et bienfaisante juste parce qu'elle avait cette image de geek, de liberté et d'outsider. Mais en vrai, quand on regarde le passé de l'entreprise, on se rend compte qu'elle était pareille depuis le début.
De même que Google est l'entreprise assez typique de la Silicon Valley créé par deux jeunes doctorants d'une grande université dans un environnement typique des startups américaines. D'après Wikipedia, ils ont eu immédiatement un financement dès la création de l'entreprise (en 1998) par Sun Microsystems ainsi que des investisseurs privés (dont Jeff Bezos, fondateur d'Amazon), soit un investissement originel de 1 million de dollars dès la création, par des gens qui n'étaient évidemment pas là pour faire dans l'humanitaire. Normalement si vraiment on veut faire des choses bien, on fait attention avec qui on s'associe. C'est trop facile de s'associer avec des hommes d'affaires et grosses entreprises (dont on sait très bien ce qu'ils veulent dès le début) puis après de se défausser "c'est pas nous".
Google a beaucoup bénéficié d'une image "propre" grâce à leur site qui était originellement super simple (une boîte de recherche et c'est tout), ce qui tranchait beaucoup avec les plateformes de l'époque qui avaient des mises-en-page super chargées. Ça faisait un peu le projet propre, simple, sans fioriture, sans arnaque. Encore une fois, on se rend compte que l'image du produit va d'une certaine façon déborder sur les fondateurs ou l'image de l'entreprise (de même encore une fois que la freebox, simple, abonnement pas cher, offre commerciale unique à l'époque donc très claire, aura donné l'impression d'une entreprise "sans bullshit"). En plus, à l'époque Google était un petit outsider face aux anciens géants (IBM…) ou encore aux jeunes géants (Microsoft…), ce qui donne toujours une certaine aura lorsque l'outsider réussit.
Mais ça ne signifie aucunement que Google était une entreprise philanthropique (pas plus que Free), même à ses débuts. Le parcours de Google est au contraire malheureusement totalement classique dans l'univers des entreprises IT américaines à succès.
Quant au coup des fondateurs opposés à la publicité, oui ben je suis sûr que tu dis ça avec une référence (d'ailleurs Wikipedia dit aussi que "Google began selling advertisements associated with search keywords against Page and Brin's initial opposition toward an advertising-funded search engine." et apparemment la référence serait donc un livre sur Google), mais encore une fois c'est facile à dire mais plus dur à assumer quand plus de 20 ans après, ils sont tous les deux encore à la tête de la plus grosse (probablement?) entreprise publicitaire du monde. Je sais pas pouquoi, j'ai du mal à prendre l'affirmation au sérieux. 🙄
Film d'animation libre en CC by-sa/Art Libre, fait avec GIMP et autre logiciels libres: ZeMarmot [ http://film.zemarmot.net ]
[^] # Re: Directeur de quoi ?
Posté par ǝpɐןƃu∀ nǝıɥʇʇɐW-ǝɹɹǝıԀ (site web personnel) . Évalué à 10.
Même juste le dire semble relever de l'oxymore quand on y réfléchit un peu. Après tout, un moteur de recherche n'est-il pas fondamentalement un outil publicitaire ?
Certains distingueront la bonne et la mauvaise publicité. La bonne publicité c'est quand on te montre les choses que tu pourrais souhaiter voir et que d'autres souhaitent montrer. Et la mauvaise, c'est quand on te montre des choses que d'autres souhaitent que tu vois et que tu pourrais souhaiter voir (après tout c'est parfaitement inutile sinon). La frontière est pour le moins ténue.
« IRAFURORBREVISESTANIMUMREGEQUINISIPARETIMPERAT » — Odes — Horace
[^] # Re: Directeur de quoi ?
Posté par Quinane . Évalué à 10.
La bonne ou la mauvaise publicité c'est comme les bons ou les mauvais chasseurs et les bons ou mauvais gratteux des Inconnus.
La publicité est néfaste, par essence, sur internet ou ailleurs . Elle fait perdre du temps, pollue internet, pollue la planète en gaspillant des ressources, parasite l'esprit, espionne, ment. Elle défigure les paysages, enlaidit le métro et les gares.
Elle gaspille des talents. Un ingé travaillant, si mes souvenirs sont bons, pour Criteo (qui a annoncé des licenciements), résumait son boulot, en substance, ainsi : "tout ça pour vendre des slips."
[^] # Re: Directeur de quoi ?
Posté par ǝpɐןƃu∀ nǝıɥʇʇɐW-ǝɹɹǝıԀ (site web personnel) . Évalué à 4.
Peut-être me suis-je fait mal comprendre ? Pour moi la bonne publicité c'est quand, recherchant une information, je peux la trouver.
Exemples : je recherche des "Effective Core Potentials" adaptés à mon problème, et en quelques minutes, je finis par en trouver ; je recherche des informations sur Agathis Australis, et au premier clic je tombe sur l'article qui me permet d'apprendre tout ce que je souhaites savoir ; il me faut des informations sur une class, et en un tour de main, voici toutes ses méthodes qui me sont expliquées ; sans plus d'efforts on m'expose complaisamment les informations me permettant de choisir entre différents modèles d'un objet que je souhaite acquérir…
Pour cela il semble bien indispensable que quelqu'un ait d'abord pensé à rendre public cette information (la fameuse bonne publicité) ; et pour la rendre facile à trouver l'expérience semble indiquer qu'un bon moteur de recherche vaut souvent mieux qu'un classement même très sophistiqué.
« IRAFURORBREVISESTANIMUMREGEQUINISIPARETIMPERAT » — Odes — Horace
[^] # Re: Directeur de quoi ?
Posté par Quinane . Évalué à 2. Dernière modification le 25 février 2021 à 11:02.
Ou alors j'avais mal lu. Merci.
[^] # Re: Directeur de quoi ?
Posté par Jean-Baptiste Faure . Évalué à 3.
Ta définition de "bonne publicité" n'est pas opérationnelle puisque tu peux mettre dedans toute publication d'information. Donc ça n'a aucun intérêt.
Je pense que pour bien raisonner sur la publicité, il faut remplacer le mot par propagande. Ça donne quoi de la "bonne propagande" ?
[^] # Re: Directeur de quoi ?
Posté par ǝpɐןƃu∀ nǝıɥʇʇɐW-ǝɹɹǝıԀ (site web personnel) . Évalué à 4.
On ne saurait mieux formuler la définition de publicité. À ceci près qu'elle ne semble pas mienne. D'après le dictionnaire :
Parfois j'aime revenir au sens étymologique voire antique des mots ; d'autre fois juste celui encore valide dans notre langue suffit à positionner mes propos dans un porte-à-faux intéressant vis-à-vis de la modernité.
« IRAFURORBREVISESTANIMUMREGEQUINISIPARETIMPERAT » — Odes — Horace
[^] # Re: Directeur de quoi ?
Posté par Jean-Baptiste Faure . Évalué à 2.
Mouais, c'est le même coup que vidéoprotection pour dire vidéosurveillance.
https://fr.wiktionary.org/wiki/publicité ; sens n°3
[^] # Re: Directeur de quoi ?
Posté par ǝpɐןƃu∀ nǝıɥʇʇɐW-ǝɹɹǝıԀ (site web personnel) . Évalué à 8.
C’est précisément le mouvement opposé : en oubliant volontairement le sens des mots, en le restreignant à peau de chagrin, en l’autorisant à vriller totalement avec une constante de temps inférieure à une génération, on ouvre la voie à toutes les manipulations de type novlangue. C’est pour ça que Bigbrother, et l’esprit moderne n’aiment pas les dicos et Molière.
« IRAFURORBREVISESTANIMUMREGEQUINISIPARETIMPERAT » — Odes — Horace
[^] # Re: Directeur de quoi ?
Posté par Jean-Baptiste Faure . Évalué à 7.
Ben non, c'est pareil : on fait accepter la vidéosurveillance en l'appelant vidéoprotection. De même on a fait accepter la propagande commerciale en l'appelant publicité, comme si c'était seulement rendre public une information, pour faire oublier tous les aspects de manipulation de la propagande commerciale.
[^] # Re: Directeur de quoi ?
Posté par Gil Cot ✔ (site web personnel, Mastodon) . Évalué à 1.
Ed berné gagne encore :-(
“It is seldom that liberty of any kind is lost all at once.” ― David Hume
[^] # s/tour de main/tournemain/
Posté par Arthur Accroc . Évalué à 6.
Puisque tu déclares plus loin t’intéresser au sens des mots, je te signale la confusion entre tournemain (en un tournemain : en aussi peu de temps qu’il en faut pour tourner la main) et tour de main (savoir faire).
Bon, je te laisse, j’ai encore quelques millions de français à corriger sur ce point (il semble que plus de la moitié de ceux qui utilisent cette expression utilisent la mauvaise formulation)…
« Le fascisme c’est la gangrène, à Santiago comme à Paris. » — Renaud, Hexagone
[^] # Re: Directeur de quoi ?
Posté par antistress (site web personnel) . Évalué à 6.
J’aurais tendance à être d'accord mais je me souviens des catalogues de prix des composants PC des boutiques de la rue Montgallet dans les magazines de hardware informatique avant l'avènement du Web et peut être y a t-il des exceptions… qu'en penses-tu ?
[^] # Re: Directeur de quoi ?
Posté par orfenor . Évalué à 4.
Arrête on va se sentir vieux !
[^] # Re: Directeur de quoi ?
Posté par Jean-Baptiste Faure . Évalué à 6.
Non, pas toujours. Un moteur de recherche devient un outil publicitaire quand ses résultats sont manipulés pour servir les intérêts de quelqu'un d'autre que celui qui fait la recherche.
[^] # Re: Directeur de quoi ?
Posté par El Titi . Évalué à 4.
Centré sur l'utilisateur !
Il nous faut un moteur GPL.
[^] # Re: Directeur de quoi ?
Posté par Stéphane Ascoët (site web personnel) . Évalué à 1. Dernière modification le 03 mars 2021 à 12:25.
Ça existe, ça s'appelle Searx
Antistress: je suis contre toute publicité commerciale, par contre, il faudrait effectivement la remplacer par de l'information: un organisme genre "Que choisir" aurait une armada de personnes pour référencer les ouvertures de commerces, les offres qui valent le coup sans avoir d'impacts trop négatifs et en faire des brochures. On pourrait aussi la remplacer par de la publicité non-commerciale(dans le sens originel du mot, comme débattu ci-dessus) mais je trouve que ça générerait du coup une quantité ingérable d'information non-hiérarchisée.
[^] # Re: Directeur de quoi ?
Posté par Jean-Baptiste Faure . Évalué à 2.
Sérieux ? C'est largement plus qu'il n'en faut pour faire faillite si tu n'as pas les moyens de résister aux injonctions de ton banquier et de tes actionnaires.
L'histoire des débuts de Google est aussi racontée par Shoshana Zuboff dans son livre "L'âge du capitalisme de surveillance".
[^] # Re: Directeur de quoi ?
Posté par Jehan (site web personnel, Mastodon) . Évalué à 10. Dernière modification le 25 février 2021 à 13:07.
Effectivement je me suis mal exprimé, je reprends: "un an ou 2 dans la vie de ces entreprises (ou ce type d'entreprise), c'est rien".
Encore une fois, on parle de ces startups IT qui deviennent des monstres. Il ne faut pas comparer cela à ton boulanger du coin (comme quelqu'un l'avait fait y a quelques jours dans les commentaires d'un autre article). Ton boulanger ne commence pas son activité avec un financement externe d'un million de dollars (avant même la création officielle de l'entreprise d'après Wikipedia!) auxquels s'ajoutent 25 millions de dollars mi-1999 (puis le financement ne va cesser de croître, comme cela se passe toujours avec ces entreprises). Pas plus que la plupart des entreprises avec un modèle entrepreneurial classique.
Non ces entreprises ne meurt pas en 1 ou 2 ans. Elles peuvent passer des années et des années dans le rouge, voire plus de 10 ans (Par ex: Uber, Netflix… que j'avais cité déjà dans un précédent commentaire; en son temps Amazon fut aussi dans le négatif pendant de très nombreuses années). C'est un business model complètement autre et qu'on ne peut pas comparer avec le modèle classique (qui est — j'imagine — celui avec lequel tu compares quand tu me dis ça).
Film d'animation libre en CC by-sa/Art Libre, fait avec GIMP et autre logiciels libres: ZeMarmot [ http://film.zemarmot.net ]
[^] # Re: Directeur de quoi ?
Posté par Jean-Baptiste Faure . Évalué à 3.
Pas d'accord. Le problème est le même pour mon boulanger et pour Google : tu peux continuer dans le rouge tant que quelqu'un est prêt à combler le déficit. Et si les fondateurs de Google avaient refusé d'utiliser les déchets des recherches (Shoshana Zuboff appelle ça le "surplus comportemental") ils auraient fait faillite en 15 jours ou bien auraient été forcés de céder l'entreprise à des dirigeants plus conciliants.
Une fois qu'ils ont compris qu'ils avaient de l'or entre les mains, ils ont commencé à développer tous azimuts des outils "gratuits" destinés à produire ce surplus comportemental. News, Maps, Android,…
[^] # Re: Directeur de quoi ?
Posté par groumly . Évalué à 6.
Pas vraiment. Le boulanger s’il est dans le rouge après son investissement initial, il a mal géré son coup et y’a pas grand chose à faire pour le repasser dans le noir (a part remplacer le boulanger, ou déplacer la boulangerie). Y’a pas un grand intérêt à continuer à investir si ça marche pas.
Une startup va rester dans le rouge la plupart de sa phase startup, jusqu’à leur ipo, qui peut durer des années (5 à 10 ans pour la plupart).
Y’a toujours un grand intérêt à continuer à investir dans une startup qui perd du fric.
Linuxfr, le portail francais du logiciel libre et du neo nazisme.
[^] # Re: Directeur de quoi ?
Posté par groumly . Évalué à 10.
Pourquoi serait ce suspect?
On est face à des révolutions technologiques, qui peuvent être utilisées à très mauvais escient, avec des conséquences dures à prédire (même utilise à bon escient) et des protocoles d’expérimentation qui affectent le mental de personnes, et qui posent de gros problèmes éthiques.
Par exemple, est ce éthique pour Facebook d’ab tester s’ils peuvent influencer l’humeur de leurs utilisateurs en manipulant leur feed?
Autre exemple con, cette femme qui a fait une fausse couche et continuait à se payer les pubs pour les affaires de bébé, et l’a mal vécu. Est ce éthique de faire des pubs ciblées pour tout et n’importe quoi? Ou est ce qu’on met la frontière?
Et j’aborde même pas les problèmes de biais inconscients transmis aux modèles de machine learning.
On a au contraire beaucoup de signe que oui, on a absolument besoin de postes haut niveau dont le boulot est de s’occuper de l’éthique.
Linuxfr, le portail francais du logiciel libre et du neo nazisme.
# ironie
Posté par Anonyme . Évalué à 7. Dernière modification le 24 février 2021 à 11:36.
et peut-être éviter de lui donner son image et son discours sur une plateforme lui appartenant que ce soit pour la video sur youtube ou pour les "script et sources" sur googledoc…
EDIT: "(C’est malheureusement tout chez Google)" oops je n'avais pas compris correctement cette phrase avant de poster, désolé pour la redite
# Késkidi ?
Posté par E3Ms6vyX . Évalué à 7.
J'ai jeté un œil aux sources et à l'article arxiv évoqué dans ce passage :
Une partie des IA de Google a été récemment rendue publique, en janvier 2021, et on y apprend que Google a conçu une IA 10 fois plus grosse que toutes les IA précédentes, avec des bases de données toujours plus grosses, et toujours moins sécurisées.
https://arxiv.org/abs/2101.03961
Si quelqu'un trouve un passage qui explique en quoi les bases de données sont de moins en moins sécurisées dans cet article, je suis preneur.
[^] # Re: Késkidi ?
Posté par YBoy360 (site web personnel) . Évalué à 8.
Perso, j'ai pu voir au moins 30 articles (sans trop chercher) sur le licenciement de Timnit Gebru, dire que tout le monde s'en fout est faux.
Seulement est-ce que ça a réellement un quelconque importance ?
Je pense au contraire qu'on en a largement trop parlé. Pour moi son comportement n'est pas admissible en entreprise, elle devait avoir un salaire de 300-400 K$, elle a été licencier, elle a craché dans la soupe en interne, en diffusant des remarques sur sa hiérarchie, par le canal publique RH. Puis quoi encore Madame la Princesse …
Ce qui me dérange le plus c'est surtout l'affirmation qui la présente comme une "IA expert", hors, à lire ses publications, y a vraiment rien de transcendant que n'aurait pu écrire n'importe qui.
Quitte à taper sur Google autant le faire intelligemment, on parle d'un acteur important de l'écosystème du libre, on a pour autant le droit de le craindre, autant que de le respecter. TG est dans sa guerre, pour moi elle n'a pas les compétences et n'est pas crédible.
[^] # Re: Késkidi ?
Posté par ǝpɐןƃu∀ nǝıɥʇʇɐW-ǝɹɹǝıԀ (site web personnel) . Évalué à 8.
Du point de vue légal son comportement est probablement répréhensible dans la mesure ou il existe un lien de subordination hiérarchique dans une entreprise.
Reste qu'il est aussi questions d'humains et de citoyens, et que de ces points de vue votre propos questionne. Considérez-vous qu'un employé doive s'autoriser à commettre n'importe quelle action qui lui paraisse néfaste pour l'humanité sans même questionner les ordres reçus ? Faites-vous une péréquation entre salaire, et acceptabilité des tâches immorales ?
« IRAFURORBREVISESTANIMUMREGEQUINISIPARETIMPERAT » — Odes — Horace
[^] # Re: Késkidi ?
Posté par pasBill pasGates . Évalué à 7.
Il y a une réalité un peu bizarre depuis quelques années dans les grosses boites US :
Il y a tellement de demande pour les développeurs, AI scientists, … que les boites les traitent avec des pincettes de peur de les perdre. Cela a amené à une plus grande voix des employés en ce qui concerne ce que leur employeur fait. Cela s'est montré avec les employés de plusieurs boites se plaignant publiquement, faisant des pétitions internes, … pour stopper les contrats de leur employeurs avec l'ICE (département en charge d'attraper les immigrants illégaux et les mettre dehors qui a pris des mesures assez cyniques sous Trump) ou en ce qui concerne l'impact sur l'environnement.
A mon avis ce qui est arrivé ici fait partie de cela, elle a simplement essayé de pousser la plainte un peu plus loin que les autres faisaient d'habitude et les dirigeants de Google ont vraiment baclé la manière dont ils ont géré cela.
Ils ont aussi viré sa cheffe qui était de son côté, mais il va y avoir un véritable impact sur Google au niveau recrutement des gens dans l'IA, car les candidats sont rares et ici ont le choix.
[^] # Re: Késkidi ?
Posté par groumly . Évalué à 3.
Ça veut dire quoi dans ce contexte, une base de données non sécurisée?
Linuxfr, le portail francais du logiciel libre et du neo nazisme.
[^] # Re: Késkidi ?
Posté par ǝpɐןƃu∀ nǝıɥʇʇɐW-ǝɹɹǝıԀ (site web personnel) . Évalué à 3.
Je crois que c’est comme dans le cas des collectes de la NSA qui avaient légèrement empiété sur les droits des citoyens US : à force de collecter à tout va, les géants doivent se retrouver avec des bases contenant des informations qu’ils n’ont pas légalement le droit de récupérer.
« IRAFURORBREVISESTANIMUMREGEQUINISIPARETIMPERAT » — Odes — Horace
[^] # Re: Késkidi ?
Posté par E3Ms6vyX . Évalué à 1.
On peut également imaginer que ce soit des bases de données d'apprentissage au sein desquelles il y ait des faux (une photo de chat classifiée comme tigre).
Mais je n'ai rien trouvé de tel dans l'article cité.
[^] # Re: Késkidi ?
Posté par raphael0202 . Évalué à 0.
Ce n'est pas vraiment des bases de données sur lesquels sont entraînés les modèles de Google, plutôt du texte issu de crawl web. Pour le papier cité, ils ont utilisé un dataset issus de common crawl, le C4.
Le problème avec les données textuelles issu du web, c'est qu'on y retrouve de nombreux biais de nos sociétés (sexisme, racisme,…). Ces biais se retrouvent dans les modèles entraînés sur ces données, c'est notamment ce dont parle le papier de Timnit Gebru.
[^] # Re: Késkidi ?
Posté par E3Ms6vyX . Évalué à 0. Dernière modification le 09 mars 2021 à 22:26.
Le C4 en question prétend être nettoyé (cleaned version). Donc les biais devraient être limités ?
# L'éthique c'est l'affaire des gens
Posté par Joris Dedieu (site web personnel) . Évalué à 2. Dernière modification le 26 février 2021 à 15:36.
L'éthique est l'ensemble des conceptions morales d'une personne. L'entreprise n'étant pas une personne elle n'en a pas et ne peut pas en avoir.
Elle a des règles de fonctionnement (qui en général sont peu démocratique), une stratégie de communication, une production, une richesse, une capacité à faire et parfois même un objet…. mais pas d'éthique. Elle est par ailleurs totalement libre de se modifier elle même.
Si on veut que les entreprises cessent de faire n'importe quoi, il faut en modifier les règles de fonctionnement. Par exemple en instaurant un système de contrôle démocratique.
[^] # Re: L'éthique c'est l'affaire des gens
Posté par Gil Cot ✔ (site web personnel, Mastodon) . Évalué à 2.
Je ne sais pas ailleurs, mais dans le droit français, ce n'est pas une personne physique mais une personne morale…
“It is seldom that liberty of any kind is lost all at once.” ― David Hume
[^] # Re: L'éthique c'est l'affaire des gens
Posté par ǝpɐןƃu∀ nǝıɥʇʇɐW-ǝɹɹǝıԀ (site web personnel) . Évalué à 3. Dernière modification le 28 février 2021 à 08:29.
Et cette terminologie ne semble-t-elle pas particulièrement pusillanime ou trompeuse dans le contexte économique qui est le nôtre, non ?
« IRAFURORBREVISESTANIMUMREGEQUINISIPARETIMPERAT » — Odes — Horace
[^] # Re: L'éthique c'est l'affaire des gens
Posté par Gil Cot ✔ (site web personnel, Mastodon) . Évalué à 5.
Peut-être… Je répondais surtout à la phrase d'introduction en faisant remarquer que l'entreprise est bien une personne… et de surcroit morale… Ce qui m'amène à la même conclusion qu'elle doit avoir une éthique…
“It is seldom that liberty of any kind is lost all at once.” ― David Hume
Suivre le flux des commentaires
Note : les commentaires appartiennent à celles et ceux qui les ont postés. Nous n’en sommes pas responsables.