"Mark Surman est un vieux routier des nouvelles technologies, militant d'un internet libre. Ce Canadien préside aujourd'hui la Mozilla Foundation dont l'objectif majeur est l'encadrement de l'Intelligence Artificielle. Il la voit comme un danger si ce travail de réglementation n'est pas fait."
Cette citation rappelle un peu cette idée étrange que les outils sont neutres. Je pourrais faire des parallèles avec les armes à feu, les voitures ou la conception d'un logiciel pour mettre en évidence l'ineptie d'une telle conception, mais je ne crois pas que ce soit nécessaire.
Ce qui est étrange, c'est dans le reste de l'entretien, c'est qu'il défend une autre optique : mettre en place des instances et implémentations éthiques des techniques d'apprentissage machine/IA, donc diriger vers une utilisation éthique.
Par exemple :
Mozilla s'engage à faire avancer la technologie dans la bonne direction. Il faut le faire maintenant.
Nous essayons d'intégrer progressivement une IA responsable au navigateur Firefox, pour détecter les escroqueries par exemple et, en gros, protéger les personnes porteuses d'un identifiant.
Intéressant ça aussi, mais clairement dans la direction d'implémentation éthique. Après, je comprends évidemment que le monsieur propose de développer des outils à base d'IA pour limiter la casse parce que des États, entreprises, organismes et individus l'utiliseront de manière néfaste ou égoiste.
Je ne vois pas ce que les armes à feu ont apporté à l'humanité, à part la destruction et la mort. L'exemple de la voiture est plus "pertinent"; c'est un bon outil mais utilisé tellement massivement, de manière individualiste, qu'il détruit la planète.
On peut également comparer l'IA avec la découverte de l'atome qui a mené au pire, la bombe atomique et le meilleur, le traitement du cancer. Exemple: Radioéléments : des isotopes plus efficaces à l’essai pour traiter le cancer
Posté par gUI (Mastodon) .
Évalué à 7.
Dernière modification le 02 octobre 2023 à 08:48.
On peut également comparer l'IA avec la découverte de l'atome
Bon on navigue en eaux troubles comme toujours sur une discussion aussi philosophique. Mais comparer découverte et invention, je ne suis pas d'accord. L'atome était là bien avant nous et il n'y est pour rien.
C'est l'invention de la bombe atomique qui est discutable, pas la découverte de l'atome (qui est simplement une meilleure compréhension de notre monde).
En théorie, la théorie et la pratique c'est pareil. En pratique c'est pas vrai.
Il me semble qu'on utilise souvent l'expression "la découverte de l'atome" pour décrire la course à l'énergie atomique. Il est difficile de dater une découverte de l'atome tant ce fut un processus long est progressif. De plus imputer la bombe atomique à la découverte de l'atome contrairement à ce que le nom laisse penser n'est pas si simple. Dans la culture populaire (et pas tout à fait sans raison) on associe Albert Einstein à cet arme alors qu'il n'a pas travaillé sur les atomes mais sur le lien entre vitesse, matière et énergie (pour ce qui concerne la bombe).
Bref je suis d'accord avec toi, mais je trouve le lien artificiel à plus d'un titre
Posté par gUI (Mastodon) .
Évalué à 4.
Dernière modification le 02 octobre 2023 à 18:14.
alors qu'il n'a pas travaillé sur les atomes
Son article de 1905 sur le mouvement Brownien a quand même fait bcp pour l'atome, mais oui, il n'y avait même pas besoin de ses recherches pour faire la bombe.
En théorie, la théorie et la pratique c'est pareil. En pratique c'est pas vrai.
Dans la culture populaire (et pas tout à fait sans raison) on associe Albert Einstein à cet arme alors qu'il n'a pas travaillé sur les atomes mais sur le lien entre vitesse, matière et énergie (pour ce qui concerne la bombe).
Cette association a surtout eu lieu à cause de la lettre d'Einstein au président américain Roosevelt mettant en garde quant au fait que les allemands pourraient mettre au point cette arme et que cela aurait des conséquences désastreuses. Il a regretté cette lettre après coup, mais de toute façon il est probable qu'avec ou sans cette lettre, la bombe atomique aurait été inventée. Surtout que de nos jours on a des connaissances bien avancées rendant cette opération bien plus facile qu'à l'époque.
Ce n'est d'ailleurs pas le premier physicien a avoir émis la possibilité d'extraire l'énergie atomique que ce soit pour des raisons civiles ou militaires, malgré le fait qu'il a été avec Poincaré l'un des premier à mettre en avant l'équation E = mc2.
Tu as précisé est cool. Je connais mal la recherche récente (et je pense que le manque de recul n'aide pas) mais je suis fasciné de comment le 19ème et le début du 20ème donne l'impression d'une effervescence au point où dire qu'une découverte a été faite par quelqu'un semble presque arbitraire.
C'était une période très fertile le XIXe et la première moitié du XXe siècle.
Le plus impressionnant c'est surtout toutes ces découvertes avec des moyens et des connaissances encore rudimentaires.
On peut lire le grand roman de la physique quantique de Manjit Kumar pour se rendre compte de comment en quelques années tellement de choses ont changé dans la compréhension qu'on a de la physique. Je reste fasciné par les prédictions parfois faites 30 ou 50 ans avant qu'on sache faire la démonstration et fournir la preuve.
La fameuse photo du congrès Solvay de 1927 regroupe une belle brochette de chercheurs et une chercheuse aux noms célèbres.
# Présentation
Posté par Maderios . Évalué à 3.
"Mark Surman est un vieux routier des nouvelles technologies, militant d'un internet libre. Ce Canadien préside aujourd'hui la Mozilla Foundation dont l'objectif majeur est l'encadrement de l'Intelligence Artificielle. Il la voit comme un danger si ce travail de réglementation n'est pas fait."
# c'est un peu dire que l'outil est neutre, ça encore
Posté par lejocelyn (site web personnel) . Évalué à 4. Dernière modification le 01 octobre 2023 à 20:12.
Cette citation rappelle un peu cette idée étrange que les outils sont neutres. Je pourrais faire des parallèles avec les armes à feu, les voitures ou la conception d'un logiciel pour mettre en évidence l'ineptie d'une telle conception, mais je ne crois pas que ce soit nécessaire.
Ce qui est étrange, c'est dans le reste de l'entretien, c'est qu'il défend une autre optique : mettre en place des instances et implémentations éthiques des techniques d'apprentissage machine/IA, donc diriger vers une utilisation éthique.
Par exemple :
Intéressant ça aussi, mais clairement dans la direction d'implémentation éthique. Après, je comprends évidemment que le monsieur propose de développer des outils à base d'IA pour limiter la casse parce que des États, entreprises, organismes et individus l'utiliseront de manière néfaste ou égoiste.
[^] # Re: c'est un peu dire que l'outil est neutre, ça encore
Posté par Maderios . Évalué à 0.
Je ne vois pas ce que les armes à feu ont apporté à l'humanité, à part la destruction et la mort. L'exemple de la voiture est plus "pertinent"; c'est un bon outil mais utilisé tellement massivement, de manière individualiste, qu'il détruit la planète.
On peut également comparer l'IA avec la découverte de l'atome qui a mené au pire, la bombe atomique et le meilleur, le traitement du cancer. Exemple: Radioéléments : des isotopes plus efficaces à l’essai pour traiter le cancer
[^] # Re: c'est un peu dire que l'outil est neutre, ça encore
Posté par gUI (Mastodon) . Évalué à 7. Dernière modification le 02 octobre 2023 à 08:48.
Bon on navigue en eaux troubles comme toujours sur une discussion aussi philosophique. Mais comparer découverte et invention, je ne suis pas d'accord. L'atome était là bien avant nous et il n'y est pour rien.
C'est l'invention de la bombe atomique qui est discutable, pas la découverte de l'atome (qui est simplement une meilleure compréhension de notre monde).
En théorie, la théorie et la pratique c'est pareil. En pratique c'est pas vrai.
[^] # Re: c'est un peu dire que l'outil est neutre, ça encore
Posté par barmic 🦦 . Évalué à 3.
Il me semble qu'on utilise souvent l'expression "la découverte de l'atome" pour décrire la course à l'énergie atomique. Il est difficile de dater une découverte de l'atome tant ce fut un processus long est progressif. De plus imputer la bombe atomique à la découverte de l'atome contrairement à ce que le nom laisse penser n'est pas si simple. Dans la culture populaire (et pas tout à fait sans raison) on associe Albert Einstein à cet arme alors qu'il n'a pas travaillé sur les atomes mais sur le lien entre vitesse, matière et énergie (pour ce qui concerne la bombe).
Bref je suis d'accord avec toi, mais je trouve le lien artificiel à plus d'un titre
https://linuxfr.org/users/barmic/journaux/y-en-a-marre-de-ce-gros-troll
[^] # Re: c'est un peu dire que l'outil est neutre, ça encore
Posté par gUI (Mastodon) . Évalué à 4. Dernière modification le 02 octobre 2023 à 18:14.
Son article de 1905 sur le mouvement Brownien a quand même fait bcp pour l'atome, mais oui, il n'y avait même pas besoin de ses recherches pour faire la bombe.
En théorie, la théorie et la pratique c'est pareil. En pratique c'est pas vrai.
[^] # Re: c'est un peu dire que l'outil est neutre, ça encore
Posté par Renault (site web personnel) . Évalué à 4.
Cette association a surtout eu lieu à cause de la lettre d'Einstein au président américain Roosevelt mettant en garde quant au fait que les allemands pourraient mettre au point cette arme et que cela aurait des conséquences désastreuses. Il a regretté cette lettre après coup, mais de toute façon il est probable qu'avec ou sans cette lettre, la bombe atomique aurait été inventée. Surtout que de nos jours on a des connaissances bien avancées rendant cette opération bien plus facile qu'à l'époque.
Ce n'est d'ailleurs pas le premier physicien a avoir émis la possibilité d'extraire l'énergie atomique que ce soit pour des raisons civiles ou militaires, malgré le fait qu'il a été avec Poincaré l'un des premier à mettre en avant l'équation E = mc2.
[^] # Re: c'est un peu dire que l'outil est neutre, ça encore
Posté par barmic 🦦 . Évalué à 2.
C'était le sous entendu de la parenthèse :)
https://linuxfr.org/users/barmic/journaux/y-en-a-marre-de-ce-gros-troll
[^] # Re: c'est un peu dire que l'outil est neutre, ça encore
Posté par Renault (site web personnel) . Évalué à 3.
Pardon, je croyais que tu faisais référence à son travail pour la relativité étant donné la fin de ton propos.
Mea culpa.
[^] # Re: c'est un peu dire que l'outil est neutre, ça encore
Posté par barmic 🦦 . Évalué à 2.
Tu as précisé est cool. Je connais mal la recherche récente (et je pense que le manque de recul n'aide pas) mais je suis fasciné de comment le 19ème et le début du 20ème donne l'impression d'une effervescence au point où dire qu'une découverte a été faite par quelqu'un semble presque arbitraire.
https://linuxfr.org/users/barmic/journaux/y-en-a-marre-de-ce-gros-troll
[^] # Re: c'est un peu dire que l'outil est neutre, ça encore
Posté par Renault (site web personnel) . Évalué à 3.
C'était une période très fertile le XIXe et la première moitié du XXe siècle.
Le plus impressionnant c'est surtout toutes ces découvertes avec des moyens et des connaissances encore rudimentaires.
[^] # Re: c'est un peu dire que l'outil est neutre, ça encore
Posté par cg . Évalué à 3.
On peut lire le grand roman de la physique quantique de Manjit Kumar pour se rendre compte de comment en quelques années tellement de choses ont changé dans la compréhension qu'on a de la physique. Je reste fasciné par les prédictions parfois faites 30 ou 50 ans avant qu'on sache faire la démonstration et fournir la preuve.
La fameuse photo du congrès Solvay de 1927 regroupe une belle brochette de chercheurs et une chercheuse aux noms célèbres.
# Plus que "ceux qui la détournent",
Posté par WrathOfThePixel . Évalué à 3.
j'aurais dit "ceux qui la détiennent".
Suivre le flux des commentaires
Note : les commentaires appartiennent à celles et ceux qui les ont postés. Nous n’en sommes pas responsables.