Développement des IAs respectueux de la vie privée : une charte récente

Posté par  . Édité par Ysabeau 🧶, Benoît Sibaud et ted. Modéré par ted. Licence CC By‑SA.
Étiquettes :
22
12
déc.
2021
Science

Bonjour,

Dans le cadre du projet OLKi de l’Université de Lorraine, j’ai rédigé avec l’aide de Christophe Cerisara (directeur du laboratoire de TAL au LORIA) une charte sur le développement des Intelligences Artificielles (IA) respectueuses de la vie privée dès la conception (disponible sur HAL)

Cette charte a fait l’objet d’un colloque qui a été ensuite présenté dans un billet récent du Blog Binaire.

Nous pensons que le respect de la vie privée dans le développement des IAs constitue un défi pour la perspective libriste, dans la mesure où l’ouverture des modèles peut permettre des violations de la vie privée et de la protection des données personnelles, qui peuvent parfois être reconstituées à partir des paramètres du modèle.

Nous espérons vivement un retour des développeurs et développeuses libristes. Cette charte n’est pas tant faite pour collecter des signatures que pour lancer un débat nécessaire sur le respect de la vie privée dans le développement des IAs, et sa très difficile opérationnalisation.

Au plaisir de lire vos retours,

Maël Pégny
Postdoc AI Ethics
Carl Friedrich von Weiszäcker Zentrum.
Universität Tübingen

Aller plus loin

  • # Dommage

    Posté par  (site web personnel, Mastodon) . Évalué à 8.

    Dommage que le billet de blog mentionné soit hébergé sur un site où Firefox détecte 3 trackers de réseaux sociaux et 2 contenus utilisés pour du pistage malgré le refus sur le formulaire RGPD. (Outre les 6 contenus bloqués par uBlock Origin).

    Je ne mets pas en doute la sincérité et l'intérêt du projet mais ça éclaire la difficulté à éviter les trackers et l'usage des données personnelles.

    • [^] # Re: Dommage

      Posté par  . Évalué à 0.

      Bonjour,

      Vous faites bien de signaler ce problème, qui m'attriste moi aussi. Comme vous le dites, il est très difficile d'échapper aux trackers malgré le renforcement du cadre législatif : je ne vois pas comment cela peut être légal si vous avez refusé les cookies non-nécessaires sur le formulaire RGPD. Mais c'est une question à adresser aux gestionnaires du site, pas aux auteurs et éditeurs de contenu qui ont le droit de supposer que le cadre légal est rigoureusement respecté dans les endroits où ils ou elles travaillent, même si on peut avoir de mauvaises surprises.

      Bien à vous,
      Maël Pégny

  • # On pourrait peut-être aussi utiliser les trois lois de la robotique d'Asimov

    Posté par  . Évalué à 1.

    Pour ajouter des règles du genre:
    - une IA ne peut porter atteinte à un être humain
    - une IA doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres entrent en contradiction avec la première loi

  • # Confus

    Posté par  . Évalué à 5.

    Si l'on admet qu'il n'y a pas de faute d'orthographe dans le titre du journal, c'est le développement qui doit être respectueux de la vie privée.
    La fin du premier paragraphe du journal, indique que ce sont les IA qui doivent être respectueuses de la vie privée.
    Les deux choses me paraissent différentes, sinon disjointes.

    Après, j'ai essayé de lire la charte. Je n'y ai pas compris grand-chose. J'ai trouvé ça jargonneux, réservé aux spécialistes du domaine, donc impossible de vérifier sa correcte application de l'extérieur. Je pense qu'il manque au minimum un certain nombre de définitions : IA, vie privée, ML (machine learning ?). En fait j'ai l'impression qu'ici, IA est le terme marketing de « logiciel de machine learning ». [troll] Je n'ai toujours pas vu le rapport entre ML et intelligence. [\troll]

    Enfin une question : Si on éprouve le besoin de définir des principes éthiques pour le développement d'outils informatiques basés sur le machine learning, est-ce que cela signifie que de tels principes sont inutiles pour les développements informatiques en général ?

    • [^] # Re: Confus

      Posté par  . Évalué à 0.

      Bonjour,

      Dans le cadre de la charte, nous essayons de concevoir un processus de développement qui aboutisse à des IAs dont le déploiement permette le respect de la vie privée. On cherche donc à transmettre une propriété du développement -le respect de la vie privée- au produit fini de ce développement, même si vous avez bien raison de dire qu'une telle transmission n'est pas une évidence. J'ai préféré faire l'accord avec le "développement" dans le titre pour souligner que la charte s'adresse avant tout à ceux et celles qui font du développement.

      Il n'est pas du tout interdit que les réflexions initiées par cette charte dédiée au ML arrivent à des conclusions portant sur le développement en général : ce sont des choses qui arrivent bien souvent en recherche. Mais cette charte est bien centrée sur des problèmes spécifiques au ML, comme la rétro-ingénierie des données.

      Il est vrai que la charte s'adresse avant tout aux spécialistes du domaine. En revanche, je ne pense pas que s'embarquer dans les sempiternelles querelles sur la définition de l'IA et son rapport à l'intelligence nous aidera à l'ouvrir à un plus vaste public. Quand à la définition de la vie privée, c'est une question immense, sur laquelle je travaille activement, mais elle suppose la mobilisation de connaissances sociohistoriques très vastes, qui auraient noyé le poisson plus qu'autre chose ici.

      Bien à vous,
      Maël Pégny

  • # À qui s'adresse cette charte ?

    Posté par  . Évalué à 2.

    Intéressant projet auquel j'apporte tous mes encouragements. C'est un bon début je trouve.

    En première remarque, on ne comprend pas bien à qui il s'adresse : est-ce uniquement aux scientifiques comme le suggère les premiers mots de l'article 1 : "Dans le cadre de recherches scientifiques" ? Pourquoi ne pas le dire dès le titre ? Si le cadre est plus large, pourquoi alors débuter la charte par une exception : "dans le cadre de recherches scientifique".

    Je rejoins ensuite les remarques qui questionnent la lisibilité de cette charte. Par exemple je ne comprends pas "l'apparition d’un pouvoir prédictif trop fin". Il me semble que chaque item de la charte devrait être explicité/glosé clairement. Vous le faites en partie dans l'article publié dans HAL, mais ce dernier est relativement long pour cet objectif et il faut reconstruire les liens entre l'article et chaque principe. En plus de l'article, je trouverais utile d'avoir une explicitation principe par principe (15-20 lignes pas plus), peut-être avec des exemples pour rendre les choses un peu plus concrètes : "Explicitation du principe 1 : […]".

    • [^] # Re: À qui s'adresse cette charte ?

      Posté par  . Évalué à 0.

      Bonjour,

      La charte s'adresse avant tout aux praticiens du ML, soit à des scientifiques et des développeuses et développeurs du domaine. Peuvent être aussi incluses toutes les personnes capables de suivre une conversation substantielle sur ces sujets, comme le peuvent par exemple certaines juristes.
      Il est tout à fait juste que ça rend le document assez technique. Notre problème est qu'avant de réussir à exprimer des résultats clairs et simples aux non-praticiens, il faudrait encore que les praticiens et praticiennes comprennent ce qu'ils veulent et ce qu'ils peuvent faire, et nous en sommes encore loin.

      Le principe 1 s'adresse uniquement aux scientifiques car le droit les exempte de déclarer la finalité du traitement et de réduire la collecte de donnée à ce qui est strictement nécessaire à cette finalité pré-déclarée. Ce principe-là est donc réduit à ce public particulier, mais ce n'est pas le cas de toute la charte.

      "L'apparition du pouvoir prédictif trop fin" est un concept majeur de la charte qui est expliqué plus tard dans le document : il ne peut en effet être compris à la première lecture, puisque ce phénomène n'a pas de nom scientifique standard. Il s'agit des cas où un modèle est capable de prédire des données à grain très fin, y compris des données personnelles, alors même que ce n'est pas nécessaire pour satisfaire sa spécification. Par exemple, un logiciel de complétion ne devrait pas compléter "mon numéro de carte de crédit est" par le numéro de carte de l'utilisateur, car il est là pour aider à la rédaction, pas pour compléter des demandes d'informations personnelles. Mais certains le font dans les faits, et cela pose un problème de sécurité et de respect de la vie privée.

      Il faudrait en effet une autre version du document avec une explication brève principe par principe, exactement comme vous le dites. Nous songeons à faire une telle présentation en ce moment et à la faire publier.

      Bien à vous,
      Maël Pégny

  • # Faire des AI robustement bénéfiques

    Posté par  (site web personnel) . Évalué à 2.

    Si le sujet vous intéresse, l'éthique des AI est un des sujets de prédilection de Lê de science4all.

    Faire des algo de recommandation éthique collaboratif --rien que ça-- est l'idée de tournesol.

  • # J'ai pas lu le projet de Charte

    Posté par  (site web personnel) . Évalué à 5.

    Mais sur le principe, déjà, je suis un peu méfiant des indicateurs (comme ces entreprises qui se déclarent bonnes pour la planète pour la seule raison qu'elles émettent peu de CO2 sans considération du reste de leur impact) trop étroits
    Est-ce que la vie privée est la seule considération éthique à avoir lorsqu'on conçoit une IA ?

    • [^] # Re: J'ai pas lu le projet de Charte

      Posté par  . Évalué à 0.

      Bonjour,

      Bien sûr que la vie privée n'est pas le seul problème pertinent en éthique de l'IA ! Ce que nous essayons plutôt de montrer, c'est que c'est déjà un problème assez massif en lui-même.

      Il me faut bien préciser qu'il ne s'agit aucunement de proposer un indicateur (inexistant dans la charte), ou de collecter des signatures de soutien de la part d'institutions. Il est en effet par trop facile de signer une charte sans valeur contraignante et de faire tout l'inverse de ce qu'elle défend, ou de prétendre avoir résolu tous les problèmes éthiques en ne satisfaisant qu'une définition très étroite des enjeux.

      L'objectif de la charte n'est pas d'obtenir des réactions institutionnelles mais de lancer une conversation parmi les praticiennes et praticiens du ML. Une fois cette conversation bien mûrie, on pourra passer éventuellement à des objectifs institutionnels.

      Bien à vous,
      Maël Pégny

Suivre le flux des commentaires

Note : les commentaires appartiennent à celles et ceux qui les ont postés. Nous n’en sommes pas responsables.