… qu’on nous promet des économies, il faut se méfier !
Pour rappel, les économies voulues ou promises dans l'hôpital, l’école, le rail, la production électrique, (liste non exhaustive) n’ont jamais jamais eu d’autres effets que soit chercher à détruire le système concerné ou (et) finalement nous coûter plus cher.
Tout ça sans oublier qu’en ce qui concerne l’IA, il est désormais établi qu’au moins pour les LLM, il n’est pas possible d’échapper aux bogues pardon, hallucinations, comme bien expliqué dans cet article.
C'est inévitable, qu'on le veuille ou non. Les avocats s'en servent déjà, on le sait (Il y a des IA spécialisées, des erreurs ont fait les gros titres… ). Il est évident que les tribunaux y viendront. La question n'est même pas quand (On y est déjà).
La question est comment. Quel part garde l'humain? Quels vérifications, quels degré de confiance lui accordé?
Ce que l'on redoute, ce sont les procès jugé à 100% par IA (Y compris l'appel) et cela commencera par les délits mineurs. Malheureusement, et il est fort probable qu'on y viendra (la question est encore quand). Face à ça il n'y a pas grands recours, et c'est déjà en place… pas dans les tribunaux de Justice mais dans les call-center et autres services de l'Etat. Qui n'a pas galéré a avoir un humain pour un problème?
Sous licence Creative common. Lisez, copiez, modifiez faites en ce que vous voulez.
# Comme à chaque fois…
Posté par PhRæD . Évalué à 5 (+4/-0).
… qu’on nous promet des économies, il faut se méfier !
Pour rappel, les économies voulues ou promises dans l'hôpital, l’école, le rail, la production électrique, (liste non exhaustive) n’ont jamais jamais eu d’autres effets que soit chercher à détruire le système concerné ou (et) finalement nous coûter plus cher.
Tout ça sans oublier qu’en ce qui concerne l’IA, il est désormais établi qu’au moins pour les LLM, il n’est pas possible d’échapper aux
boguespardon, hallucinations, comme bien expliqué dans cet article.Ces défauts ont déjà amené de mauvais diagnostics en médecine et des traductions hasardeuses, pourquoi risquer un fiasco de plus ?
« Y a même des gens qui ont l’air vivant, mais ils sont morts depuis longtemps ! »
[^] # Re: Comme à chaque fois…
Posté par Nicolas Boulay (site web personnel) . Évalué à 3 (+0/-0).
Pourquoi exiger la perfection pour l'IA et pas pour l'humain ?
https://www.topsante.com/medecine/chat-gpt-fait-mieux-que-les-medecins-pour-etablir-un-diagnostic-medical-une-etude-le-prouve-898264
"La première sécurité est la liberté"
[^] # Re: Comme à chaque fois…
Posté par PhRæD . Évalué à 4 (+3/-0).
Mouais, que peut-on conclure d’une étude sur 6 cas ?
« Y a même des gens qui ont l’air vivant, mais ils sont morts depuis longtemps ! »
# Ça tranche
Posté par EdLeH (site web personnel) . Évalué à 2 (+0/-0).
Mauvaise idée.
# C'est inévitable
Posté par abriotde (site web personnel, Mastodon) . Évalué à 1 (+0/-0).
C'est inévitable, qu'on le veuille ou non. Les avocats s'en servent déjà, on le sait (Il y a des IA spécialisées, des erreurs ont fait les gros titres… ). Il est évident que les tribunaux y viendront. La question n'est même pas quand (On y est déjà).
La question est comment. Quel part garde l'humain? Quels vérifications, quels degré de confiance lui accordé?
Ce que l'on redoute, ce sont les procès jugé à 100% par IA (Y compris l'appel) et cela commencera par les délits mineurs. Malheureusement, et il est fort probable qu'on y viendra (la question est encore quand). Face à ça il n'y a pas grands recours, et c'est déjà en place… pas dans les tribunaux de Justice mais dans les call-center et autres services de l'Etat. Qui n'a pas galéré a avoir un humain pour un problème?
Sous licence Creative common. Lisez, copiez, modifiez faites en ce que vous voulez.
Envoyer un commentaire
Suivre le flux des commentaires
Note : les commentaires appartiennent à celles et ceux qui les ont postés. Nous n’en sommes pas responsables.