L’ONU prévient que l’IA peut constituer une menace pour les droits de l’homme.

Publié le 17 septembre 2021, 11:48

Le chef des droits de l’homme des Nations Unies (ONU) a appelé à un moratoire sur la vente et l’utilisation de systèmes d’intelligence artificielle qui « posent un risque sérieux pour les droits de l’homme », y compris les systèmes de reconnaissance faciale. la reconnaissance facialejusqu’à ce que « des garanties adéquates soient mises en place ».

L’appel du Haut Commissaire des Nations Unies aux droits de l’homme, Michelle Bachelet, a été lancé mercredi alors que l’utilisation de la reconnaissance faciale et d’autres formes d’intelligence artificielle… a fait l’objet d’un examen approfondi. Les appels se sont intensifiés ces dernières années pour une interdiction ou un moratoire sur l’utilisation par le gouvernement et la police de la reconnaissance faciale, qui s’est avérée avoir un biais racial.

 

Au milieu de tout cela, 10 agences américaines ont récemment signalé que qu’ils veulent étendre leur utilisation de cette technologie.

« L’intelligence artificielle peut être une force du bien, aidant les sociétés à surmonter certains des grands défis de notre époque. Mais les technologies de l’IA peuvent avoir des effets négatifs, voire catastrophiques, si elles sont utilisées sans tenir suffisamment compte de la manière dont elles affectent les droits de l’homme des personnes », a déclaré Mme Bachelet dans un communiqué de presse. déclaration mercredi. « L’intelligence artificielle s’immisce désormais dans presque tous les recoins de notre vie physique et mentale, et même dans nos états émotionnels. Les systèmes d’IA sont utilisés pour déterminer qui bénéficie des services publics, décider qui a une chance d’être recruté pour un emploi, et bien sûr ils affectent les informations que les gens voient et peuvent partager en ligne. »

En lien avec cet article :  Apparemment, nous prononçons IKEA mal depuis tout ce temps

Le Bureau des droits de l’homme de l’ONU a publié mercredi un rapport qui examine comment les pays et les entreprises se sont « précipités » dans l’utilisation de l’IA, notant qu’il y a eu « de nombreux cas de personnes traitées injustement à cause de l’IA, comme le fait de se voir refuser des prestations de sécurité sociale à cause d’outils d’IA défectueux ou d’être arrêtées à cause d’une reconnaissance faciale défectueuse. »

Evan Greer, le directeur de Fight for the Future, a déclaré que le rapport de l’ONU « fait écho au consensus croissant entre les experts en technologie et en droits de l’homme du monde entier. » Fight for the Future a demandé l’interdiction de l’utilisation de la reconnaissance faciale. par le gouvernement et parmi les établissements de détail.

« Les systèmes de surveillance alimentés par l’intelligence artificielle comme la reconnaissance faciale constituent une menace existentielle pour l’avenir de la liberté humaine. Comme les armes nucléaires ou biologiques, une telle technologie a un potentiel de nuisance si énorme qu’elle ne peut pas être réglementée efficacement, elle doit être interdite », a déclaré Mme Greer dans un communiqué. « Nous sommes d’accord avec la conclusion du rapport de l’ONU : il devrait y avoir un moratoire immédiat et mondial sur la vente de la technologie de surveillance par reconnaissance faciale et d’autres systèmes d’IA nuisibles. »

Laurine Dancourt
Laurine Dancourt

Après une solide expérience professionnelles au sein d’un cabinet d’audit financiers, Laurine décrypte les innovations des marques, aussi bien technologiques que stratégiques.