Amendement n° 101 Rejeté

À la première phrase de l’alinéa 1, après le mot : « personnes », insérer les mots : « , sous réserve du respect des droits et libertés fondamentaux des personnes concernées et de l’obligation de garantir une prise de décision humaine à chaque étape du traitement, ».

Ceci est le premier amendement parlementaire généré par une intelligence artificielle. Face au développement de services en ligne fondés sur l’IA, comme ChatGpt, il est nécessaire d’alerter sur les risques que peut emporter ce type de nouvelles technologies.  Voici la justification générée par l’IA pour cet amendement : «  L’article permet actuellement la mise en place de traitements algorithmiques en vue de détecter en temps réel des événements susceptibles de présenter ou de révéler des risques, à des fins de sécurité publique. Cependant, cette disposition doit être encadrée afin de préserver les droits et libertés fondamentaux des personnes concernées, notamment en garantissant une prise de décision humaine à chaque étape du traitement. En outre, il est important d’assurer une transparence adéquate quant aux traitements algorithmiques mis en place, afin que les personnes concernées puissent exercer leurs droits et demander une intervention humaine en cas de doute raisonnable sur la pertinence ou l’exactitude de la décision prise. Cet amendement vise donc à renforcer les garanties entourant les traitements algorithmiques en matière de sécurité publique, tout en préservant l’efficacité de ces derniers dans la détection des risques . » Cet exposé des motifs pourrait sembler rassurant, cependant l’intelligence artificielle peut permettre le meilleur comme le pire. Les questions de droits fondamentaux, de libertés publiques, de justice, de sécurité, en raison de leurs enjeux éthiques et parce qu’elles traitent des hommes et des femmes ne devraient donc jamais être laissées sous le contrôle de la seule intelligence artificielle.