Art. 94-105 :
Appuyer le développement de nouvelles technologies, notamment l’IA, tout en anticipant leurs usages, cadrant leur utilisation et en se prémunissant d’éventuelles dérives :
Proposition d’amendement de l’article 94 : Ajouter : Fixer les règles d’usages de chacun des outils :
- objectifs clairs définis à l’avance pour l’Etat/les collectivités/les services publics concernés mais aussi pour la population,
- cibles,
- cas d’usages et périmètres d’usage,
- points d’attention,
- identification de la complémentarité entre les outils
Proposition d’amendement de l’article 95 :
Ajouter : Garantir la souveraineté des données : veiller à ce que les données transmises, reçues, collectées soit de propriété française, répondant aux politiques publiques françaises et sur des serveurs français : stockage, utilisation, logiciels …
Garantir de la même manière la souveraineté sur les calculateurs nécessaires pour faire tourner ces modèles (pas de sous-traitance des calculs par Amazon Web Services, Microsoft Azure ou Google Cloud Platform)
[ex. alimentation en données en temps réel pour l’utilisation des transports via des applications étrangères ;
- interdiction en France, contrairement aux Pays Bas du système de validation des titres de transport à la sortie pour éviter de « pister » les utilisateurs et anonymiser leurs déplacements]
Proposition d’amendement de l’article 97 :
Veiller à ce que les paramétrages soient en cohérence avec nos principes constitutionnels, notamment pour éviter les biais de discrimination.
Proposition d’amendement de l’article 102 :
Ajouter : Rendre public les coûts d’installation et d’opération des systèmes adoptés
Proposition d’amendement de l’article 104 :
Remplacer à distance et en temps réel par à distance et en temps réel ou de manière différée
Ajouter :
Interdire de la même manière la reconnaissance ‘biométrique douce’, comme l’identification de démarche, qui d’après de récentes études peut servir de facteur d’identification des individus.
Interdire aussi le recours à des techniques de reconnaissance des tenues vestimentaires, permettant de traquer facilement certaines populations.
Proposition d’amendement de l’article 105 :
Section C : remplacer sur la base du code qui lui aura été préalablement transmis dans son intégralité par sur la base du code, des poids des modèles ainsi que des données utilisées pour les entraîner et les tester, qui lui auront été préalablement transmis dans leur intégralité.
Section D : ajouter : La charge de la preuve devra reposer sur l’organisme chargé du développement des modèles. Il reviendra à la CNIL de statuer sur le bien-fondé des métriques choisies et sur le caractère suffisant de l’étendue des potentielles discriminations traitées.
