Éditorial : Course contre la machine

La CNDP, autorité nationale en matière de protection des données personnelles, est engagée dans une véritable course contre les menaces réelles que peuvent présenter les évolutions technologiques inévitables sur la nécessaire préservation de la sphère privée.

Quand des données et informations fournies sur un site soit public soit marchand au moment de renseignement de formulaires sont traitées par un robot ou un système basé sur l’intelligence artificielle, les process sont généralement des séries de décisions automatisées obéissant à des constructions algorithmiques. Il n’est pas sûr que des machines préprogrammées aient des capacités de discernement à même de permettre des décisions judicieuses face à des situations inédites non inventoriées dans lesdits algorithmes. Et surtout, en cas de préjudice subi par un usager/client «humain» à la suite d’une décision automatique prise par une machine, une IA, quels moyens de remédier voire de rendre justice à la personne lésée ? C’est justement pour s’assurer que le corpus légal marocain puisse garantir à l’usager, forcément humain, des moyens et voies de recours face à des décisions de machines que la CNDP a décidé d’initier un cycle d’auditions pour écouter les avis des experts, des scientifiques, des responsables institutionnels et d’autres acteurs susceptibles d’apporter des réponses. Une question centrale : comment s’assurer qu’une machine, une IA, respecte bien les principes de l’intégrité, de la transparence, de la loyauté et de la lisibilité sur lesquels est basé le dispositif de protection des données personnelles ?

Quand un système de vidéosurveillance intelligent basé, entre autres technologies, sur les algorithmes de reconnaissance faciale, quelle frontière entre les impératifs de préservation de l’ordre public ou de prévention contre des risques divers et la nécessité vitale de protéger la sphère de la vie privée ?

La CNDP a raison d’anticiper ces questions et de verrouiller la législation sur des référentiels authentiquement humains avant que la réflexion ne soit elle aussi confiée à des IA…