Écrit par Stephen Burns, Sébastien Gittens and Stephanie Gagne

L’intelligence artificielle (IA) offre de nombreuses occasions de profiter à la société; toutefois, le Commissariat à la protection de la vie privée du Canada (CIPC), de concert avec de nombreux homologues internationaux, a insisté sur l’adoption de stratégies nationales pour assurer l’utilisation responsable de l’IA et atténuer les risques pour la vie privée et les données qui y sont associés. 

La Déclaration sur l’éthique et la protection des données dans l’IA

Reconnaissant que l’IA pose des défis à la vie privée, à la protection des données et aux droits de l’homme, la Déclaration sur l’éthique et la protection des données en intelligence artificielle a été adoptée lors de la 40e Conférence internationale des commissaires à la protection des données et de la vie privée. Cette Déclaration vise à « préserver les droits de l’homme dans le développement de l’intelligence artificielle » en approuvant les six principes directeurs suivants : 

• Équité : l’utilisation de l’IA doit rester conforme à son objectif initial et ne doit ni mettre en danger ni entraver le « développement humain », mais plutôt le faciliter.
• Attention et vigilance continues : les intervenants devraient demeurer responsables des effets ou des conséquences potentiels de l’IA. Une attention et une vigilance continues seront assurées par un processus de gouvernance démontrable, une sensibilisation et une responsabilité collective et conjointe. 
• Amélioration de la transparence et de l’intelligibilité des systèmes : pour assurer une mise en œuvre efficace de l’IA, la transparence et l’intelligibilité devraient être recherchées en investissant dans la recherche scientifique publique et privée, en promouvant « la transparence algorithmique et l’auditabilité des systèmes », en fournissant des informations adéquates pour assurer un alignement continu sur les attentes des utilisateurs et en permettant un contrôle humain sur les systèmes d’IA. 
• Conçu et développé de manière responsable conformément à la confidentialité par défaut et à la confidentialité par conception: des mesures techniques et opérationnelles proportionnelles au type de système d’IA développé devraient être mises en œuvre pour assurer la protection des données et la vie privée. Une conception responsable peut être réalisée en documentant l’impact attendu de l’IA sur les individus et la société, et en identifiant les exigences en matière d’utilisation éthique et équitable des systèmes d’IA.
• Autonomisation de chaque individu: les droits des individus, y compris la protection des données et le droit à la vie privée et la liberté d’expression, devraient être promus et respectés. 
• Préjugés et discrimination : Les préjugés et la discrimination illégaux devraient être abordés, réduits et atténués, par exemple en investissant dans la recherche sur les moyens de cerner et d’atténuer ces préjugés, et en prenant des mesures pour s’assurer que les renseignements personnels utilisés dans la prise de décisions automatisées sont exacts et aussi complets que possible.

Engagements pour protéger la vie privée des Canadiens

Bien que l’OIPC continue de surveiller l’évolution de l’IA au Canada et à l’étranger, le gouvernement du Canada a également été actif dans la résolution des problèmes potentiels découlant de l’utilisation de ces technologies.

Par exemple, le Canada est l’un des premiers pays à annoncer une stratégie nationale pour l’IA. La Stratégie pancanadienne en matière d’intelligence artificielle, un investissement de 125 millions de dollars dans l’IA, a été annoncée dans le budget fédéral de 2017, dans le but principal de soutenir la recherche sur l’IA.

En plus de la Stratégie pancanadienne en matière d’intelligence artificielle, le gouvernement du Canada : 

• a publié sa feuille de route de la stratégie de données qui vise à : (i) s’assurer que tous les ministères et organismes gouvernementaux ont une stratégie de données en place d’ici septembre 2019; (ii) fournir une plus grande clarté autour de la gouvernance des données; et (iii) élaborer des normes et des lignes directrices sur l’accès, la collecte, la protection et le partage des données à l’intention des ministères;  
• a publié la Directive sur la prise de décisions automatisée le 4 mars 2019, dans le but de réduire les risques associés à la prise de décisions automatisée et d’assurer son utilisation efficace, exacte, cohérente et interprétable conformément aux lois canadiennes. La Directive exige également la réalisation d’une évaluation d’impact algorithmique qui aidera à identifier et à atténuer les résultats négatifs résultant de l’utilisation de systèmes décisionnels automatisés;  
• a publié une charte numérique le 21 mai 2019, qui vise à relever les défis posés par la transformation numérique et des données et à tirer parti des talents canadiens (pour un résumé, cliquez sur here);   
• a annoncé sa participation à l’International Panel on Artificial Intelligence, une collaboration entre divers gouvernements nationaux visant à faire progresser « ... une compréhension commune des questions d’IA et à soutenir et guider l’adoption responsable de l’IA centrée sur l’humain et fondée sur les droits de l’homme, l’inclusion, la diversité, l’innovation et la croissance économique »; et
• évalué et est en train de moderniser le cadre législatif et stratégique relatif à la protection de la vie privée afin d’assurer une utilisation responsable des renseignements personnels. Les précisions proposées à la Loi sur la protection des renseignements personnels et les documents électroniques du gouvernement fédéral comprennent : « les renseignements que les personnes devraient recevoir lorsqu’elles donnent leur consentement; certaines exceptions au consentement; la mobilité des données; la suppression et le retrait du consentement; des incitatifs pour la certification, des codes, des normes et des fiducies de données; des pouvoirs accrus pour l’OIPC; ainsi que certaines modernisations de la structure de la loi elle-même et diverses définitions ».

Bien que l’IA promette d’améliorer la compétitivité, la productivité et l’innovation, diverses préoccupations liées à la confidentialité et à la sécurité persistent. À ce titre, nous recommandons de surveiller de près la réponse réglementaire à ce domaine émergent. Si vous souhaitez discuter de la façon dont l’IA peut affecter votre entreprise, veuillez contacter un membre du groupe Bennett Jones Technology Law group.