Ottawa (Ontario) – Commission canadienne des droits de la personne
En réponse à la stratégie nationale sur l’intelligence artificielle nouvellement dévoilée par le gouvernement du Canada, la présidente de la Commission canadienne des droits de la personne, Charlotte-Anne Malischewski, le commissaire à l’accessibilité, Christopher T. Sutton, et la commissaire à l’équité salariale, Lori Straznicky, font la déclaration suivante :
Nous saluons l’engagement renouvelé du gouvernement du Canada envers l’équité et l’accessibilité dans « L’IA pour tous », la nouvelle stratégie nationale du Canada en matière d’intelligence artificielle. Avec l’IA qui continue de façonner la manière dont les services sont offerts, les décisions sont prises et les possibilités sont réparties, voilà une belle occasion pour le Canada de montrer la voie en faisant des droits de la personne un pilier de l’innovation numérique.
L’IA peut transformer la vie des gens en élargissant l’accès aux soins de santé, en accélérant la recherche scientifique, en améliorant l’accès aux services et en aidant à relever des défis sociaux complexes. Mais ces bénéfices ne vont pas de soi, et ils ne profitent pas toujours à tout le monde de la même façon. Lorsque la discrimination systémique, les préjugés et l’exclusion déjà présents dans la société se retrouvent ancrés dans les données et dans la conception des systèmes, l’IA risque d’avoir un effet catalyseur et de reproduire les inégalités et les obstacles existants et d’exclure encore davantage les communautés issues de la diversité.
La stratégie reconnaît que « le progrès technologique et la dignité humaine avancent de concert ». C’est un principe fondamental. En intégrant les principes de la Loi canadienne sur l’accessibilité, en appliquant l’analyse comparative entre les sexes Plus et en reconnaissant le droit fondamental à la vie privée, le Canada s’engage à développer l’IA de façon plus équitable. Nous saluons également l’importance accordée à la prévention des préjudices liés à l’IA, ainsi qu’à la nécessité d’un leadership des peuples autochtones dans la façon dont ces technologies seront conçues, encadrées et utilisées.
Dans la mise en œuvre de cette stratégie, le Canada devra aller au-delà du simple respect des lois existantes en matière de droits de la personne. L’IA doit devenir un levier pour faire progresser l’accessibilité, l’égalité entre les sexes, l’égalité réelle et le plein exercice des droits de la personne – plutôt que de créer de nouveaux préjudices ou d’aggraver ceux qui existent déjà. Le Canada doit faire en sorte que le développement de l’IA contribue à éliminer les obstacles systémiques auxquels font face les groupes méritant l’équité, notamment les peuples autochtones, les communautés noires et racisées, les personnes en situation de handicap, ainsi que les femmes dans toute leur diversité. Pour y parvenir, les communautés diverses doivent réellement être prises en compte dans les données utilisées pour concevoir, entraîner et évaluer les systèmes d’IA, car lorsqu’une communauté est absente ou sous-représentée dans les données, cela conduit à l’exclusion dans les résultats. C’est pourquoi les droits de la personne, l’accessibilité, la protection de la vie privée et l’équité doivent guider chaque étape du cycle de vie des systèmes d’IA – de l’approvisionnement à la conception, jusqu’au développement, au déploiement et à l’évaluation, à mesure que l’IA s’intègre aux technologies de l’information et des communications.
Une surveillance rigoureuse, un cadre réglementaire clair et cohérent, des mesures de protection proactives et des évaluations des répercussions sur les droits de la personne doivent être en place avant le déploiement de systèmes d’IA dans des domaines qui influencent l’accès des personnes aux services, aux prestations, à l’emploi, à l’éducation, au logement, aux soins de santé, aux services de police ou à la justice. Il faut aussi porter une attention particulière aux répercussions de l’IA sur la justice environnementale, aux effets des infrastructures d’IA à grande échelle sur les communautés, ainsi qu’aux conséquences possibles sur les pertes d’emploi. Nous ne pouvons pas attendre que les systèmes d’IA soient déployés pour en constater les effets néfastes. Les risques doivent être repérés et atténués en amont. Et lorsque des préjudices surviennent malgré tout, les personnes touchées doivent pouvoir compter sur des mécanismes de réparation accessibles et efficaces.
En plaçant les droits de la personne au cœur de la gouvernance, du développement et de l’utilisation de l’IA, le Canada a l’occasion de faire un choix déterminant : bâtir une IA qui est réellement au service tous et toutes – de façon inclusive, équitable et accessible.
-30-
« L’intelligence artificielle doit contribuer à renforcer l’exercice des droits de la personne au Canada – jamais le compromettre. Nous ne pouvons pas attendre de constater les préjudices après coup : il faut une surveillance rigoureuse, des mesures de protection proactives et une responsabilisation claire dès le départ. Et lorsque les systèmes d’IA causent des préjudices, les personnes touchées doivent pouvoir compter sur des mécanismes de réparation efficaces. »
— Charlotte-Anne Malischewski, présidente, Commission canadienne des droits de la personne
« L’intelligence artificielle a le potentiel de devenir l’un des plus puissants leviers d’accessibilité de notre génération. Mais l’innovation, à elle seule, ne suffit pas. Dans la mise en œuvre de sa nouvelle stratégie en matière d’IA, le gouvernement du Canada doit veiller à ce que l’accessibilité soit intégrée dès la conception – jamais ajoutée après coup. Les expériences vécues des personnes en situation de handicap doivent guider la conception, le déploiement et l’encadrement de ces technologies. C’est ainsi que l’IA pourra contribuer à éliminer les obstacles, plutôt qu’à en créer de nouveaux. »
— Christopher T. Sutton, commissaire à l’accessibilité
« La nouvelle stratégie canadienne sur l’IA offre une occasion importante de faire avancer l’innovation tout en renforçant notre engagement envers l’équité et de l’égalité. À mesure que l’IA est intégrée aux systèmes et aux milieux de travail des secteurs public et privé, nous devons veiller à ce que ces technologies ne reproduisent pas ni n’aggravent les inégalités systémiques auxquelles font face les femmes, dans toute leur diversité. Je me réjouis d’ailleurs de voir que la stratégie prévoit des mesures pour s’attaquer aux obstacles systémiques. Une conception transparente, des pratiques inclusives en matière de données et une surveillance continue seront essentielles pour mettre en place des systèmes d’IA qui profitent à l’ensemble des travailleurs et travailleuses. »
— Lori Straznicky, commissaire à l’équité salariale
Relations avec les médias
613-943-9118
communications@chrc-ccdp.gc.ca
Suivez la Commission canadienne des droits de la personne, le commissaire à l’accessibilité et la commissaire à l’équité salariale sur les réseaux sociaux.