Consultations sur le cadre de l’intelligence artificielle (IA) de confiance de l’Ontario

Aperçu

La création d’une économie numérique alimentée par une intelligence artificielle (IA) digne de confiance est un objectif clé de la Stratégie ontarienne pour le numérique et les données du gouvernement. Déjà, les chercheurs et les entrepreneurs sont à l’avant-garde des progrès de la science, débloquant de nouvelles façons d’améliorer la vie de la population ontarienne et de favoriser la croissance économique à long terme. Ces technologies ont également le potentiel d’aider le gouvernement à transformer des programmes et des services essentiels pour mieux servir les gens, tout en leur faisant économiser du temps et de l’argent.

Toutefois, comme pour toutes les nouvelles technologies, l’utilisation de l’IA doit être ancrée dans les principes démocratiques et les droits individuels. Pour protéger la population de l’Ontario, la province élabore un Cadre de l’intelligence artificielle (IA) de confiance de l’Ontario pour soutenir une utilisation de l’IA qui soit responsable, sûre et fondée sur les droits. Pour commencer, nous allons créer des lignes directrices pour l’utilisation de l’IA par le gouvernement. Ce cadre, créé avec votre aide, décrira comment le gouvernement utilisera l’IA de façon responsable afin de minimiser les abus et de maximiser les avantages pour les Ontariennes et des Ontariens.

Le cadre d’IA de l’Ontario sera élaboré en suivant les principes du Partenariat pour un Gouvernement Ouvert afin de démontrer l’engagement de la province à l’égard de la transparence, de la responsabilité et du travail au grand jour avec la population de l’Ontario. En tant que membre actif du Partenariat pour un Gouvernement Ouvert (PGO) depuis 2016, l’élaboration publique de ce cadre d’IA et les mesures à prendre qui en découlent constitueront le Plan d’action de l’Ontario dans le cadre du Partenariat pour un Gouvernement Ouvert 2021-2022.

Faits saillants de la consultation

Au cours de la consultation, nous vous avons demandé :

• de donner votre avis sur la façon dont le gouvernement peut s’assurer que l’IA soit utilisée de manière responsable afin de minimiser les mauvais usages et de maximiser les avantages pour les Ontariennes et les Ontariens.
• de partager vos idées pour améliorer la confiance du public dans l’IA. Vos expériences, vos préoccupations et vos idées aideront le gouvernement à utiliser l’IA.

Vous nous avez dit ce qui suit :

1. Vous êtes préoccupés par la protection de votre vie privée et de vos renseignements personnels.
2. Vous voulez savoir quand nous utilisons des technologies liées aux données, comme les algorithmes, la prise de décision automatisée ou l’intelligence artificielle (IA), et à quelles fins nous les utilisons.
3. Vous voulez avoir le droit de contester les résultats de la prise de décision algorithmique si un préjudice a été causé et faire en sorte qu’un examen humain soit possible sur demande.
4. Nous devons définir les termes clés et utiliser un langage clair et simple pour communiquer sur l’utilisation de l’IA.
5. Il est nécessaire de renforcer l’obligation de rendre des comptes et la surveillance de la manière et du moment où le gouvernement utilise ces technologies.
6. Vous voulez participer aux prises de décisions relatives à la façon dont l’IA est développée. quand elle est utilisée et comment elle est formée.
7. Vous voulez que le gouvernement :
   • examine et vérifie périodiquement les technologies liées aux données lorsqu’elles sont utilisées, afin de s’assurer que le risque ne s’installe pas au fil du temps;
   • dispose de règles, de processus et d’outils clairs pour l’utilisation sûre et sécurisée des technologies liées aux données afin de mieux servir et soutenir les populations et les entreprises;
   • prenne des décisions en fonction de situations particulières et de leurs circonstances uniques.

Ce que nous avons appris

Engagement n^o 1 : aucune IA utilisée de manière secrète

Ce que nous avons appris

« L’IA et les algorithmes peuvent être difficiles à comprendre et à expliquer. La question de la « boîte noire » peut s’avérer difficile pour la confiance dans le processus décisionnel du gouvernement. La divulgation et la transparence des systèmes d’IA sont importantes pour la confiance du public dans le gouvernement en général et dans les systèmes d’IA en particulier. La divulgation et la transparence sont également nécessaires pour respecter les obligations en matière d’équité procédurale, assurer l’accès à la justice et mettre au jour d’éventuels résultats discriminatoires, des erreurs logicielles ou des données inexactes ou incomplètes. »

• Vous aimeriez comprendre ce qu’est l’intelligence artificielle (IA) et comment elle peut affecter la vie des gens.
• Vous aimeriez savoir quand les technologies liées aux données, comme les algorithmes ou l’IA, sont utilisées, comment elles fonctionnent et quelles sont les données qu’elles utilisent.
• Vous souhaitez une intervention humaine dans les processus utilisant l’IA lorsque les décisions peuvent toucher vos vies directement.
• Vous avez demandé à ce que les gens puissent contester et modifier les décisions injustes des systèmes automatisés.
• Une liste ou un inventaire des technologies et des outils liés aux données utilisés par le gouvernement aiderait les gens à comprendre à quoi ressemble réellement l’utilisation de l’IA.
• Vous voulez que les règles qui s’appliquent au gouvernement s’appliquent également aux entreprises lorsqu’elles fournissent des services au gouvernement.

Résultats du sondage :

Au cours de la consultation, nous vous avons demandé de classer une liste de mesures potentielles que nous pourrions prendre pour garantir que les technologies d’intelligence artificielle soient développées de manière transparente.

Les répondants au sondage ont classé les actions suivantes, de la plus importante à la moins importante.

1. La mesure la plus importante selon les répondants est la suivante : Créer une responsabilité pour l’utilisation de l’IA au sein du gouvernement en donnant aux gens des droits pour s’attaquer aux biais potentiels créés par l’IA (par exemple, le droit à l’explicabilité, le droit de contestation et le droit de retrait).
2. La deuxième mesure la plus importante selon les répondants est la suivante : Faire preuve d’une transparence totale lors de l’utilisation d’algorithmes pour interagir avec le public (par exemple, des règles qui exigent d’informer le public s’il interagit avec une machine ou si des décisions sont prises à son sujet par un algorithme).
3. La troisième mesure la plus importante selon les répondants est la suivante : Offrir clarté et transparence au public sur la façon dont l’Ontario collecte les données pour les utiliser dans des algorithmes (par exemple, explorer les options pour mettre à jour les avis de collecte provinciaux afin d’informer le public si les données collectées sont utilisées pour développer des algorithmes pour la prise de décision).

Engagement n^o 2 : une IA digne de la confiance des Ontariennes et des Ontariens

Ce que nous avons appris

« Établir dans la législation et le cadre une reconnaissance des valeurs et des principes des droits de la personne, et un engagement à s’attaquer aux préjugés systémiques dans l’IA qui ont des effets négatifs ou qui ne tiennent pas compte de façon appropriée des besoins uniques des groupes protégés par le Code, y compris les populations vulnérables comme les personnes handicapées, les enfants et les personnes âgées, les communautés autochtones et racialisées, ainsi que les communautés à faible revenu »

• Tout outil d’intelligence artificielle (IA) utilisé doit être pleinement et clairement compris par les personnes qui l’utilisent.
• Vous voulez que nous examinions attentivement quand nous devons ou non utiliser l’IA.
• Un examen indépendant des outils d’IA et de leur utilisation est important pour gagner et conserver votre confiance.
• Pour faire confiance à l’utilisation par le gouvernement de technologies liées aux données, comme les algorithmes et l’IA, vous devez faire confiance aux données que le gouvernement utilise pour les créer et les exploiter.
• La confiance dans l’utilisation par le gouvernement de technologies liées aux données, telles que les algorithmes et l’IA, dans les processus de prise de décision nécessite un examen et une vérification périodiques des données et algorithmes sur lesquels reposent les décisions.
• Vous voulez que nous nous assurions que notre utilisation des technologies et outils liés aux données, y compris l’IA, fait ce qu’elle est censée faire - et le fait bien.
• Vous voulez être en mesure de vérifier que nous suivons nos propres règles.

Résultats du sondage :

Au cours de la consultation, nous vous avons demandé de classer une liste de mesures potentielles que nous pourrions prendre pour nous assurer que nous utilisons l’intelligence artificielle (IA) d’une manière qui inspire la confiance des Ontariennes et des Ontariens.

Les répondants au sondage ont classé les actions suivantes, de la plus importante à la moins importante.

1. La mesure la plus importante selon les répondants est la suivante : S’assurer que des processus soient en place pour que les algorithmes soient testés et évalués continuellement pour les biais/risques et pour savoir si des audits ou des contrôles de surveillance humaine sont requis.
2. La deuxième mesure la plus importante selon les répondants est la suivante : Formuler des recommandations sur les moyens de mettre à jour les règles, les lois et les directives de l’Ontario pour renforcer la gouvernance de l’IA, y compris l’adoption d’une approche fondée sur les risques pour déterminer quand les règles s’appliquent.
3. La troisième mesure la plus importante selon les répondants est la suivante : Évaluer l’occasion d’utiliser un outil d’évaluation algorithmique comme moyen de mesurer le risque, la sécurité et la qualité.

Engagement n^o 3 : une IA au service de la population ontarienne

Ce que nous avons appris

« Nous encourageons le gouvernement à considérer l’IA comme un outil permettant de mieux comprendre les besoins des personnes vulnérables et d’améliorer leurs conditions. Conformément à l’objectif d’une « IA au service de tous les Ontariens », la conception de l’IA doit être rendue accessible à tous afin que les impacts positifs puissent être ressentis plus largement. »

• Vous voulez que les systèmes d’intelligence artificielle (IA) fonctionnent pour les personnes qui n’ont pas facilement accès à la technologie.
• Vous voulez que nous évaluions équitablement le risque que représente l’utilisation d’outils liés aux données, comme l’IA, pour les personnes qu’ils servent - en particulier les populations vulnérables.
• Vous souhaitez disposer d’un moyen clair et simple pour apporter votre contribution, contester les décisions et influer sur les choix que nous faisons concernant l’utilisation par le gouvernement des technologies liées aux données, comme les algorithmes et l’IA.
• Vous voulez que nous proposions des solutions de remplacement aux services numériques liés aux données qui incluent l’IA, sans accepter une qualité de service inférieure.
• Vous voulez que le gouvernement :
  • vous parle de la façon dont l’utilisation des technologies liées aux données, comme l’IA, fonctionnera pour vous avant, pendant et après leur création;
  • utilise un langage simple et des descriptions claires lorsqu’on parle d’IA;
  • s’attaque aux préjugés et à la discrimination systémique dans les systèmes d’IA afin que les décisions de l’avenir puissent être justes et équitables;
  • crée des incitatifs pour que le secteur privé développe des outils éthiques que le gouvernement pourra utiliser.

Résultats du sondage :

Au cours de la consultation, nous vous avons demandé de classer une liste de mesures potentielles que nous pourrions prendre pour nous assurer de développer une intelligence artificielle au service de la population ontarienne.

 Les répondants au sondage ont classé les actions suivantes, de la plus importante à la moins importante.

1. La mesure la plus importante selon les répondants est la suivante :
   Intégrer l’équité et l’inclusion dans l’utilisation des données et des outils numériques en exigeant des organisations qu’elles prennent des mesures pour atténuer les inconvénients potentiels (par exemple, exigences relatives aux ensembles de données, exigences en matière de documentation pour la traçabilité, dispositions en matière de responsabilité).
2. La deuxième mesure la plus importante selon les répondants est la suivante : Évaluer si le gouvernement doit interdire l’utilisation de l’IA dans certains cas où les populations vulnérables courent un risque extrêmement élevé.
3. La troisième mesure la plus importante selon les répondants est la suivante : S’engager avec les leaders du secteur et la société civile à développer une norme pour une « IA digne de confiance » et un processus pour certifier que les fournisseurs respectent la norme du gouvernement.

Projets d’engagements et d’actions ayant fait l’objet de consultations

Vous trouverez ci-dessous les projets d’engagements et d’actions sur lesquels nous avons mené des consultations du 7 mai au 4 juin 2021.

Engagement n^o 1 : aucune IA utilisée de manière secrète

Problème

Pour que les gens croient que l’IA est sûre et appropriée, ils doivent d’abord être conscients de l’utilisation de l’IA par le gouvernement. Par conséquent, le gouvernement doit faire preuve de transparence quant à la manière, au moment et à la raison pour laquelle ces outils sont utilisés, afin que les gens aient le droit de s’attaquer aux préjugés potentiels créés par les algorithmes d’IA.

Déclaration de réussite future :

Le gouvernement fait preuve de transparence avec le public quant à son utilisation d'algorithmes pour traiter les demandes et le public est soutenu par le droit de contester une décision si une erreur est commise.

Engagement n^o 2 : une l’IA digne de la confiance des Ontariennes et des Ontariens

Problème

La protection des droits individuels et l’utilisation sûre et sécurisée des algorithmes nécessitent des règles et une gouvernance pour l’IA. Ceux qui construisent, achètent et utilisent l’IA ont la responsabilité envers la population de l’Ontario de mettre en place des barrières de sécurité appropriées avant d’utiliser la technologie. Une approche fondée sur les risques assurera la confiance du public dans l’utilisation des technologies d’IA, en veillant à ce que les cas d’utilisation potentiellement risqués adoptent les règles nécessaires pour assurer la sécurité et maintenir les droits individuels.

Déclaration de réussite future :

L'utilisation de l’IA dans les services gouvernementaux (comme le traitement des demandes) est évaluée en fonction des risques potentiels et tout préjudice potentiel est atténué par un cadre solide de meilleures pratiques de premier plan au niveau mondial.

Engagement n^o 3 : une IA au service de la population ontarienne

Problème

À mesure que les technologies alimentées par l’IA continuent de se développer, elles offrent de nouvelles façons d’offrir de meilleurs programmes et services aux Ontariennes et aux Ontariens. C’est pourquoi, à mesure que l’adoption de ces technologies augmente, il est essentiel que l’utilisation de l’IA respecte les principes démocratiques et les droits individuels et ne renforce pas les structures de discrimination existantes, n’étende pas la surveillance préjudiciable et ne menace pas la vie privée. Il est donc important d’exiger des normes élevées de la part des fournisseurs et que les gens disposent de voies claires pour contester les résultats et améliorer l’utilisation de l’IA dans la prise de décision.

Déclaration de réussite future :

L'utilisation des outils d’IA par le gouvernement sert le bien public et les personnes ont accès à des processus alternatifs s'ils souhaitent les utiliser.

Prochaines étapes

Nous vous remercions d’avoir partagé vos idées afin d’améliorer la confiance du public dans l’intelligence artificielle (IA).

Nous créerons et partagerons des actions pour chaque engagement à l’automne 2021 afin de répondre aux exigences de notre Partenariat pour un Gouvernement Ouvert.

Ces actions formeront notre cadre d’IA et nous continuerons d’être à votre écoute lorsque nous prendrons les mesures suivantes vers une utilisation de l’IA qui est digne de la confiance des Ontariennes et des Ontariens.