Hot AI Summer Pt. 3 : La proposition du Canada

Par Laurent Carbonneau

L'été de l'IA n'a pas été de tout repos. Nous avons eu l'impression de voir chaque semaine des nouvelles importantes concernant l'IA : nouvelles lois, accords internationaux et accélération inexorable de la technologie elle-même. Il y a eu beaucoup à absorber.

Nous avons déjà examiné l'approche réglementaire des États-Unis, du Royaume-Uni, de l'Union européenne et de la Chine. Dans la dernière partie de notre série, nous nous pencherons sur le projet de loi sur l'IA du gouvernement fédéral canadien et sur la manière dont il pourrait être renforcé. ‍

La loi sur l'intelligence artificielle et les données ‍

Alors que le Parlement fédéral entamera sa session d'automne dans quelques semaines, c'est le moment idéal pour se mettre au courant du projet de loi C-27, qui comprend le projet de loi canadien sur l'IA, la Loi sur l'intelligence artificielle et les données (LADD ). Le projet de loi C-27 est un projet de grande envergure qui comprend également la première mise à jour importante de la législation canadienne sur la protection de la vie privée depuis une génération (enfin, la première depuis que la dernière tentative du gouvernement est morte à la dissolution de la dernière législature), et le Comité de l'industrie et des sciences (INDU) aura fort à faire pour s'attaquer à ce texte législatif très important.

À l'instar de la loi européenne sur l'IA, l'ACRA est essentiellement structurée de manière à établir des règles autour d'une catégorie, en l'occurrence ce que la loi appelle les systèmes "à fort impact". Toutefois, à la différence de l'UE, le projet de loi ne définit pas l'expression "à fort impact". Cette définition est laissée au processus de réglementation qui aura lieu après l'adoption de la loi. En réalité, au-delà de l'indication que la loi cherche à protéger les Canadiens contre les résultats et les préjudices biaisés, il n'y a pas grand-chose sur la substance des règles.

En bref, la loi crée la désignation "à fort impact" et stipule que les systèmes d'IA à fort impact seront soumis à des réglementations. Mais ce qui constitue un impact important et les réglementations qui régiront ces systèmes seront laissés à l'appréciation des bureaucrates.

D'un certain point de vue, c'est tout à fait raisonnable. La législation est lourde et le débit du Parlement n'est pas rapide. Ce n'est pas nécessairement une mauvaise chose, mais cela rend les ajustements législatifs constants très onéreux. Il n'est donc pas mauvais de retirer les éléments détaillés et normatifs de la gouvernance de l'IA du champ d'application de la législation.

D'un autre côté, les décisions d'investissement dans l'IA sont prises maintenant. L'incertitude est néfaste. La perspective d'une loi-cadre canadienne susceptible d'inclure des règles futures qui nous mettraient en porte-à-faux par rapport à d'autres marchés importants n'était pas idéale. Pour préciser ses intentions, l'ISED a pris la décision quelque peu inhabituelle de publier un document d'accompagnement (utile) de la loi qui met un peu plus de viande sur les os du plan de jeu du gouvernement en matière de gouvernance de l'IA.

L'un des principaux enseignements du document d'accompagnement est que le gouvernement souhaite que sa définition de "fort impact" maximise l'interopérabilité avec les lois d'autres juridictions et tienne compte d'une série de facteurs, notamment l'ampleur du déploiement et le risque pour la santé et la sécurité. C'est une très bonne chose. Un autre élément important est le calendrier proposé par le gouvernement : les consultations se dérouleraient après l'adoption de la loi et les règlements entreraient en vigueur au plus tôt en 2025.

Un nouveau commissaire à l'IA et aux données, prévu par l'ACRA, serait chargé de l'administration, y compris de la conformité et de l'application. Le document d'accompagnement indique que le commissaire adopterait initialement une approche légère ou éducative de ces éléments de son mandat.

Le document d'accompagnement donne également un aperçu de ce que pourrait être la réglementation. Les entreprises seraient tenues d'identifier et de traiter les risques pour les droits de l'homme ou les préjudices causés par leur utilisation de l'IA, et pourraient avoir à mettre en place des mesures pour assurer la surveillance humaine, la transparence, la responsabilité et la robustesse. La charge réglementaire pourrait être différente pour les entreprises qui interagissent avec des systèmes à fort impact en fonction de la manière dont elles interagissent avec les systèmes d'IA, c'est-à-dire en tant que développeurs ou en tant qu'utilisateurs finaux. ‍

Les enjeux

‍ Avant d'aller trop loin dans ce que nous pensons être les besoins d'AIDA, c'est l'occasion de réfléchir aux enjeux. Beaucoup de gens pensent que l'IA peut faire tout et même n'importe quoi. Mais jusqu'à présent, elle n'a pas démontré sa capacité à changer fondamentalement l'économie de l'innovation.

L'économie de la connaissance a une structure où le gagnant prend le plus, où le succès est un fossé qui se construit de lui-même. Les droits de propriété intellectuelle (DPI, par exemple les brevets) bloquent les concurrents potentiels. Les effets de réseau dans les utilisateurs et les données, dans lesquels l'utilisateur marginal ou le point de données marginal donne plus de valeur à tous les autres ou à toutes les données parce qu'ils permettent de nouvelles connexions ou de nouvelles corrélations, ont un impact considérable.

Le Canada possède des atouts dans le domaine de l'IA, en particulier dans la recherche. Mais nous ne sommes pas aussi forts dans l'élément le plus critique - la mise à l'échelle des entreprises. Le Canada dispose d'une stratégie en matière d'IA depuis 2017. Nous avons été l'un des premiers pays à mettre en place une telle stratégie. Mais malheureusement pour nous, cette stratégie, qui visait à attirer les meilleurs talents mondiaux pour qu'ils fassent leurs recherches ici, ne tenait pas compte de cet élément important. Sur les quelque 250 DPI générés par la stratégie, 75 % sont détenus par des entités étrangères, et en particulier par des géants américains de la technologie comme Uber, Facebook et Google.

Si nous admettons que le succès dans l'économie de l'innovation tend à engendrer le succès, alors faire tout ce qui est possible pour promouvoir la croissance d'entreprises canadiennes compétitives afin qu'elles deviennent des acteurs mondiaux à cette frontière technologique extrêmement prometteuse est la priorité évidente de la politique publique à poursuivre. Ce n'est pas facile à réaliser, mais les tentatives tardives de rattrapage seront encore plus difficiles.

Alors, comment l'ACRA peut-elle jeter des bases solides pour des entreprises canadiennes compétitives à l'échelle mondiale ? ‍

Mise au point d'AIDA ‍

L'approche de l'UE est relativement proche de la nôtre, mais elle est un peu plus lourde. Les États-Unis ont une approche désordonnée avec une touche trop légère qui ne favorisera pas la confiance dans les produits américains. Le Royaume-Uni poursuit une démarche un peu à part par rapport à ses principaux partenaires, ce qui freine son approche même si elle est intelligente.

Le Canada a la possibilité de réunir le meilleur de chaque système et de créer un cadre fiable ainsi qu'une approche économique et souple de la réglementation.

La première étape consiste à promouvoir la confiance. L'approche globale d'AIDAest bonne, mais pourrait être renforcée. Ces technologies sont nouvelles et auront un impact considérable. La loi devrait aller un peu plus loin et énoncer clairement ce que les Canadiens peuvent attendre en termes de protections et d'obligations, peut-être dans un préambule. La deuxième chose à faire est de créer une institution parallèle au commissaire à l'IA et aux données du gouvernement : un nouveau responsable parlementaire pour la science et la technologie, installé au Parlement, pour informer les Canadiens et les parlementaires sur les nouvelles technologies et leur impact dans l'optique de l'intérêt public. Non seulement cela donnerait aux Canadiens l'assurance d'avoir un chien de garde, mais un mandat pour informer les parlementaires garantirait que la législation future soit plus solide.

Le deuxième élément essentiel concerne les réglementations. Celles-ci devraient être aussi claires et simples que possible et permettre l'utilisation de [bacs à sable réglementaires](https://letstalkfederalregulations.ca/sandboxes?tool=story_telling_tool#:~:text=Aussi connus sous le nom de réglementation, de changements réglementaires ou de décisions - tous) pour tester de nouvelles utilisations. Il est très important que la loi permette, comme le fait la loi européenne sur l'IA, la reconnaissance des normes dans le champ d'application de la loi. En évitant aux pouvoirs publics d'avoir à élaborer des réglementations alors qu'une norme transparente et complète que notre service public juge adaptée à l'esprit de notre approche politique nous aiderait à mettre en place plus rapidement un appareil plus complet - essentiellement, cela nous éviterait d'avoir à faire notre propre travail et nous mettrait dans la position enviable de simplement copier le travail des meilleurs experts. Le fait que la reconnaissance des normes signifie généralement une interopérabilité plus facile au-delà des frontières nationales est un bonus (considérable). ‍

Au-delà de la loi ‍

Une fois la loi adoptée, le plus dur commencera. Nous devrions nous efforcer de mettre en place un code relativement complet aussi rapidement que possible - des éléments tels que la reconnaissance des normes, mentionnée plus haut, y contribueront considérablement. Mais il faudra aussi donner la priorité à l'élaboration de réglementations concernant les utilisations les plus sensibles. Ce dont nous avons essentiellement besoin, c'est d'un "produit minimum viable" que l'industrie peut planifier.

L'idée que cette loi n'entrera pas en vigueur avant 2025 est beaucoup trop lente.

Enfin, nous voudrons assurer autant que possible l'alignement international tout en maintenant la confiance dans nos systèmes, mais plus de rapidité et de clarté au début du processus nous aideront à définir les conditions des négociations et des groupes de travail plus que ne le ferait un retard.

Il y a une impulsion - à laquelle je suis sensible - selon laquelle tout cela doit être ralenti et que ces technologies ont besoin et méritent d'être examinées attentivement. Malheureusement, ni les technologies de l'IA ni l'économie de l'innovation n'attendront que quelqu'un les rattrape. Et les obstacles à l'utilisation et à l'adoption sont faibles. Pour développer ou utiliser des outils d'IA, il suffit d'une connexion internet (et d'une capacité de calcul coûteuse). Un cadre de gouvernance solide et flexible permettant à des entreprises solides sont les meilleurs atouts que le Canada peut apporter à la ruée mondiale vers l'or de l'IA. ‍

CCI Mooseworks est le bulletin d'information sur l'innovation et la politique économique au Canada du Conseil des innovateurs canadiens - un conseil d'entreprise national qui se consacre exclusivement aux entreprises technologiques à forte croissance.

Vous pouvez lire quelques-uns de nos articles récents ici :

• Hot AI Summer Pt. 1 : Les États-Unis et le Royaume-Uni
• Hot AI Summer Pt. 2 : L'UE et la Chine
• Les trois pièges mortels de l'IDE en matière d'innovation

Si vous souhaitez recevoir les futures mises à jour de l'ICC directement dans votre boîte de réception, abonnez-vous ici.