Politique d'IA responsable
Régissant la conception, le déploiement et la surveillance des fonctionnalités d'intelligence artificielle et d'apprentissage automatique
La présente politique énonce comment Baseline Telematics Inc. (« Baseline ») conçoit, déploie, surveille et divulgue les fonctionnalités d'intelligence artificielle et d'apprentissage automatique (« IA/AA ») au sein de ses produits. Elle s'applique à toute fonctionnalité d'IA/AA actuelle et future que Baseline développe ou intègre, à ce jour, il s'agit des fonctionnalités Citycare Video AI construites autour de la caméra avant montée sur véhicule, ainsi qu'à tout employé, entrepreneur ou sous-traitant participant à la conception, à l'entraînement, au déploiement ou à l'exploitation de ces fonctionnalités.
Cette politique existe pour trois raisons. D'abord, Baseline dispose désormais d'une IA de vision par ordinateur réelle, en production, des modèles TensorFlow embarqués détectant la présence de bacs, les défauts de chaussée, la signalisation manquante et les lampadaires hors service, avec une IA côté serveur et des modèles personnalisables par le client (via Roboflow) à venir sous peu, et cette capacité nécessite un cadre de gouvernance, et non une simple explication au cas par cas. Ensuite, les clients de Baseline sont des municipalités, et les acheteurs municipaux s'attendent de plus en plus à une posture de gouvernance de l'IA documentée comme condition pour faire affaire, le format de fiche signalétique du fournisseur d'IA que la Ville de Worcester a utilisé pour évaluer Baseline est lui-même calqué sur la norme de divulgation des fournisseurs de la GovAI Coalition, désormais utilisée par des dizaines de gouvernements locaux en Amérique du Nord. Enfin, la publication de cette politique constitue la suite logique et honnête après que les réponses de Baseline à des fiches signalétiques aient signalé à plusieurs reprises l'absence d'une telle politique comme une lacune.
Cette politique ne s'applique pas à l'utilisation par Baseline d'outils d'IA à usage général pour la productivité interne (p. ex. assistants de programmation, outils de rédaction), à moins que ces outils n'aient accès aux données de production des clients; cette utilisation est couverte séparément par les lignes directrices internes d'utilisation acceptable de Baseline.
2. Principes directeursLes principes d'IA de Baseline sont adaptés des Principes de l'OCDE sur l'IA (mise à jour de mai 2024) et des caractéristiques de fiabilité définies dans le cadre de gestion des risques liés à l'IA du NIST (AI RMF 1.0), à l'échelle d'une entreprise de la taille de Baseline. Il ne s'agit pas d'un langage promotionnel aspirationnel, chacun de ces principes correspond à une pratique concrète décrite plus loin dans la présente politique, et l'annexe A illustre explicitement cette correspondance.
- Surveillance humaine et responsabilisation. Aucune fonctionnalité d'IA de Baseline ne pose de geste autonome à l'encontre d'une personne, d'une propriété ou d'un dossier municipal. Chaque détection est une suggestion qu'une personne désignée examine avant qu'elle ne devienne un dossier officiel, et une personne désignée chez Baseline est responsable du programme d'IA (section 3).
- Transparence et explicabilité. Chaque déploiement doté de l'IA est accompagné d'une fiche signalétique d'IA en langage clair décrivant ce que fait le système, quelles données il utilise et quelles sont ses limites, avant que la fonctionnalité ne soit activée, pas après. Chaque détection individuelle est accompagnée des éléments de preuve (photo, court extrait vidéo, coordonnées GPS, horodatage) dont une personne a besoin pour en juger.
- Équité et gestion des biais. Baseline reconnaît, plutôt que de le dissimuler, que la détection basée sur la caméra peut donner un rendement inégal selon les quartiers, les conditions d'éclairage et le matériel utilisé. Baseline s'engage à développer des outils de surveillance des biais, à divulguer honnêtement l'absence d'une étude tant qu'elle n'existe pas, et à ne pas déployer une fonctionnalité dans un contexte lié à l'application de la réglementation ou à fort enjeu sans avoir d'abord réalisé une évaluation des biais et des répercussions.
- Protection de la vie privée et minimisation des données. Les fonctionnalités basées sur la caméra sont optionnelles, activables ville par ville et trajet par trajet, ne captent que l'image ou la vidéo (jamais l'audio), et sont régies par la même entente de traitement des données qui couvre le reste de la plateforme, les données des clients ne sont jamais utilisées à une fin autre que la prestation et l'amélioration du service sous contrat.
- Sécurité et robustesse. Les fonctionnalités d'IA héritent du programme de sécurité applicative et infonuagique existant de Baseline (voir les politiques de sécurité TI de Baseline), chiffrement des données en transit et au repos, accès selon le principe du moindre privilège aux données d'entraînement et aux modèles, et un processus de mise en production testé pour chaque mise à jour de modèle.
- Limitation de la finalité. Les fonctionnalités d'IA sont conçues pour résoudre un problème opérationnel précis et nommé (un bac manqué, un nid-de-poule, une rue mal éclairée), elles ne sont pas conçues comme un outil de surveillance à usage général, et ne sont pas réaffectées à un nouvel usage sans un nouvel examen en vertu de la présente politique.
- Amélioration continue, suivie honnêtement. Là où Baseline présente une lacune, aucune étude sur les biais, aucun indicateur de précision publié formellement, aucun audit d'accessibilité WCAG, la présente politique nomme la lacune et s'engage envers un plan, plutôt que de garder le silence (annexe B).
Paul-André Savoie, président-directeur général, est le responsable redevable de la présente politique et du programme d'IA de Baseline, jusqu'à ce que Baseline désigne formellement un rôle dédié à la gouvernance de l'IA. Cela reflète le modèle de gouvernance de la sécurité déjà en place chez Baseline, où le PDG est le promoteur du programme de sécurité de l'information décrit dans les politiques de sécurité TI de Baseline.
3.2 Examen et approbation des nouvelles fonctionnalités d'IAAvant qu'une nouvelle capacité d'IA/AA ne soit développée ou qu'une nouvelle catégorie de détection ne soit ajoutée à une capacité existante, celle-ci doit être examinée à la lumière de la présente politique, notamment :
- Quelle décision ou quel dossier le résultat alimente-t-il, et une personne doit-elle l'examiner avant qu'il ne prenne effet?
- Quelles données entraînent ou alimentent le modèle, à qui appartiennent-elles, et le contrat du client couvre-t-il cette utilisation?
- La fonctionnalité pourrait-elle donner un rendement inégal selon une catégorie protégée ou un indicateur géographique ou démographique qui s'y substitue, et cela a-t-il été pris en compte avant le lancement, et non seulement après une plainte?
- La fonctionnalité capte-t-elle quelque chose (images de personnes, plaques d'immatriculation, propriété privée, audio) qui soulève une préoccupation propre à une juridiction en matière de vie privée, de règlement sur la surveillance ou d'écoute électronique, et cela a-t-il été vérifié pour la juridiction de déploiement?
- Quel est le plan en cas d'erreur du modèle, comment une détection erronée est-elle corrigée, et cette correction améliore-t-elle le modèle?
Chaque client potentiel ou existant qui évalue un déploiement de Baseline doté de l'IA reçoit une fiche signalétique du fournisseur d'IA dûment remplie (ou l'équivalent propre au client) avant que les fonctionnalités basées sur la caméra ne soient activées sur son compte, non seulement sur demande. Baseline considère la fiche signalétique comme un document évolutif : elle est mise à jour chaque fois que la capacité sous-jacente change de façon importante (nouvelle catégorie de détection, passage d'une inférence en périphérie uniquement à une inférence côté serveur, changement quant à l'utilisation des images du client pour entraîner des modèles partagés).
4. Les systèmes d'IA/AA de Baseline
Cette section constitue l'inventaire faisant autorité, en langage clair, de l'IA que Baseline exploite réellement. Elle doit servir de source de vérité pour toute future fiche signalétique, tout appel d'offres ou tout questionnaire de sécurité, si une description ailleurs dans un document de Baseline entre en contradiction avec la présente section, cette dernière prévaut.
4.1 Citycare Video AI
Citycare Video AI est le nom générique donné à la capacité de vision par ordinateur de Baseline, construite autour d'une caméra avant optionnelle montée sur véhicule. Cette fonctionnalité est optionnelle, activable ville par ville et trajet par trajet; un déploiement de Citycare dont la fonctionnalité caméra est désactivée ne comporte aucune composante d'IA/AA active.
- IA en périphérie (en production). Des modèles de vision par ordinateur TensorFlow / TensorFlow Lite s'exécutent localement sur l'appareil de terrain, en temps réel, sans aller-retour constant vers un serveur, ce qui est cohérent avec l'architecture de Citycare pouvant fonctionner hors ligne, avec stockage et retransmission différée.
- IA côté serveur (déploiement en cours). Des charges de travail de vision par ordinateur plus exigeantes pour le même flux de la caméra, exécutées sur Google Cloud, sont en cours de déploiement pour compléter les modèles en périphérie.
- Cas d'usage de détection déjà en production ou en déploiement prochain :
- Vérification de la collecte des déchets résidentiels, présence ou absence d'un bac à un arrêt de collecte.
- Détection de l'état des routes lors des patrouilles, nids-de-poule et défauts de la chaussée.
- Inventaire des infrastructures, panneaux de signalisation visibles dans les images mais non encore consignés dans le système de gestion des actifs de la ville.
- Détection nocturne des lampadaires hors service.
- Modèles personnalisables et sur mesure par le client. Un « mode de relevé » capte une photo environ toutes les 10 secondes le long d'un trajet; les images sont téléversées vers Roboflow, où un client peut annoter les images afin de raffiner les modèles existants de Baseline ou d'entraîner une toute nouvelle catégorie de détection. Le modèle de détection de graffitis sur les bâtiments de la Ville de Montréal, entraîné à partir des images des trajets de Montréal, est l'exemple concret de ce flux de travail.
4.2 Ce que Citycare Video AI n'est pas
- Ce n'est pas de la reconnaissance faciale, et cela n'est ni conçu ni destiné à identifier une personne en particulier.
- Cela ne déclenche aucune mesure automatique d'application de la réglementation, de facturation ou de constat d'infraction, chaque détection est un dossier suggéré, soumis à un examen humain (section 6).
- Cela ne capte aucun son.
4.3 Autres capacités d'IA dans l'environnement de Baseline
L'environnement Google Cloud sous-jacent de Baseline donne accès à d'autres services d'IA/AA (par exemple Gemini, Vertex AI, DialogFlow CX, Cloud Vision) qui ne font pas partie de Citycare Video AI et qui ne sont pas utilisés activement en production dans la plateforme principale à ce jour. Toute utilisation future de ces services dans une fonctionnalité destinée aux clients est assujettie à la présente politique et nécessite l'examen décrit à la section 3.2 avant son lancement, cela n'entre pas automatiquement dans la portée simplement parce que le compte infonuagique sous-jacent y a accès.
5. Gouvernance des données pour l'IA5.1 Provenance des données d'entraînement
Les modèles de détection propres à Baseline (présence de bacs, nids-de-poule, signalisation manquante, lampadaires hors service) sont entraînés par l'équipe d'apprentissage automatique de Baseline. Les modèles spécifiques à un client ou sur mesure sont entraînés ou affinés à partir des images génériques des trajets, annotées via Roboflow par le client ou par Baseline pour le compte du client, et sont enrichis de façon continue à mesure que de nouveaux trajets sont parcourus et que de nouvelles annotations sont réalisées. Toutes les images d'entraînement proviennent des trajets sous contrat d'un client, captées dans le cadre de l'entente de service de ce client, Baseline ne tire ses images d'entraînement d'aucune autre source.
5.2 Propriété des données et utilisation aux fins d'amélioration des modèles
Les images des trajets captées par les véhicules d'un client demeurent la propriété de ce client en vertu de l'entente de traitement des données de Baseline, exactement comme pour le reste de la plateforme Citycare. Il s'agit de la seule exception significative à la posture générale de Baseline voulant que « les données d'un client ne servent jamais à améliorer quoi que ce soit en dehors du compte de ce client » ailleurs dans le produit : lorsqu'un client utilise le flux de travail basé sur Roboflow, ses images peuvent servir à améliorer les modèles de détection partagés de Baseline, au bénéfice de tous les clients utilisant ce modèle, ceci est divulgué directement au client (comme ce fut le cas pour Worcester) plutôt que laissé comme un choix par défaut enfoui dans des clauses standards.
5.3 Conservation et minimisation
Les images captées et les courts extraits vidéo sont conservés pour appuyer le processus d'examen humain et, lorsque le flux de travail basé sur Roboflow du client est utilisé, pour appuyer l'entraînement ou le raffinement des modèles. Baseline n'a pas encore publié de calendrier de conservation fixe propre à ces images, distinct des modalités générales de conservation des données de la plateforme (section 3, base de connaissances en sécurité TI de Baseline), ce point est relevé à l'annexe B comme un élément à formaliser, notamment étant donné que le cas d'usage de détection des bacs résidentiels implique des images captées près de domiciles privés.
5.4 Contenu personnellement identifiable dans les images
Baseline n'a pas encore publié de politique définitive quant à la possibilité que les images captées comprennent accessoirement des personnes identifiables, des visages ou des plaques d'immatriculation, ni quant à l'application d'un floutage ou d'une rédaction. Ce point est traité comme un élément en suspens (annexe B) plutôt que passé sous silence, et devrait être réglé, au moyen d'une réponse technique et contractuelle documentée, avant que cette capacité ne soit déployée à plus grande échelle dans une juridiction dotée d'une loi rigoureuse sur la protection des renseignements biométriques.
6. Surveillance humaine et le modèle en « mode d'apprentissage »
Chaque détection de Citycare Video AI, un bac manquant, un nid-de-poule, un panneau non répertorié, un lampadaire éteint, un signalement de graffiti, est générée dans ce que Baseline appelle le mode d'apprentissage : un superviseur ou un inspecteur de la ville examine, confirme ou rejette chaque détection à l'intérieur du flux de travail habituel de tâches ou d'inspection de Citycare, avant qu'elle ne devienne un dossier officiel. Aucune détection n'est reliée à une mesure automatique d'application de la réglementation ou de facturation.
Cette exigence de supervision humaine constitue le principal contrôle sur lequel Baseline s'appuie actuellement pour détecter les erreurs du modèle en production, en l'absence d'un indicateur de précision publié (section 7). Les détections rejetées ou corrigées peuvent être réintégrées dans le pipeline d'annotation de Roboflow afin d'améliorer les futures versions du modèle, bien qu'à ce jour cette boucle de rétroaction soit manuelle et périodique plutôt que pleinement automatisée.
Baseline ne dispose pas actuellement d'un processus documenté et fondé sur des critères précisant à quel moment une catégorie de détection pourrait passer d'un examen humain obligatoire à un degré d'automatisation plus élevé. Avant que Baseline ne propose de réduire l'examen humain pour une catégorie de détection, la présente politique exige, au minimum : une évaluation complète des biais et de la précision pour ce modèle en particulier (section 7), au moins un cycle complet de données de production en mode d'apprentissage, et l'accord explicite du client, et non une décision unilatérale de Baseline.
7. Équité et gestion des biais
Aucune étude indépendante sur les biais, la précision ou l'impact disproportionné n'a été réalisée sur un modèle de Citycare Video AI à la date d'entrée en vigueur de la présente politique. Baseline l'affirme clairement plutôt que de laisser entendre le contraire. Le risque est réel, et non hypothétique : les taux de faux négatifs pourraient plausiblement varier selon le quartier ou le type de rue (couvert d'arbres et véhicules stationnés obstruant le champ de vision de la caméra, styles ou emplacements de bacs non standards), selon les conditions d'éclairage et météorologiques, ainsi que selon la qualité du matériel de la caméra ou du véhicule, autant de facteurs pouvant être corrélés à la démographie d'un quartier, même en l'absence de toute intention de discrimination.
Mesures d'atténuation actuelles et prévues de Baseline :
- Chaque détection fait l'objet d'un examen humain obligatoire avant de devenir un dossier (section 6), ce qui constitue la principale mesure de protection à ce jour.
- Des outils de surveillance des biais, pour détecter et aider à corriger des taux de détection inégaux selon les quartiers, sont en cours de développement pour une prochaine version.
- Avant qu'un modèle de Citycare Video AI ne soit utilisé dans un contexte lié à l'application de la réglementation, à des amendes ou à une décision d'admissibilité à un service (par opposition à une simple piste opérationnelle pour le personnel municipal), Baseline s'engage à réaliser ou à commander au préalable une évaluation des biais et de l'impact disproportionné, et à en communiquer la méthodologie et les résultats au client concerné.
- Baseline ne décrira un modèle comme « testé pour les biais » ou « validé » dans aucune communication future avec un client, à moins qu'une étude précise n'appuie cette affirmation.
8. Sécurité et robustesse
Citycare Video AI hérite du programme de sécurité applicative et infonuagique existant de Baseline plutôt que de fonctionner selon une norme distincte, voir la base de connaissances en sécurité TI de Baseline et les politiques de sécurité TI de Baseline pour le programme complet. Précisions pertinentes pour les fonctionnalités d'IA :
- Les images captées et les métadonnées de détection sont chiffrées en transit (TLS 1.2/1.3) et au repos (AES-256), comme pour le reste de la plateforme.
- L'accès aux images d'entraînement, aux outils d'annotation (Roboflow) et aux artefacts de modèles est restreint selon le principe du moindre privilège, au personnel autorisé de Baseline et, le cas échéant, aux annotateurs autorisés du client lui-même.
- Les mises à jour de modèles, qu'il s'agisse d'un modèle en périphérie transmis à un appareil de terrain ou d'une nouvelle version côté serveur, suivent le processus habituel de gestion du changement et d'intégration/livraison continues de Baseline (base de connaissances en sécurité TI de Baseline, section 3), y compris un déploiement progressif.
- Les clients peuvent choisir de demeurer sur une version antérieure du modèle et recevront un préavis avant que cette version ne soit retirée, plutôt que d'être migrés de force sans avertissement.
9. Transparence, envers les clients et le public
Baseline s'engage envers les pratiques de transparence suivantes pour toute fonctionnalité dotée de l'IA :
- Fiche signalétique avant activation. Une fiche signalétique du fournisseur d'IA dûment remplie est fournie avant qu'une fonctionnalité d'IA basée sur la caméra ne soit activée pour un client, décrivant l'objectif, l'utilisation des données, les limites et les lacunes connues, calquée sur les catégories de divulgation utilisées par la norme de fiche signalétique des fournisseurs municipaux de la GovAI Coalition, soit le format que Worcester elle-même a utilisé pour évaluer Baseline.
- Éléments de preuve pour chaque détection. Chaque détection comporte sa photo source, un court extrait vidéo (environ cinq secondes avant et après l'image déclenchante), les coordonnées GPS et l'horodatage, afin qu'une personne chargée de l'examen puisse voir exactement pourquoi le système a signalé quelque chose.
- Aucune expansion silencieuse de la portée. Une nouvelle catégorie de détection ou un passage d'un traitement en périphérie uniquement à un traitement côté serveur ou automatisé est considéré comme un changement important nécessitant une mise à jour de la fiche signalétique et, conformément à la section 6, ne constitue jamais une façon de supprimer l'examen humain sans l'accord du client.
- Des lacunes assumées plutôt qu'un silence soigné. Lorsque Baseline n'a pas encore de réponse, indicateurs de précision quantifiés, étude sur les biais, audit d'accessibilité WCAG, cette lacune est indiquée directement dans les documents destinés aux clients plutôt qu'omise (annexe B).
10. Considérations relatives à la protection de la vie privée et aux aspects juridiques et réglementaires
La captation d'images de la voie publique par un véhicule municipal constitue une pratique municipale courante, mais le cas d'usage de détection des bacs résidentiels de Citycare Video AI implique précisément la prise de photos du trottoir et de la façade de domiciles privés, ce qui peut soulever des attentes locales en matière de vie privée allant au-delà d'une caméra de bord classique. Posture actuelle de Baseline et éléments en suspens :
- Seules les images et vidéos sont captées, jamais l'audio, ce qui vise à écarter l'application des lois sur l'écoute électronique exigeant le consentement des deux parties (y compris celle du Massachusetts); ce point devrait être confirmé auprès d'un conseiller juridique avant que la fonctionnalité ne soit présentée comme conforme dans une juridiction donnée.
- Un certain nombre de municipalités, y compris certaines au Massachusetts, ont adopté des règlements de contrôle des technologies de surveillance exigeant un avis public ou l'approbation du conseil municipal avant le déploiement d'un nouveau système de détection basé sur la caméra. Baseline ne suit pas de façon indépendante le statut réglementaire de chaque juridiction cliente, confirmer l'applicabilité (par exemple, pour Worcester en particulier) relève d'une responsabilité partagée entre le client qui déploie la solution et Baseline avant la mise en service d'un trajet, et devrait être vérifié explicitement plutôt que présumé réglé.
- Les modalités de traitement des données (politique de confidentialité, politique relative aux témoins, entente de traitement des données) s'appliquent aux images captées par l'IA exactement comme au reste de la plateforme; les principes de la LPRPDE et ceux inspirés du RGPD encadrent le traitement transfrontalier, le cas échéant.
- Les régimes propres à certains secteurs que Baseline a constamment jugés non applicables à son produit, PCI DSS, FERPA, COPPA, CIPA, HIPAA, CJIS, devraient être reconfirmés pour chaque entente plutôt que présumés s'étendre automatiquement à un nouveau cas d'usage de l'IA.
11. Outils d'IA tiers et sous-traitants
La chaîne d'approvisionnement en IA/AA de Baseline comprend actuellement :
- Google Cloud Platform, hébergement pour la distribution des modèles en périphérie et pour l'inférence côté serveur en cours de déploiement, en plus d'un accès optionnel aux services d'IA/AA de Google (section 4.3), encadré par les certifications SOC 2 / ISO 27001 / ISO 27017 / ISO 27018 de Google.
- Roboflow, utilisé pour l'annotation d'images ainsi que pour l'entraînement ou l'affinement des modèles de détection personnalisables et sur mesure par le client.
Tout nouveau sous-traitant en IA/AA est soumis à la même diligence raisonnable que Baseline applique à sa chaîne d'approvisionnement existante (base de connaissances en sécurité TI de Baseline, section 3, Gestion de la chaîne d'approvisionnement), et est divulgué aux clients concernés conformément à l'entente de traitement des données de Baseline.
12. Signalement des incidents et escalade des problèmes
Un client, ou une détection individuelle, peut être signalé ou corrigé par les mêmes canaux que Baseline utilise pour tout problème lié à la plateforme : clavardage en direct dans l'application 24 heures sur 24, 7 jours sur 7, portail de soutien et billetterie par courriel, le tout suivi sous forme de dossiers de soutien jusqu'à leur résolution. De plus, toute détection d'IA peut être corrigée ou rejetée directement par le personnel municipal à l'intérieur du flux de travail de Citycare, au moment de l'examen, aucun canal de signalement distinct propre à l'IA n'est requis pour apporter une correction touchant cette détection.
Un problème propre à l'IA qui laisse entrevoir un enjeu systémique (une tendance de faux négatifs dans un secteur donné, un signal possible de biais, une préoccupation en matière de vie privée soulevée par un résident ou un conseil municipal) est escaladé à l'interne auprès du responsable de la politique (section 3.1) plutôt que traité uniquement comme un billet de soutien individuel, et est consigné comme intrant aux travaux de surveillance des biais et d'amélioration des modèles décrits à la section 7.
13. Examen, surveillance et amélioration continue
- La présente politique est révisée au moins une fois par année, et immédiatement lors de l'ajout de toute nouvelle capacité d'IA importante (nouvelle catégorie de détection, passage à un traitement côté serveur ou automatisé, nouveau sous-traitant).
- L'annexe B fait le suivi des engagements en suspens, avec un responsable et une échéance; elle est révisée selon le même rythme et mise à jour à mesure que les éléments sont réglés.
- Baseline compare de façon informelle ses pratiques au cadre AI RMF du NIST, à la norme ISO/IEC 42001, aux Principes de l'OCDE sur l'IA et à la norme de divulgation des fournisseurs municipaux de la GovAI Coalition (annexe A), plutôt que de viser une certification formelle à ce stade, une certification formelle (p. ex. ISO/IEC 42001) constitue une étape future possible à mesure que l'empreinte de l'IA de Baseline s'accroît, ce qui est signalé ici pour que la direction en tienne compte de façon continue, sans engagement à une date fixe.
Annexe A : Concordance avec les cadres externes
Ce tableau illustre la correspondance entre les pratiques de Baseline et les caractéristiques de fiabilité du cadre de gestion des risques liés à l'IA du NIST (AI RMF 1.0), ainsi que les principes fondés sur des valeurs des Principes de l'OCDE sur l'IA (mise à jour de 2024), les deux cadres de gouvernance de l'IA les plus largement cités en Amérique du Nord. Il s'agit également du cadre que des organismes municipaux de gouvernance de l'IA comme la GovAI Coalition utilisent pour évaluer les divulgations des fournisseurs, telles que la fiche signalétique du fournisseur d'IA que Baseline a remplie pour la Ville de Worcester.
|
Caractéristique / principe du cadre |
Source |
Où Baseline y répond |
|---|---|---|
|
Validité et fiabilité |
AI RMF du NIST |
Contrôle par examen humain pour chaque détection (section 6); évaluation des biais et de la précision prévue avant tout usage lié à l'application de la réglementation (section 7). |
|
Sécurité (innocuité) |
AI RMF du NIST |
Aucune mesure automatique d'application de la réglementation ou de facturation découlant d'une détection (sections 4.2, 6). |
|
Sécurité et résilience |
AI RMF du NIST |
Chiffrement, accès selon le moindre privilège, déploiements de modèles progressifs (section 8). |
|
Responsabilisation et transparence |
AI RMF du NIST / OCDE |
Responsable de la politique nommé (section 3); fiche signalétique d'IA fournie avant l'activation (section 9). |
|
Explicabilité et interprétabilité |
AI RMF du NIST / OCDE |
Photo, court extrait vidéo, GPS et horodatage accompagnent chaque détection (section 9). |
|
Protection accrue de la vie privée |
AI RMF du NIST / OCDE (droits de la personne et vie privée) |
Fonctionnalité optionnelle par trajet, image et vidéo seulement (aucun audio), utilisation encadrée par l'entente de traitement des données, éléments de conservation et de RPI suivis ouvertement (sections 5, 10, annexe B). |
|
Équité, gestion des biais préjudiciables |
AI RMF du NIST / OCDE |
Risque de biais énoncé explicitement, mesures d'atténuation et feuille de route à la section 7. |
|
Droits de la personne et valeurs démocratiques |
OCDE |
Supervision humaine intégrée dès la conception (section 6); vérification des règlements sur la surveillance propres à la juridiction avant le déploiement (section 10). |
|
Robustesse, sécurité et innocuité |
OCDE |
Section 8; hérite du programme de sécurité TI plus large de Baseline. |
|
Croissance inclusive et bien-être |
OCDE |
Les détections sont présentées comme des pistes opérationnelles qui améliorent la prestation de services (p. ex. réparation plus rapide des nids-de-poule, collectes plus fiables), et non comme des outils d'application de la réglementation destinés aux résidents. |
Sources et lectures complémentaires
Cette politique s'appuie sur les cadres et ressources externes suivants, à jour en date d'août 2026 :
- Cadre de gestion des risques liés à l'IA du NIST (AI RMF 1.0), airc.nist.gov/airmf-resources/airmf/0-ai-rmf-1-0/
- Principes de l'OCDE sur l'IA (mise à jour de 2024), oecd.ai/en/ai-principles
- ISO/IEC 42001:2023, systèmes de management de l'IA, iso.org/standard/42001
- Fiche signalétique des fournisseurs municipaux et ressources de gouvernance de la GovAI Coalition, le format à la base de la fiche signalétique du fournisseur d'IA que la Ville de Worcester a utilisée pour évaluer Baseline.