Vous avez des questions à propos des mesures économiques mises en place en soutien aux entreprises touchées par le coronavirus (COVID-19)? Consultez la page Québec.ca/coronavirus.  Ce lien mène à un site qui n'est peut-être pas soumis au standard gouvernemental sur l'accessibilité..

Ouvrir ou fermer le menu de navigation

La page est en cours de chargement...  

Obtenir du financement

S'améliorer

Créer des liens

Se conformer

Exporter

S'informer

Vecteurs – Veille stratégique en économie et innovation.

Actualités

États-Unis - 25 janvier 2021

Les risques de la prise de décision algorithmique dans le secteur public

Les applications de l’intelligence artificielle semblent innombrables, et l’on vante souvent leur capacité à réduire les inefficacités. Cependant, le site Brinks.  Ce lien mène à un site qui n'est peut-être pas soumis au standard gouvernemental sur l'accessibilité. lance un avertissement sur les éventuels risques associés à son utilisation dans les activités gouvernementales.

Certes, l’automatisation et la prise de décision algorithmique semblent offrir au secteur public la possibilité de réussir des économies majeures. En effet, ces technologies permettraient de résoudre des problèmes sans avoir à embaucher des spécialistes possédant une expertise particulière et très coûteuse. C’est un argument de taille à un moment où, à ce qu’il paraît, les gouvernements sont à court de ressources, qu’il s’agisse de personnel, d’argent ou de compétences.

Toutefois, selon Brinks, il ne faudrait pas voir dans les systèmes logarithmiques une solution rapide à des problèmes institutionnalisés très enracinés. On craint, par exemple, que les processus démocratiques puissent être subvertis si jamais les entreprises privées prennent un contrôle accru de l’infrastructure numérique publique.

Dans le contexte de la COVID-19, Brinks cible les technologies qui permettent le traçage des contacts ou le développement de nouveaux modèles prédictifs pour déterminer le rythme de propagation de la maladie afin d’évaluer la pertinence de confiner la population. Puisque ces technologies sont souvent développées par des entreprises privées, ces dernières pourraient avoir accès, sans notre consentement, à des données comportementales et sanitaires confidentielles qui sont habituellement hors de leur portée.

Brinks souligne trois difficultés liées à l’utilisation de la prise de décision logarithmique dans le secteur public. Elle mentionne d’abord la possibilité de biais. Ceux-ci peuvent être tolérés dans le secteur privé, mais ils sont tout à fait inacceptables dans le secteur public, où les besoins des minorités ne peuvent pas être ignorés. Il appert toutefois, selon Brinks, que des biais ont été détectés dans l’allocation du financement pour lutter contre la COVID-19 et qu’ils ont favorisé les communautés à revenu élevé par rapport aux communautés à faible revenu.

Ensuite, les technologies utilisées dans le secteur public doivent respecter des critères de conformité et des critères juridiques plus exigeants que la plupart des technologies dont on se sert dans le secteur privé. Éventuellement, des informations gouvernementales délicates pourraient être divulguées sur des plateformes commerciales. De plus, il semble que la prise de décision algorithmique pourrait enfreindre le droit de la procédure, en particulier l’utilisation d’algorithmes d’allocation pour déterminer les avantages de Medicare et de Medicaid.

Enfin, Brinks est d’avis qu’à l’heure actuelle, les marchés publics ne tiennent pas compte des facteurs de risque particuliers liés à l’utilisation des systèmes d’intelligence artificielle dans le secteur public. Notamment, les fournisseurs privés ne seraient pas tenus d’évaluer le risque que leurs modèles présentent pour certaines populations lors du développement de la technologie ou du processus d’approvisionnement. Il serait pertinent d’accroître la surveillance des processus d’acquisition des marchés publics en plus d’habiliter le comportement des élus, des décideurs et des citoyens. Ce faisant, dit-on, il serait possible d’exploiter de façon optimale la technologie dans le contexte gouvernemental.