Les répercussions des décisions prises par des machines sur la société

Un ordinateur peut-il conclure des contrats?

C’est l’une des questions qui a éveillé l’intérêt du titulaire de la Chaire de recherche du Canada en éthique, droit et technologie, Ian Kerr, pour les interactions humain-machine et leurs répercussions sur la société.

La première fois que cette question a été soulevée, il y a plus de vingt ans, c’était surtout l’aspect pratique qui retenait l’attention. Dans le secteur émergent du commerce électronique, les fournisseurs cherchaient un moyen d’automatiser les transactions – et un nouveau cadre juridique qui garantirait la validité des transactions effectuées par les ordinateurs.

Chez M. Kerr, cela a soulevé une multitude de questions d’ordre philosophique, éthique et juridique sur la nature des ordinateurs, les tâches qu’on devrait leur permettre d’accomplir de façon autonome et les politiques à adopter pour leur gouvernance.

« Je suis fasciné par la fusion des humains et des machines – ce qui se produit quand on commence à insérer des pièces mécaniques dans les êtres humains et à conférer des attributs humains aux machines, fait-il remarquer. Comment conserver notre humanité quand les machines envahissent notre vie? »

Laisser les machines décider

Comme nous confions de plus en plus de tâches à l’intelligence artificielle, M. Kerr s’est penché sur plusieurs questions connexes. Par exemple, la surveillance numérique automatisée compromet-elle la vie privée si les données recueillies ne sont jamais vues par un être humain? Comment veiller à ce que la conception et le fonctionnement des véhicules sans conducteur soient conformes aux droits à la mobilité et à l’égalité? Devrait-on permettre aux armes autonomes de décider de protéger la vie ou de causer la mort?

Dans le cadre d’un projet récent, M. Kerr s’intéresse à la tendance qu’ont les êtres humains de faire à la fois trop et pas assez confiance à la technologie, afin de trouver des manières de favoriser un degré de confiance approprié.

« Il faut trouver la juste mesure pour ne pas rater les occasions que la technologie nous offre, tout en évitant de faire confiance au point de ne pas faire ce qu’il faut pour empêcher des conséquences néfastes », précise-t-il.

Élaboration d’un nouveau cadre

Une grande partie des travaux de Ian Kerr est axée sur l’élaboration de politiques et de lois régissant l’utilisation de l’intelligence artificielle. Il a travaillé avec des organismes tels que l’lnternational Conference of Data Protection and Privacy Commissioners ainsi qu’avec des ministères comme Transports Canada et le ministère de la Défense nationale à l’examen de questions allant de la surveillance numérique aux voitures sans conducteur et aux armes autonomes. Mais il se projette également dans l’avenir.

« Nous n’en sommes qu’aux tout premiers balbutiements de la réflexion sur ces questions, estime-t-il. Nous ne possédons pas encore la terminologie appropriée pour structurer le débat. L’une de mes missions les plus importantes consiste donc à aider la prochaine génération, à établir comment il faut réfléchir à ces questions et comment les résoudre, aussi bien maintenant que dans dix ans. »

À cette fin, M. Kerr œuvre à la production d’une bande dessinée roman qui présente les connaissances actuelles dans le domaine d’une manière qui permet au grand public de se familiariser avec les défis qui se posent et le travail qui doit être fait.

« Par des présentations et des publications, j’ai pu faire connaître mes recherches et les rendre facilement accessibles, dit-il. Mais tout cela est très compartimenté, et l’information est souvent transmise directement à des gens qui sont déjà des experts dans le domaine. Cette bande dessinée roman, intitulée A Planet of Playthings, a pour but de susciter l’intérêt du public et de mobiliser ce dernier de sorte qu’il participe à la prise des décisions auxquelles nous devrons arriver en ce qui concerne la place des robots et de l’intelligence artificielle dans notre société. »

Vous voulez en savoir plus?

Suivez les travaux de Ian Kerr dans son site Web (en anglais) et sur Twitter à @ianrkerr (également en anglais).