Domaines de travail

Technologie responsable et IA

La technologie élargit ce que les personnes et les organisations peuvent faire. Elle reproduit aussi les erreurs, les inégalités et les mauvaises décisions, plus vite et à plus grande échelle. Les questions vives sont de savoir s’il faut l’employer, comment la gouverner, et qui en répond lorsqu’elle se trompe. Les réponses tiennent moins à la technologie qu’aux incitations, à l’information, aux compétences et aux pratiques de travail dans lesquelles elle atterrit.

L’ambition technique est la partie facile

Une décision technologique solide repose sur les données, le jugement humain, la gouvernance et les personnes concernées. La première question est de savoir si l’outil apporte quelque chose, pas s’il est constructible. La suivante est de savoir comment quelqu’un peut le contester, en comprendre les limites et réagir quand son résultat ne correspond pas au cas devant lui. Ce sont des questions de conception et de gouvernance, et il coûte beaucoup moins cher d’y répondre avant que l’outil ne soit installé.

Les questions que nous posons à une technologie

  • Jugement humain et responsabilité

    Maintenir une relecture humaine réelle, une responsabilité claire et une possibilité de contestation autour des technologies utilisées dans la recherche ou la décision publique.

  • Données, traçabilité et limites

    Permettre de savoir d’où vient une information, comment elle a été traitée et ce que ses limites impliquent pour son usage.

  • Effets inégaux et accès

    Considérer les biais, l’accessibilité, l’inclusion numérique et les façons dont un système fonctionne différemment selon les situations.

  • Gouvernance et intégrité de l’information

    Examiner la gouvernance des données, la vie privée et la sécurité, les risques de désinformation et les conditions institutionnelles d’un usage responsable.

Une partie de ce travail passe par NoviThea Lab, où une idée peut être construite et éprouvée avant tout engagement. Le Lab existe pour explorer la question, pas pour répondre à chaque enjeu technologique par un produit.

Avant de choisir l’outil

Que doit accomplir cet outil, sur qui retombe-t-il, et que se passe-t-il le jour où il se trompe ?

Parler de ce domaine