Vous voulez éviter la dystopie technologique? Essayez l'éthique. - Internet Sans Frontières

Par Adel Boujedada:

La technologie est passée de simple outil qui facilite nos vies, à une force transformatrice qui façonne notre existence dans tous les aspects. Ce constat amène des préoccupations qui doivent être abordées: la plupart des innovations technologiques actuelles sont développées sans tenir compte des conséquences sur l’humanité.

Le 19 mars 2018, une voiture Uber autonome a heurté et tué un piéton en Arizona, aux États-Unis, relançant ainsi les débats sur l’éthique d’avoir des voitures autonomes dans l’espace public.

Le manque de systèmes de responsabilisation, interroge sur les moyens qui permettent de s’assurer que le technologie bénéficie à  la société.

Une réponse pourrait être l’éthique, qui est définie comme les principes moraux qui régissent le comportement d’une personne ou la conduite d’une activité. Les droits de l’homme constituent une source de principes éthiques.

Loin d’être neutre, la technologie est le reflet de ses concepteurs et de leur point du vue sur le monde. Ceux-ci devraient recevoir des conseils sur la façon de créer de la technologie d’une manière éthique, qui fonctionne au mieux pour le plus grand nombre.

Il est plus que jamais urgent que l’éthique, les Droits de l’Homme, soient intégrés au cœur même de la création de la technologie. Cela est possible en insérant des programmes d’apprentissage de l’éthique dans la formation des innovateurs et développeurs de technologies, et en favorisant la diversité des genres, des opinions, des et des parcours professionnels dans les équipes.

La diversité, un canal pour intégrer l’éthique dans la technologie

En mai 2016, une controverse a émergé sur la façon dont un programme informatique, utilisé par un tribunal américain pour l’évaluation des risques de récidives, était biaisée contre les prisonniers afro-américains. Le biais algorithmique est la conséquence directe du biais humain.

Non, la réponse n’est pas de diversifier les bases de données, comme cette entreprise chinoise, qui a choisi de déployer ses produits en Afrique, pour supprimer les préjugés raciaux dans son logiciel de reconnaissance faciale. En effet, rien ne garantit que le produit ne sera pas utilisé pour aider les dictateurs à identifier leurs opposants plus facilement lors des manifestations. Au lieu de cela, les entreprises et les concepteurs de produits ont besoin d’équipes diverses, impliquant des experts en technologie et en sciences humaines, hommes et femmes, peu importe leur origine.

Il existe quelques exemples de bonnes interactions entre communautés et créateurs d’outils technologiques.

Cette année, Internet Sans Frontières était présente à Internet Freedom Festival, une conférence annuelle qui rassemble des développeurs, des innovateurs, des défenseurs des droits numériques, des activistes et des fondations, pour discuter des menaces émergentes contre l’Internet ouvert et libre. Nous avons trouvé intéressant de rencontrer les fabricants de produits que nous utilisons, et de leur donner des informations sur les usages dans  les communautés avec lesquelles nous travaillons.

Le projet Tor organise également des rassemblements fréquents pour rencontrer ses utilisateurs et contributeurs. C’est rafraîchissant de voir que l’équipe se fait une priorité d’aller à des endroits où la libre expression et la vie privée sont les plus à risque dans les pays du Sud: la prochaine réunion de Tor se tiendra à Mexico, en septembre! Au fait, leur nouvelle directrice exécutive est la talentueuse Isabela Bagueros, du Brésil!

Rightscon est un autre excellent exemple de la façon dont les entreprises, les organisations, les militants, et les gouvernements peuvent discuter et travailler ensemble pour résoudre les défis des droits de l’homme dans l’industrie technologique.

Mais, la plupart de ces exemples proviennent de la communauté de défense des libertés et droits numériques. le secteur privé devrait faire de même.

Nous étions à la 3ème édition de Viva Technology , la conférence internationale dédiée

à la croissance des startups, de la transformation numérique et de l’innovation, à Paris. La question de la création de ponts entre les communautés technologiques et éthiques n’était pas centrale, malgré l’urgence évidente. Peu de discussions étaient liées à la nécessité de faire de la technologie de façon éthique.

Nous sommes d’accord avec le président français, Emmanuel Macron, qui a affirmé : “Si vous ne voulez pas bloquer l’innovation, mieux vaut l’encadrer dès le début avec des lignes éthiques et philosophiques.”

Mais pour ce faire, nous avons besoin de plus de diversité et de plus de collaborations. Nous en sommes loin.

A propos d’Adel Boujedada:

Adel est un nouveau diplômé de l’université Paris III. Il a entrepris des études en relations européennes et internationales. Actuellement, il est stagiaire chez Internet Sans Frontières où il occupe le poste d’assistant de la directrice exécutive.

Contacter Adel : adel.b@internetsansfrontieres.org