Les technologies impactent nos sociétés. Les avantages qu’elles apportent sont nombreux : elles améliorent la santé, la qualité de vie, la diffusion de l’information, tout en augmentant l’efficacité et la productivité. Cependant, chaque innovation technique a des impacts de nature politique, économique, sociale, organisationnelle, culturelle et écologique. Quant à ses conséquences, elles peuvent être plus ou moins importantes et ressenties sur des horizons parfois lointains.
Alors qu’elle façonne nos sociétés et nos modes de vie depuis des décennies, la technologie peut-elle être considérée comme neutre ?
Plusieurs personnalités du monde de la technologie défendent la neutralité inhérente de la technologie. Parmi celles-ci, Tim Berners-Lee, le créateur du World Wide Web, considère que les avantages de la technologie sont bons ou mauvais selon son utilisation. Développer une technologie peut être bénéfique si ses processus de création sont strictement axés sur les besoins des utilisateurs. Il explique que les technologies de l’information et de la communication doivent être comprises comme des instruments à usages multiples plutôt que comme des « entités actives » influençant la société.
C’est aussi ce que pense Tim Cook, directeur général d’Apple, qui a déclaré que « Nous savons que la technologie n’est ni bonne ni mauvaise en soi ; c’est ce que nous en faisons ». Pour lui, elle est un miroir qui reflète les ambitions et les intentions de ceux qui l’utilisent, de ceux qui la construisent et de ceux qui la réglementent. La déclaration de Tim Cook évoque la célèbre première loi de la technologie de l’historien américain Melvin Kranzberg (1917-1995) : « La technologie n’est ni bonne ni mauvaise ; elle n’est pas non plus neutre ». Remarquons que le dirigeant d’Apple s’est arrêté avant la dernière partie – fondamentale en l’occurrence – qui pose le postulat que la technologie n’est pas neutre.
Cependant, des penseurs de l’éthique de la technologie contredisent ces affirmations du « ni-ni ». Dès le milieu du XXe siècle, le penseur français Jacques Ellul a démontré dans ses travaux, grâce au concept d’ « ambivalence de la technologie », que la technologie elle-même a des effets indépendamment de ses usages. Il écrit que « La technologie n’est ni bonne, ni mauvaise, ni neutre. » Il nous invite donc à considérer les conséquences de chaque avancée technologique avec clarté et prudence. De la même manière qu’avec un couteau on peut peler une pomme ou tuer son voisin, il est moralement erroné, par exemple, de séparer les usages criminels de l’intelligence artificielle de ceux visant à guérir le cancer.
Par ailleurs, Jacques Ellul nous fait prendre conscience des difficultés à appréhender les effets de la technologie. Il divise ces effets en trois catégories : intentionnels, prévisibles et imprévisibles. Comme l’a montré la reconnaissance faciale en France, certains impacts sont difficilement prévisibles – par exemple, elle offre des opportunités de fraudes en cas de piratage. Mais, au-delà de la question de la prédiction, Jacques Ellul soutient que plus un domaine technologique progresse, « plus la relation entre ce qui est « bon » et « mauvais » devient inextricable, plus le choix est impossible, et plus la situation est tendue, c’est-à-dire moins nous pouvons échapper aux effets ambivalents du système. »
Fort de ces constats, dire que la technologie est neutre apparaît donc comme un leurre. Alors, que faire ? Faut-il se résigner à la complexité du problème et son insolubilité ?
Jacques Ellul nous propose de faire appel à la retenue afin de répondre à ce constat : « Tout bonheur humain se paie, et il faut toujours se demander quel prix on paiera. » En effet, face aux effets nocifs échappant à tout contrôle durable, il faut faire preuve de prudence et de responsabilité dans le développement et l’utilisation des nouvelles technologies. Nous devons prendre conscience des défis et des limites de la technologie et s’interroger sur la nécessité de mettre en place une réglementation appropriée pour protéger les individus.
C’est ce que semble penser Tim Cook qui a déclaré que « Ceux d’entre nous qui créent la technologie et établissent les règles qui la régissent ont une profonde responsabilité envers les personnes que nous servons. Assumons cette responsabilité. » Sa déclaration faisait écho aux actions que les leaders de l’industrie, les GAFAM notamment, ont commencé à mettre en place, comme les comités d’éthique ou « cours suprêmes », pour identifier les principes et les valeurs auxquels ils adhèrent et délimiter le périmètre de leurs responsabilités.
Notons que la question de la régulation de l’innovation technologique est désormais au cœur du développement fulgurant de l’intelligence artificielle. C’est ce que le créateur de ChatGPT, Sam Atman, pense. Selon lui, des IA « potentiellement terrifiantes […] vecteurs de destruction de l’humanité » vont arriver. « La société a besoin de temps pour s’adapter à quelque chose d’aussi massif » ajoute-t-il. Sa mise en garde a été suivie par celle d’Elon Musk et de centaines d’experts mondiaux qui ont récemment signé un appel à une pause de six mois dans la recherche sur les IA en évoquant « des risques majeurs pour l’humanité ». Ils demandent un moratoire jusqu’à la mise en place de systèmes de surveillance des systèmes d’IA et des autorités réglementaires dédiées afin de permettre de distinguer le réel de l’artificiel. Sans quoi il y aura des « perturbations économiques et politiques dramatiques (en particulier pour la démocratie) que l’IA provoquera ».
Ces appels démontrent ainsi que la technologie est bien tout sauf neutre.
0 commentaires