Au cours d’une conférence, quelqu’un m’a interrogé sur comment on pouvait développer le « Tech for Good » (sic). J’ai été surpris de la question; j’ai répondu que, de toute évidence la Tech avait eu et contribuait d’avoir un impact incroyablement positif sur l’humanité, que ce soit en termes de richesse et de santé, mais c’était un peu facile; surtout, ce n’était pas vraiment la question. La vraie question, c’est qu’est-ce qu’on entend par ‘good’? Et c’est une question fondamentale parce qu’y répondre montre que derrière la noblesse de l’intention, Tech for Good est en fait une très mauvaise idée.
« Il n’y a pas de grande invention, depuis le feu jusqu’à l’aviation, qui n’ait été accusée d’être une insulte à quelque dieu. » (J. Haldane)
Le monde de la technologie est sur la défensive; ses abus sont largement exposés dans les médias (Facebook), ses contributions à peine évoquées comme évidentes, négligeables ou pire, contre-productive. Ses bénéfices sont questionnés (à quoi bon la 5G?) et ses dangers potentiels mis en avant (OGM). Des voix s’élèvent pour qu’elle soit mieux contrôlée et qu’elle contribue au bien commun, ce que traduit l’expression Tech for good (la technologie pour le bien).
Pourtant Tech for Good est très problématique à la fois en ce qu’il suppose et par ce qu’il induit et ce pour cinq raisons: premièrement, l’indétermination: on ne peut pas le savoir à l’avance comment une technologie va être utilisée/ Deuxièmement, la dualité: toute technologie peut être utilisée à la fois pour le bien et le mal. Troisièmement, la subjectivité: nous n’avons pas tous la même définition du bien et du mal. Quatrièmement, la nécessité: les plus grands changements ont été apportés par des gens qui se fichaient du good. Et cinquièmement, le risque: il impose un standard inatteignable pour toute nouvelle technologie et menace donc le progrès.
Un des enseignements de l’histoire de la technologie est qu’on ne sait jamais à l’avance l’utilisation qui en sera faite lorsqu’elle est inventée. La plupart des inventeurs étaient à cent lieues de s’imaginer ce qui serait fait de leur invention, en bien ou en mal. On ne le découvre que progressivement par les possibles qu’elle ouvre, rarement imaginables a priori. Un exemple entre mille suffit pour illustrer cela, c’est celui de la technologie ultrason: inventée pour détecter des sous-marins en 1911, elle fut récupérée par la médecine dans les années 50 avec d’immense bénéfices pour la santé humaine (échographie), mais aussi utilisée à partir des années 80 en Asie pour les avortement sélectifs de fœtus féminins. Alors l’échographie, tech for good ou for bad? Les deux, comme toutes les technologies!
Toute technologie peut en effet être utilisée à la fois pour le bien et pour le mal. Imposer qu’une technologie ne puisse être développée qu’à condition qu’elle fasse le bien, et seulement le bien, c’est s’interdire tout progrès technologique. En empêchant un mal possible, souvent fantasmé, on empêche également un bien possible. Le métier à tisser de jacquard fut unanimement détesté par les ouvriers du textile lors de son introduction au début du XIXe siècle. Il permettait en effet de remplacer 4 personnes sur 5 pour la même production. Tech for good? Difficile à défendre! Et pourtant, on ignore souvent que l’intention initiale de Jacquard était… de supprimer le travail des enfants.
En substance il disait aux familles: maintenant avec ma machine, pour la même production, vous n’avez plus besoin de faire travailler vos enfants. Alors, Tech for good? hum… Mais surtout, en réduisant le nombre nécessaire d’ouvriers, le métier à tisser réduisait le coût du tissu de 80%, ce qui le rendait accessible à un nombre croissant de gens, notamment les plus modestes. Résultat? Une explosion de la consommation, qui poussait la production à la hausse et donc… l’emploi. Vingt après l’introduction du métier Jacquard, il y avait plus d’ouvriers qui travaillaient dans le textile qu’avant. Alors, Tech for good? Gageons que dans une société de la prudence Tech for good, le métier Jacquard aurait été interdit au nom de la sauvegarde de l’emploi, le textile serait resté l’apanage de quelques riches, et la société plus pauvre. Comme le métier Jacquard, pratiquement toutes les technologies à leurs débuts ont été violemment attaquées au nom du bien ou d’une morale quelconque avant que leurs effets positifs ne fassent oublier leurs débuts difficiles.
Distinguer le bien du mal et nous accorder sur ce que chacun entend par l’un et par l’autre est loin d’être facile. Les philosophes s’y essaient depuis environ 2 500 ans. L’avortement est considéré comme un droit fondamental de la femme par beaucoup, mais comme une abomination par d’autres. Dans quelle catégorie du bien ou du mal devra donc être classée une technologie facilitant l’avortement? Chacun peut avoir son opinion et sa préférence, mais pas penser qu’on peut facilement répondre à cette question. Le good ou le bad d’une technologie n’est donc pas un problème de technologie, mais un problème d’humain. Le slogan Tech for good est donc dangereux parce qu’il nie l’ambiguïté propre à chaque situation, le bien et le mal n’étant définissable qu’en fonction du contexte. C’est un slogan totalitaire qui veut organiser le monde en deux, le camp du bien d’un côté, celui du mal de l’autre, en feignant de croire que la distinction est simple à faire.
Le Tech for Good suppose que l’atteinte du bien nécessite une intention préalable: nous ne pouvons créer le bien que si nous le voulons explicitement. Cette croyance est démentie par des siècles d’histoire. Inversement, la sagesse populaire a reconnu depuis longtemps que l’enfer est pavé de bonnes intentions: celles-ci conduisent souvent au pire, tandis que l’absence d’intention sociétale a historiquement eu des répercutions incroyablement positives. Ainsi, James Watt a joué un rôle crucial dans le développement de la machine à vapeur. Sa contribution sociétale fut tellement importante que cinq ans après sa mort en 1819, il y eut une souscription publique pour construire un monument à sa mémoire à une époque où les monuments étaient construits principalement pour ceux qui avaient gagné une guerre.
L’éditeur d’une revue célèbre de l’époque écrivait pourtant: « Il se distingue d’autres bienfaiteurs du public par le fait qu’il n’a jamais fait, ni prétendu faire l’objet de son action au bénéfice du public… Cet homme sans prétentions en réalité a apporté plus au grand public que tous ceux qui depuis des siècles ont fait de leur activité principale le souci du bien public. » En bref: vouloir le ‘for good’ a priori n’est en rien indispensable à une contribution majeure à la société.
Avec Tech for good, l’innovation doit prouver qu’elle ne sera pas nocive avant-même que ses bénéfices puissent être découverts. Pour diminuer le risque, largement illusoire, de la technologie, on augmente donc le risque d’écarter celle-ci et de se passer de ses avantages. Par exemple, les organisations écologiques comme Greenpeace ont réussi à bloquer l’introduction du fameux ‘Golden rice’, une variété de riz riche en vitamines A obtenue par modification génétique. Les scientifiques estiment que cette interdiction a coûté la vie à des millions d’individus et rendu des milliers d’enfants aveugles. Le plus étonnant est qu’à ce jour, il n’existe aucune étude crédible suggérant un danger de ce riz. Et pourtant, la crainte du ‘risque OGM’, inexistant, l’a emporté face au risque, certain, de faire mourir des gens et de rendre des enfants aveugles. Good or bad? En outre, en interdisant les OGM en Europe, on les laisse aux chinois et aux américains qui créeront emplois et richesses qui vont avec et viendront bientôt concurrencer nos agriculteurs avec des produits moins chers. Good or bad?
Tech for Good souligne donc les dangers potentiels (qui sont toujours facilement imaginables, voire peuvent être exagérés ou même inventés), mais pas les avantages probables d’une innovation (qui eux doivent être prouvés, ce qui prend souvent du temps), en déplaçant en quelque sorte la charge de la preuve sur l’innovateur pour qu’il prouve que ses produits ne causeront pas de dommages, alors qu’il lui est en pratique impossible de démontrer qu’il pourrait causer du bien. Tech for Good impose donc un standard inatteignable pour toute nouvelle technologie, sans la moindre base puisque les dangers sont hypothétiques, voire fantasmés, et menace donc d’empêcher le progrès.
Il ne s’agit bien-sûr pas de condamner ceux qui souhaitent que la technologie ait un impact positif. Nous le voulons tous naturellement. Nous sommes tous pour les gentils et contre les méchants. Mais dire cela ne nous avance pas beaucoup, car cela n’indique aucune direction pratique et n’amène qu’à des logiques de moratoires et d’interdiction.
Vouloir le bien nécessite une unanimité sur ce que l’on entend par bien ce qui est impossible, comme l’attestent les millions de cadavres des guerres de religions. Entre 1618 et 1648, l’Europe n’est noyée dans un bain de sang pour définir ce qu’était le bien. La paix de Westphalie en 1648 signe la reconnaissance de cette impasse entre nations épuisées. Ce qui émerge à cette époque, c’est un principe nouveau: nous ne pouvons pas nous accorder sur ce qu’est le bien, mais nous pouvons nous accorder sur les moyens, sur les règles à suivre pour vivre ensemble malgré nos différences d’opinion sur le bien et le mal; c’est cette reconnaissance qui donnera progressivement naissance au principe du parlementarisme.
Derrière ce principe s’en cache un autre, celui de la confiance a priori. On définit un cadre de liberté, on laisse faire les entrepreneurs et les innovateurs, et on corrige après-coup les excès qui ne manquent pas de se produire, qui sont même la condition de l’exercice. On reconnait que laisser l’expérience prendre place est la meilleure approche possible, parce que ce n’est qu’après cette expérience que l’on dispose de suffisamment de connaissances pour réguler de façon à équilibrer le progrès et la sécurité. On laisse l’expérience faire, même si elle est coûteuse et si elle cause des dégâts, car on reconnaît que l’absence d’expérience bloque l’innovation, ce qui est encore plus coûteux et qu’une régulation a priori menace le progrès et n’améliore pas nécessairement la sécurité.
Cette approche contre-intuitive et éminemment pragmatique est issue de l’empirisme millénaire et d’un long chemin intellectuel de l’humanité. Elle insupporte les idéalistes du Tech for Good, mais c’est elle qui a permis le développement de notre civilisation. Nous ne l’abandonnerons qu’à nos dépens.
Pour en savoir plus sur la question de l’action individuelle et de l’éthique, lire mon article Je fais ma part pour changer le monde: et si le colibri avait tort?. Lire également: Le message de Barack Obama aux activistes: Vous voulez changer le monde? Chiche! Sur la difficulté de réguler a priori au nom de principes moraux, voir mon article sur le rapport Villani: IA et éthique: le contresens navrant de Cédric Villani.
Philippe Silberzahn est professeur d’entrepreneuriat, stratégie et innovation à EMLYON Business School. Ses travaux portent sur la façon dont les organisations gèrent les situations d’incertitude radicale et de complexité, sous l’angle entrepreneurial avec l’étude de la création de nouveaux marchés et de nouveaux produits, et sous l’angle managérial avec l’étude de la gestion des ruptures, des surprises stratégiques (cygnes noirs) et des problèmes complexes (« wicked problems ») par les grandes organisations.
L’agenda éditorial de FRENCHWEB.FR
Devenez partenaire de FRENCHWEB.FR
La rédaction de FRENCHWEB.FR: redaction@decode.media
REJOIGNEZ LA COMMUNAUTE FRENCHWEB
FRENCHWEB.FR est édité par Decode Media SAS au capital de 75 192 euros. N° de RCS: 504 475 112 Paris. 55 rue de Bretagne 75003 Paris, France.
Directeur de la publication: Richard Menneveux (richard@decode.media)
Nos conditions générales de ventes
FRENCHWEB.FR est hébergé par Claranet 2 rue Bréguet – 75011 Paris