philippulus

Principe de précaution

De nombreux observateurs mettent en évidence le fait que nous ne pouvons pas nous appuyer sur l'expérimentation pour traiter de risques existentiels.

C'est sur cette base que s'est développé le principe de précaution:

Si les conséquences d'une action sont inconnues mais jugées par certains scientifiques comme présentant un risque, même minime, de conséquences profondément négatives, il est préférable de ne pas entreprendre cette action plutôt que prendre le risque des conséquences négatives.

En raison de la nécessité d'établir un niveau de confiance le plus élevé possible dans les stratégies visant à éviter de tels risques, des voix de plus en plus fortes se font entendre, qui en appellent à l'arrêt du développement technologique afin d'éliminer définitivement les risques existentiels avant qu'ils n'apparaissent.

Le renoncement définitif au progrès n'apparait toutefois pas comme la solution appropriée eut égard aux bénéfices considérables qu'apportent les technologies émergentes.

Principe de Proactivité

Max More détermine les limites du principe de précaution et se fait l'avocat d'une approche alternative, consistant à le substituer par le principe de proaction, tel qu'il est présenté sur son site, ainsi que sur extropy.org. 

Bien que cette approche fut conceptualisé en 2004, il est surprenant de constater qu'elle n'est toujours pas disponible en langue française. Une recherche sur internet ne renvoit qu'un seul résultat vers une page présentant un résumé sommaire, qui est repris ci-dessous:

Certains partisans du paradigme de la convergence technologique en appellent au «principe de proactivité» (proactionary principle) pour faire contrepoids, sinon pour remplacer le « principe de précaution » qui est aujourd’hui souvent invoqué pour réguler la recherche & développement dans ces domaines. Le «principe de proactivité» vise à privilégier les avantages généraux que l’on peut retirer des évolutions en cours sur les externalités négatives qui pourraient marginalement en résulter. Parmi les mesures qui pourraient découler de l’application d’un tel principe, on compte des lois édictant un principe de responsabilité limitée quant aux éventuelles externalités liées à l’utilisation de ces nouvelles technologies, ou encore un assouplissement des conditions présidant aux expérimentations médicales.

Le Principe de Proactivité, Version 1.2 du 29 Juillet 2005

La liberté des personnes de réaliser des innovations technologiques est d'une valeur considérable, voire cruciale, pour l'humanité. Ceci implique une responsabilité très large de la part de ceux qui doivent prendre en compte la manière de développer, de déployer, ou de restreindre les nouvelles technologies, la détermination des risques et des opportunités devant se faire par un processus décisionnel objectif, ouvert et exhaustif, tout en restant simple, et s'appuyant sur des bases scientifiques plutôt que sur les réactions résultant d'émotions collectives. Le coût des restrictions et des chances non saisies doit être pris en compte au même titre que celui des effets directs. Des mesures proportionnelles à la probabilité et à la magnitude des impacts, et apportant le rendement le plus élevé relativement à leur coût, doivent être prises. Une priorité importante doit être accordée à la liberté des personnes à s'instruire, à innover et à évoluer.

Les termes du Principe de Proactivité

1. Liberté d'innover: Notre liberté à l'innovation technologique est d'une grande valeur pour l'humanité. Le fardeau de la démonstration est de fait du ressort de ceux qui proposent des mesures restrictives. Toutes les mesures proposées doivent être examinées minutieusement.

2. Objectivité: Le processus décisionnel se doit d'être objectif, structuré et explicite. Les risques doivent être évalués et les prévisions doivent être réalisées sur la base de données scientifiques disponibles, et non pas sur des perceptions générées par les émotions; des procédés prévisionnels explicitent doivent être employés; les procédures prévisionnelles doivent être communiquées dans leur intégrité; l'objectivité des informations et des procédures décisionnelles doit être garantie; les données utilisées pour réaliser les procédures prévisionnelles doivent être rigoureusement structurées; les biais doivent être réduits par une sélection d'experts non impliqués, par l'utilisation de la procédure de l'avocat du diable vis-à-vis des méthodes de jugement, et par l'utilisation de procédures d'audit telles que des aréopages de contrôle.

3. Exhaustivité: Toutes les autres actions raisonnables doivent être considérées, y compris l'absence d'action. L'abandon d'une technologie doit être estimée par rapport à l'opportunité non saisie, et prendre en compte le coût et le risque de la substitution par d'autres options crédibles. Lorsque ces estimations sont réalisées, ce sont non seulement les effets concentrés et immédiats qui doivent être prudemment pris en compte, mais également les effets largement distribués et subséquents.

4. Ouverture et transparence: Les intérêts des parties portentiellement impliquées doivent être pris en compte, et le processus doit être ouvert aux apports de ces parties.

5. Simplicité: Les méthodes utilisées doivent être aussi simples que possible.

6. Sélectivité: La priorité doit être donnée à l'amélioration de menaces connues et prouvées envers la santé humaine et la qualité de l'environnement par rapport aux actions contre des risques hypothétiques.

7. Traitement symétrique: Les risques technologiques doivent être traités sur la même base que les risques naturels; il faut éviter de sous-pondérer les risques naturels et de sur-pondérer les risques liés aux technologies humaines. Les avantages des avancées technologiques doivent être pleinement prises en compte.

8. Proportionalité: Des mesures restrictives ne doivent être considérées que si l'impact potentiel d'une activité est associé tout à la fois à une probabilité et une sévérité significatives.  Dans de tels cas, si l'activité apporte également des bénéfices, les impacts doivent être escomptés en fonction de la possibilité d'adaptation aux effets indésirables. Si des mesures visant à limiter l'avancée technologique apparait effectivement justifiée, il faut garantir que la portée de ces mesures est adaptée à l'étendue des effets probables.

9. Détermination des priorités: Lorsqu'un choix est réalisé parmis des mesures visant à contrer des effets secondaires indésirables, la priorité doit être donnée aux critères de décision comme suit: (a) La priorité doit être accordée aux risques envers les humains et d'autres formes de vie intelligente par rapport aux risques envers d'autres espèces; (b) La priorité doit être accordée aux menaces non-létales envers la santé humaine par rapport aux menaces limitées à l'environnement (dans des limites raisonnables); (c) La priorité doit être accordée aux menaces immédiates par rapport aux menaces plus éloignées dans le temps; (d) La mesure présentant les bénéfices attendus les plus élevés doit être préférée en donnant la priorité à des menaces plus évidentes par rapport à des menaces moins certaines, ainsi qu'à des impacts irréversibles et persistants par rapport à des impacts temporraires.

10. Mise-à-jour et actualisation: Un mécanisme doit être mis en place pour inciter les décisionnaires à réviser leurs décision, après un laps de temps suffisamment long après que les conditions aient subi des changements significatifs.