Le domaine en évolution rapide de la neurotechnologie, souvent comparé au « Far West », attire de plus en plus l’attention internationale et appelle à des lignes directrices éthiques. En réponse, l’UNESCO a adopté un ensemble de normes mondiales visant à régir ce secteur en plein essor – un secteur qui exploite les données du cerveau et du système nerveux. Cette décision reflète une préoccupation croissante quant aux risques et avantages potentiels des technologies capables d’influencer et d’interpréter l’activité cérébrale.
Qu’est-ce que la neurotechnologie et pourquoi cette urgence soudaine ?
La neurotechnologie englobe un large éventail d’outils et de techniques qui interagissent avec le système nerveux. Des interfaces cerveau-ordinateur sophistiquées aux appareils grand public comme les écouteurs prétendant lire l’activité cérébrale et les lunettes qui suivent les mouvements oculaires, le domaine connaît une innovation rapide et des investissements substantiels. Les progrès récents en matière d’intelligence artificielle (IA) ont considérablement accru les possibilités de décodage de données cérébrales complexes, accélérant ainsi le besoin d’une surveillance responsable.
“Il n’y a aucun contrôle”, a déclaré la responsable de la bioéthique à l’Unesco, Dafna Feinholz. « Nous devons informer les gens sur les risques, les bénéfices potentiels, les alternatives, afin qu’ils aient la possibilité de dire « j’accepte ou je n’accepte pas ».
Les normes éthiques de l’UNESCO : un cadre pour une innovation responsable
Les nouvelles normes de l’UNESCO représentent une étape proactive vers la garantie du développement et de l’application éthiques de la neurotechnologie. Ils définissent une nouvelle catégorie de données – les « données neuronales » – et proposent une liste complète de plus de 100 recommandations, allant de la protection des droits individuels à la gestion de scénarios potentiellement futuristes. Il s’agit notamment des inquiétudes concernant les entreprises qui pourraient utiliser la neurotechnologie pour la publicité subliminale pendant les rêves.
La directrice générale de l’UNESCO, Audrey Azoulay, a souligné l’importance de trouver un équilibre entre la promotion de l’innovation et la protection des droits de l’homme, déclarant que les nouvelles normes « consacreraient l’inviolabilité de l’esprit humain ».
Investissement, réglementation et préoccupations émergentes
Des milliards de dollars ont été investis dans des projets de neurotechnologie ces dernières années. Les exemples vont de l’investissement de Sam Altman dans Merge Labs au développement par Meta d’un bracelet permettant aux utilisateurs de contrôler des appareils grâce à la lecture des mouvements musculaires. Cet afflux d’investissements a suscité une vague parallèle d’efforts réglementaires. Le Forum économique mondial a récemment lancé un appel en faveur d’un cadre axé sur la protection de la vie privée, tandis que le sénateur américain Chuck Schumer a présenté le Mind Act. Plusieurs États américains ont également pris des mesures pour protéger les « données neuronales ».
L’une des principales préoccupations qui motivent ces efforts réglementaires est la protection des données personnelles. Les normes de l’UNESCO abordent explicitement le besoin de « vie privée mentale » et de « liberté de pensée ».
Cependant, certains critiques expriment leur scepticisme, affirmant que les efforts législatifs sont souvent alimentés par des angoisses dystopiques et peuvent par inadvertance entraver des avancées médicales prometteuses. Kristen Mathews, avocate spécialisée dans les questions de confidentialité mentale, suggère que la peur de lire dans les pensées est souvent détachée des préjudices réels potentiels.
Une histoire de la neurotechnologie : de l’EEG aux interfaces basées sur l’IA
Alors que les principes fondamentaux de la neurotechnologie existent depuis plus d’un siècle – avec l’invention de l’électroencéphalogramme (EEG) en 1924 – la vague actuelle d’innovation est motivée par la capacité de l’IA à traiter de grandes quantités de données. L’IA a considérablement augmenté le potentiel d’interprétation de l’activité cérébrale, soulevant de nouvelles préoccupations en matière de confidentialité.
Les applications médicales potentielles de la neurotechnologie basée sur l’IA sont considérables. Les percées récentes incluent une interface cerveau-ordinateur alimentée par l’IA permettant à un patient paralysé de décoder la parole, et des recherches suggérant que l’IA pourrait éventuellement être capable de reconstruire des images à partir d’une pensée ciblée. Cependant, Mathews met en garde contre le fait de laisser le battage médiatique fausser l’attention sur les risques du monde réel.
Définir le champ d’application : une mise en garde concernant les « données neuronales »
Alors que les appareils destinés aux consommateurs soulèvent des préoccupations légitimes en matière de confidentialité – un élément clé des normes de l’UNESCO – Mathews suggère que le concept de « données neuronales » est peut-être trop large. L’accent devrait être mis sur des activités telles que la monétisation des données neuronales et leur utilisation à des fins de publicité comportementale, plutôt que de tenter de réguler toutes les données liées au cerveau. Une législation trop large, affirme-t-elle, risque d’étouffer l’innovation tout en ne répondant pas aux questions les plus préoccupantes.
L’état actuel de la neurotechnologie se concentre sur l’amélioration des interfaces cerveau-ordinateur et sur la prolifération d’appareils grand public, qui soulèvent déjà des problèmes de confidentialité. Les efforts de l’UNESCO pour créer des normes mondiales visent à garantir que cette technologie puissante soit développée de manière responsable et éthique, en sauvegardant les droits individuels tout en permettant le progrès scientifique continu.
