Het snel evoluerende veld van de neurotechnologie, dat vaak wordt vergeleken met het ‘wilde westen’, trekt steeds meer internationale aandacht en vraagt om ethische richtlijnen. Als reactie hierop heeft UNESCO een reeks mondiale normen aangenomen die gericht zijn op het besturen van deze snelgroeiende sector – een sector die gegevens uit de hersenen en het zenuwstelsel benut. Deze stap weerspiegelt een groeiende bezorgdheid over de potentiële risico’s en voordelen van technologieën die hersenactiviteit kunnen beïnvloeden en interpreteren.
Wat is neurotechnologie en waarom de plotselinge urgentie?
Neurotechnologie omvat een breed scala aan hulpmiddelen en technieken die interageren met het zenuwstelsel. Van geavanceerde hersencomputerinterfaces tot apparaten van consumentenkwaliteit, zoals oordopjes die beweren hersenactiviteit te kunnen meten en brillen die oogbewegingen volgen: het vakgebied ervaart snelle innovatie en substantiële investeringen. Recente ontwikkelingen op het gebied van kunstmatige intelligentie (AI) hebben de mogelijkheden voor het decoderen van complexe hersengegevens aanzienlijk vergroot, waardoor de behoefte aan verantwoord toezicht is versneld.
“Er is geen controle”, zegt Dafna Feinholz, hoofd bio-ethiek van Unesco. “We moeten de mensen informeren over de risico’s, de potentiële voordelen en de alternatieven, zodat mensen de mogelijkheid hebben om te zeggen: ‘Ik accepteer het, of ik accepteer het niet’.”
Ethische normen van UNESCO: een raamwerk voor verantwoorde innovatie
De nieuwe normen van UNESCO vertegenwoordigen een proactieve stap in de richting van het waarborgen van de ethische ontwikkeling en toepassing van neurotechnologie. Ze definiëren een nieuwe categorie gegevens – ‘neurale gegevens’ – en bieden een uitgebreide lijst van meer dan 100 aanbevelingen, variërend van het beschermen van individuele rechten tot het aanpakken van potentieel futuristische scenario’s. Deze omvatten zorgen over bedrijven die mogelijk neurotechnologie gebruiken voor subliminale reclame tijdens dromen.
De directeur-generaal van UNESCO, Audrey Azoulay, benadrukte het belang van het vinden van een evenwicht tussen het bevorderen van innovatie en het beschermen van de mensenrechten, en stelde dat de nieuwe normen ‘de onschendbaarheid van de menselijke geest zouden verankeren’.
Investeringen, regelgeving en opkomende zorgen
Miljarden dollars zijn de afgelopen jaren in neurotechbedrijven gestoken. Voorbeelden variëren van de investering van Sam Altman in Merge Labs tot Meta’s ontwikkeling van een polsbandje waarmee gebruikers apparaten kunnen bedienen door middel van het lezen van spierbewegingen. Deze toestroom van investeringen heeft geleid tot een parallelle golf van regelgevende inspanningen. Het World Economic Forum heeft onlangs een oproep gedaan voor een op privacy gericht raamwerk, terwijl de Amerikaanse senator Chuck Schumer de Mind Act introduceerde. Verschillende Amerikaanse staten hebben ook stappen ondernomen om ‘neurale gegevens’ te beschermen.
Een kernpunt van zorg bij deze regelgevende inspanningen is de bescherming van persoonsgegevens. De normen van UNESCO gaan expliciet in op de behoefte aan ‘mentale privacy’ en ‘vrijheid van denken’.
Sommige critici zijn echter sceptisch en stellen dat wetgevende inspanningen vaak worden gevoed door dystopische angsten en onbedoeld veelbelovende medische vooruitgang kunnen belemmeren. Kristen Mathews, een advocaat gespecialiseerd in geestelijke privacykwesties, suggereert dat de angst voor het lezen van gedachten vaak losstaat van de werkelijke potentiële schade.
Een geschiedenis van neurotechnologie: van EEG tot AI-aangedreven interfaces
Hoewel de kernprincipes van de neurotechnologie al meer dan een eeuw bestaan – met de uitvinding van het elektro-encefalogram (EEG) in 1924 – wordt de huidige innovatiegolf aangedreven door het vermogen van AI om grote hoeveelheden gegevens te verwerken. AI heeft het potentieel voor het interpreteren van hersenactiviteit dramatisch vergroot, waardoor nieuwe zorgen over de privacy ontstaan.
De potentiële medische toepassingen van door AI ondersteunde neurotechnologie zijn aanzienlijk. Recente doorbraken zijn onder meer een door AI aangedreven hersen-computerinterface waarmee een verlamde patiënt spraak kan decoderen, en onderzoek dat suggereert dat AI uiteindelijk in staat zou kunnen zijn om beelden te reconstrueren vanuit gericht denken. Mathews waarschuwt er echter voor dat hypes de focus op reële risico’s niet kunnen vertekenen.
De reikwijdte definiëren: een waarschuwing over “neurale gegevens”
Hoewel consumentgerichte apparaten legitieme zorgen over de privacy oproepen – een belangrijk aandachtspunt in de UNESCO-normen – suggereert Mathews dat het concept van ‘neurale gegevens’ wellicht te breed is. De nadruk moet liggen op activiteiten zoals het genereren van inkomsten uit neurale data en het gebruiken ervan voor gedragsmatige reclame, in plaats van te proberen alle data met betrekking tot de hersenen te reguleren. Te brede wetgeving, zo betoogt zij, dreigt de innovatie te belemmeren, terwijl de meest zorgwekkende kwesties niet worden aangepakt.
De huidige staat van de neurotechnologie is gericht op het verbeteren van de interfaces tussen hersenen en computers en de proliferatie van apparaten van consumentenkwaliteit, die nu al aanleiding geven tot zorgen over de privacy. De inspanningen van UNESCO om mondiale normen te creëren zijn erop gericht ervoor te zorgen dat deze krachtige technologie op verantwoorde en ethische wijze wordt ontwikkeld, waarbij de individuele rechten worden gewaarborgd en tegelijkertijd voortdurende wetenschappelijke vooruitgang mogelijk wordt gemaakt.
