Toen Elon Musk de wereld een demo in augustus In zijn nieuwste project, de brain-computer interface (BCI) Neuralink, herinnerde hij ons eraan dat de grenzen tussen brein en machine snel vervagen.

Hoewel het waarschijnlijk nog vele jaren duurt voordat Neuralink en BCI's op grote schaal worden geïmplementeerd, zijn de potentiële voordelen en toepassingsmogelijkheden veelbelovend. Dit geldt met name omdat de technologie zich ontwikkelt van toepassingen in fase 1, zoals het helpen van mensen met ruggenmergletsel, naar complexere toepassingen, zoals het aansturen van meerdere apparaten.

We moeten echter niet vergeten dat Neuralink in essentie een computer is. En net als bij alle computerontwikkelingen in de menselijke geschiedenis geldt: hoe complexer en slimmer computers worden, hoe aantrekkelijker ze worden voor hackers.

De gevolgen van hacken op hoog niveau zijn vandaag de dag weliswaar ernstig, maar computers waren nog nooit eerder verbonden met onze hersenen. Dat lijkt de ultieme prooi voor hackers.

Onze hersenen bevatten informatie die computers niet hebben. Een brein dat gekoppeld is aan een computer/AI zoals een BCI, verwijdert die barrière, waardoor hackers mogelijk binnen kunnen dringen en problemen kunnen veroorzaken die we ons nu nog niet eens kunnen voorstellen. Zou het hacken van mensen via BCI de volgende grote evolutie in hacken kunnen zijn, uitgevoerd door een gevaarlijke combinatie van eerdere hackmethoden?

Om beter te begrijpen hoe het hacken van de hersenen kan plaatsvinden, kijken we eerst naar hoe de relatie tussen mensen, computers en hacken zich in de loop der tijd heeft ontwikkeld.

Jaren 1980 tot midden jaren 1990: hacktechnologie om menselijke gegevens te verkrijgen

Hoewel hacken al langer bestaat sinds de 1960sHet moderne tijdperk begon in de jaren 1980, toen personal computers – en later hackers – hun intrede deden in huizen.

Hackers maakten gebruik van nieuwe en opkomende technologie die gemakkelijk te manipuleren was. Hackers hadden in die tijd vooral persoonlijke en financiële informatie bij zich, zoals creditcardgegevens, en ze maakten gebruik van technologie om deze te verkrijgen.

De 1992-film Sneakers — over een zwarte doos die elke encryptiecode kon kraken en ervoor zorgde dat er "geen geheimen meer" waren — hielp bij het populariseren en onthullen van enkele van de hacktechnieken die destijds werden gebruikt, zoals infiltratie, fysieke inbraak en toegang via de achterdeur. In die tijd waren computers het kanaal naar menselijke gegevens.

Midden jaren negentig tot nu: hacken van technologie via mensen

Naarmate de technologie toegankelijker werd, begonnen mensen meer van hun persoonlijke, gevoelige informatie op te slaan binnen technologie, die nu de sleutels tot de schat van hackers bevatte.

Terwijl het kernthema van Sneakers Om systemen cryptografisch te ontcijferen, werd social engineering veelvuldig gebruikt om toegang tot de zwarte doos te krijgen – een tactiek die exponentieel is toegenomen naarmate hackers hun aanpak veranderen. In plaats van in te breken in de technologie zelf, begonnen hackers te profiteren van de kwetsbaarheden van menselijk gedrag (de zwakste schakel) om toegang te krijgen tot de technologie waarop we vertrouwen om onze vitale informatie op te slaan.

Deze periode is geweest gedomineerd door phishing en alle vormen van social engineering – de psychologische manipulatie van mensen door hackers om hen te overtuigen hun wil uit te voeren. Gedurende deze periode vormden mensen het kanaal naar technologie.

De toekomst: mensen hacken via technologie

Vroeger werden hackers gekenmerkt door obstakels tussen hackers en hun doelwitten, die voortkwamen uit de inherente fysieke kloof tussen mens en technologie. Maar wat gebeurt er als die kloof tussen mens en technologie vervaagt? Wanneer ze in wezen één en hetzelfde zijn?

Dit is een belangrijk beveiligingsprobleem van BCI-technologie zoals Neuralink. De belangrijkste belofte van de technologie – het brein in staat stellen om rechtstreeks met computers te communiceren – zou wel eens het grootste beveiligingslek kunnen blijken te zijn. Er zou geen scheiding meer zijn tussen mens en computer, die een vorm van authenticatie en beoordeling vereist.

Als een computerapparaat dat letterlijk is verbonden met de hersenen, zoals Neuralink, wordt gehackt, kunnen de gevolgen catastrofaal zijn. Hierdoor krijgen hackers de ultieme controle over iemand.

Als Neuralink met hoge betrouwbaarheid diep in het menselijk brein doordringt, hoe zou het hacken van een mens er dan uit kunnen zien? Volgens traditionele patronen zouden hackers zich waarschijnlijk richten op vermogende personen en hen mogelijk proberen te manipuleren om miljoenen dollars over te maken naar de bankrekening van een hacker. Bestuurders zouden gehackt kunnen worden om beslissingen te nemen, met aanzienlijke financiële gevolgen.

In een alarmerender scenario, mocht een hacker de controle over een grote bevolkingsgroep overnemen, dan zou hij hen kunnen manipuleren om op een bepaalde kandidaat, partij of kwestie te stemmen, en zo heimelijk regeringen en complete staatsinfrastructuren omverwerpen. En in het meest ernstige scenario zou het hacken van een Neuralink-achtig apparaat "hosts" kunnen veranderen in programmeerbare dronelegers die alles kunnen doen wat hun "meester" wil. Autopilot-softwarefuncties in auto's hebben heeft al tot doden geleid; stel je eens voor wat een gehackt leger van intelligente wezens zou kunnen doen.

enig perspectief

Hoewel bovenstaande scenario's vergezocht zijn en Neuralink misschien nog ver weg is, is het nooit te vroeg om te onderzoeken hoe de onvermijdelijke hack zich zou kunnen ontwikkelen. Sommige experts geloven dat de singulariteit – het punt waarop kunstmatige intelligentie die van de menselijke intelligentie bereikt – zal gebeuren tegen 2045En zoals cybersecurity-professionals maar al te goed weten, hebben hackers doorgaans een voorsprong op beveiligingsprotocollen. Het is dus niet de vraag of, maar wanneer ze een Neuralink-achtig apparaat zullen aanvallen.

Voor alle duidelijkheid: technologische vooruitgang is fundamenteel voor de menselijke vooruitgang. Dat is altijd zo geweest en zal altijd zo blijven. BCI's hebben een enorm potentieel voor het goede. Technologische vooruitgang moet echter weloverwogen worden doorgevoerd, met één cruciaal aspect van de "menselijke component" van beveiliging in gedachten: ethiek. Ik moet denken aan een van Sun Tzu's strategische principes, "悬权而动", die stelt dat je altijd "diep en zorgvuldig moet nadenken" voordat je een strategische zet doet. Nu is het moment om een ​​robuuste set van verantwoorde ethische kaders en governance voor big data en AI te ontwikkelen die bedrijven moeten volgen bij de ontwikkeling van dergelijke ingrijpende technologie zoals BCI's.

Tot slot, voor degenen die de BCI-ruimte willen betreden, wil ik graag afsluiten met een paar krachtige woorden van schaakgrootmeester Garry Kasparov, die een groot deel van zijn carrière op de proef is gesteld door machines en AI: "Wij hebben een vrije wil, onze machines niet. ... We moeten menselijke verantwoordelijkheid en menselijke ethiek vanaf het begin inbouwen."