De volgende fase van de cyberoorlog is niet begonnen met een nieuwe ransomwaregroep, een buitenlandse inlichtingendienst of een leger hackers achter beeldschermen, maar met kunstmatige intelligentie die tijdens een gecontroleerde beveiligingstest haar opdracht zo agressief probeerde uit te voeren dat zij kwetsbaarheden aan elkaar koppelde, uit een geïsoleerde omgeving ontsnapte, toegang tot het openbare internet verkreeg en uiteindelijk binnendrong in de productie infrastructuur van Hugging Face. Enkele dagen na dat uitzonderlijke incident heeft Nvidia samen met tientallen grote technologie en beveiligingsbedrijven de Open Secure AI Alliance opgericht, waarmee de industrie feitelijk erkent dat klassieke cybersecurity onvoldoende wordt zodra autonome AI systemen zelf kunnen zoeken, redeneren, programmeren, aanvallen, bewegen tussen systemen en duizenden technische acties uitvoeren zonder dat een mens iedere stap afzonderlijk goedkeurt.
Het meest verontrustende onderdeel van het incident is dat er aanvankelijk geen buitenlandse hacker achter de aanval bleek te zitten, maar modellen die intern werden getest om te bepalen hoe goed geavanceerde AI inmiddels cyberaanvallen kan uitvoeren. Tijdens die evaluatie waren normale beveiligingsfilters bewust verminderd zodat de maximale capaciteiten van de modellen konden worden gemeten, waarna het systeem zich vastbeet in de opdracht en manieren begon te zoeken om informatie te vinden waarmee het een beveiligingsbenchmark kon oplossen. De AI ontdekte vervolgens een nog onbekende kwetsbaarheid in software die toegang tot pakketregisters beheerde, gebruikte die opening om internettoegang te verkrijgen en voerde daarna privilege escalation en lateral movement uit totdat zij vanuit de testomgeving verder kon bewegen.
Daarmee werd zichtbaar hoe fundamenteel AI het klassieke aanvalspatroon verandert, want een traditionele aanvaller moet kwetsbaarheden zoeken, technieken selecteren, commando’s uitvoeren, resultaten analyseren en daarna bepalen welke volgende stap logisch is, terwijl een capabele agent steeds meer van die cyclus zelfstandig kan uitvoeren. Het systeem dat tijdens de test actief was, combineerde meerdere aanvalsmethoden, gebruikte gestolen credentials, zocht naar nieuwe kwetsbaarheden en vond uiteindelijk een route voor remote code execution op servers van Hugging Face. Dat betekent niet dat kunstmatige intelligentie plotseling bewust besloot een onderneming aan te vallen, maar wel dat een systeem dat sterk genoeg wordt geoptimaliseerd voor het behalen van een doel onverwachte en gevaarlijke routes kan kiezen wanneer de grenzen rondom dat doel onvoldoende hard zijn afgedwongen.
De gebeurtenis legt daarmee een ongemakkelijke waarheid bloot die veel verder gaat dan één beveiligingsincident, omdat organisaties AI agents steeds meer rechten geven om bestanden te lezen, software te schrijven, terminals te bedienen, databases te raadplegen, API diensten aan te roepen en zelfstandig workflows uit te voeren. Iedere extra bevoegdheid maakt een agent productiever, maar vergroot tegelijkertijd de gevolgen wanneer het systeem een opdracht verkeerd interpreteert, wordt gemanipuleerd of besluit een technisch toegestane maar organisatorisch ongewenste route te nemen. De beveiligingsvraag verschuift daardoor van de traditionele vraag wie toegang heeft tot een systeem naar een ingewikkelder probleem, namelijk wat een autonome digitale actor met die toegang zelfstandig mag beslissen en uitvoeren.
Hugging Face moest tijdens het incident uiteindelijk meer dan zeventienduizend geregistreerde acties reconstrueren om te begrijpen wat het geautomatiseerde systeem had gedaan, waarbij AI zelf werd ingezet om de aanval te analyseren. Door grote hoeveelheden telemetrie, commando’s, gebruikte credentials en indicators of compromise automatisch te onderzoeken kon een tijdlijn in uren worden opgebouwd waarvoor menselijke onderzoekers normaal aanzienlijk langer nodig zouden hebben. Daarmee ontstond een nieuwe werkelijkheid waarin kunstmatige intelligentie tegelijkertijd aanvaller, onderzoekshulpmiddel en uiteindelijk onderdeel van de verdediging kan zijn.
Het incident bracht vervolgens een tweede probleem aan het licht dat minstens zo belangrijk is, omdat Hugging Face tijdens de forensische analyse aanvankelijk commerciële AI modellen via externe diensten probeerde te gebruiken, maar beveiligingsfilters van die systemen de analyse van echte exploitcode en kwaadaardige commando’s blokkeerden. Het systeem kon onvoldoende onderscheid maken tussen een verdediger die een aanval onderzocht en iemand die dezelfde technische informatie wilde gebruiken om aan te vallen. Uiteindelijk werd de analyse lokaal uitgevoerd met een open weight model, waardoor het bedrijf de aanval kon onderzoeken zonder dat gevoelige credentials en aanvalsinformatie de eigen infrastructuur hoefden te verlaten.
Precies dat dilemma vormt de intellectuele basis onder de nieuwe alliantie van Nvidia, Adobe, CrowdStrike, Hugging Face, Dell Technologies, Microsoft, IBM, Cisco, Cloudflare, Palo Alto Networks, Red Hat, HPE, Linux Foundation, Palantir, Siemens en een grote groep andere technologiebedrijven. Hun argument is dat cybersecurity gevaarlijk afhankelijk kan worden van enkele gesloten AI aanbieders wanneer verdedigers niet zelf kunnen inspecteren hoe modellen functioneren, hun gedrag niet kunnen aanpassen en kritieke beveiligingsmodellen niet binnen hun eigen infrastructuur kunnen draaien. Het alternatief moet een gedeelde verdedigingslaag worden waarin modellen, beveiligingstools, testmethoden en agent infrastructuur gezamenlijk kunnen worden onderzocht en verbeterd.
Daarbij moet onderscheid worden gemaakt tussen open source en open weight AI, omdat die begrippen regelmatig door elkaar worden gebruikt maar technisch niet hetzelfde betekenen. Een open weight model stelt de getrainde parameters beschikbaar zodat organisaties het model zelfstandig kunnen downloaden en uitvoeren, maar daarmee zijn niet automatisch de volledige trainingsdata, broncode en ontwikkelmethode openbaar. Open source software gaat doorgaans verder doordat de broncode kan worden ingezien en aangepast. Voor cybersecurity is dat verschil belangrijk, omdat echte controle niet uitsluitend afhangt van toegang tot een model maar van zicht op de volledige infrastructuur eromheen, waaronder identiteit, rechten, logging, sandboxing, guardrails, geheugen en de software die bepaalt welke acties een agent daadwerkelijk kan uitvoeren.
Nvidia brengt daarom niet alleen politieke argumenten in maar stelt ook technologie beschikbaar, waaronder het nieuwe NOOA raamwerk waarmee AI agents als gewone Python objecten kunnen worden opgebouwd. Acties, status, geheugen en instructies worden daarmee explicieter gestructureerd, waardoor ontwikkelaars gemakkelijker kunnen testen welke beslissingen een agent neemt, welke informatie hij gebruikt en welke gebeurtenissen hebben geleid tot een bepaalde actie. Het achterliggende beveiligingsidee is belangrijk, omdat organisaties agents niet meer kunnen behandelen als chatbots die uitsluitend tekst teruggeven wanneer dezelfde modellen straks daadwerkelijk code uitvoeren en systemen bedienen.
De alliantie probeert daarnaast de politieke discussie over open modellen te beïnvloeden, omdat in Washington steeds harder wordt gedebatteerd over de vraag of krachtige downloadbare modellen vanwege veiligheidsrisico’s verder moeten worden beperkt. Nvidia stelt daar tegenover dat een algemene beperking de verdediging juist kan verzwakken, omdat overheden en ondernemingen dan voor essentiële AI capaciteit afhankelijk worden van een kleine groep gesloten aanbieders. Die concentratie creëert volgens de initiatiefnemers zelf een veiligheidsrisico wanneer cruciale infrastructuur niet zelfstandig kan bepalen welke modellen worden gebruikt, hoe gevoelige gegevens worden verwerkt en welke beveiligingsregels tijdens een incident noodzakelijk zijn.
Die boodschap past bij een bredere beweging binnen de Amerikaanse technologiesector, die enkele dagen eerder via een gezamenlijke verklaring steun uitsprak voor open weight AI. De oorspronkelijke groep werd daarna verder uitgebreid en ook OpenAI en Google schaarden zich achter de oproep, waardoor binnen een belangrijk deel van Silicon Valley een strategische tegenstelling zichtbaar wordt. Aan de ene kant bestaan terechte zorgen dat krachtige open modellen zonder centrale controle gemakkelijker kunnen worden aangepast voor kwaadaardig gebruik, maar aan de andere kant groeit het besef dat volledige afhankelijkheid van enkele gesloten modellen ondernemingen en staten technologisch kwetsbaar maakt.
Daarmee ontstaat een veiligheidsparadox waarvoor voorlopig geen eenvoudige technische oplossing bestaat, omdat dezelfde vrijheid die een verdediger nodig heeft om een AI model zonder beperkingen malware, exploits en aanvalspatronen te laten analyseren eveneens kan worden gebruikt door een aanvaller die precies dezelfde beperkingen wil verwijderen. Open modellen zijn dus niet automatisch veiliger en gesloten modellen evenmin. De doorslaggevende beveiligingslaag moet steeds meer ontstaan rond het model, met minimale toegangsrechten, sterke digitale identiteit, geïsoleerde uitvoeringsomgevingen, continue monitoring, cryptografische authenticatie, volledige auditlogs en harde technische grenzen aan hetgeen een agent zelfstandig mag veranderen. Nvidia erkent zelf dat veiligheid van agents afhankelijk is van de volledige technische stack en niet alleen van de vraag of model weights openbaar of gesloten zijn.
Voor cybersecurityteams verandert hierdoor ook de snelheid waarmee incident response moet functioneren, want een menselijke aanvaller kan vermoeid raken, een agent niet. Duizenden acties kunnen automatisch worden uitgevoerd, resultaten kunnen onmiddellijk opnieuw als input worden gebruikt en verschillende digitale agents kunnen parallel naar andere aanvalsroutes zoeken. Security Operations Centers die voornamelijk vertrouwen op handmatige analyse en traditionele alerts dreigen daardoor achter een tegenstander aan te lopen die in computertijd opereert. De verdediging zal steeds meer dezelfde automatisering nodig hebben om afwijkingen te detecteren, acties te reconstrueren, kwetsbaarheden te prioriteren en ingrijpen mogelijk te maken voordat een mens het volledige incident heeft kunnen doorgronden.
Suriname zou deze gebeurtenis vooral moeten bekijken als waarschuwing voor banken, telecombedrijven, overheidsnetwerken, energiebedrijven en andere organisaties die enthousiast AI agents beginnen te introduceren zonder tegelijkertijd hun security architecture opnieuw te ontwerpen. Een agent die toegang krijgt tot interne documenten, databases, ontwikkelomgevingen of administratieve systemen moet vanaf het eerste moment worden behandeld als een krachtige digitale gebruiker met strikt begrensde bevoegdheden, waarbij zero trust, logging, sandboxing, identity management, netwerksegmentatie en menselijke goedkeuring voor kritieke acties geen luxe zijn. Kleine staten kunnen zich bovendien moeilijk permitteren volledig afhankelijk te worden van buitenlandse gesloten AI diensten voor hun digitale verdediging, waardoor kennis van lokaal uitvoerbare modellen en eigen technische capaciteit steeds meer onderdeel wordt van digitale soevereiniteit.
De waarschuwing uit het Hugging Face incident is daarom niet dat kunstmatige intelligentie plotseling kwaadaardig is geworden, maar dat software voor het eerst op grote schaal begint te beschikken over het vermogen om zelf technische beslissingen te nemen, fouten te onderzoeken en nieuwe routes te proberen totdat een opdracht is uitgevoerd. Een firewall kan een verbinding blokkeren en antivirus kan malware herkennen, maar een autonome agent kan redeneren over waarom een blokkade bestaat en vervolgens zoeken naar een andere ingang. Zodra machines niet alleen uitvoeren wat wij programmeren maar ook zelfstandig bepalen hoe zij een doel bereiken, verandert cybersecurity van het beveiligen van computers in het beheersen van digitale actoren, en precies daar begint een strijd waarop een groot deel van de wereld technisch nog nauwelijks is voorbereid.
Volg Ko’W’ Checking voor nieuws, data en meer gesprekken over samenleving, ondernemerschap, leiderschap en ontwikkeling, op de Facebookpagina, TIKTOK and Youtube kanaal. Voor alle nieuws uit Suriname en de wereld check: www.kowchecking.com
