China bereidt zich steeds nadrukkelijker voor op een scenario dat lang als sciencefiction werd weggezet, maar inmiddels hoog op de agenda staat van regeringen, inlichtingendiensten en technologiebedrijven. De vraag is niet langer alleen wat kunstmatige intelligentie voor mensen kan doen, maar ook hoe systemen worden gestopt zodra zij zelfstandig toegang zoeken tot data, infrastructuur, geld of andere digitale middelen. Peking beschouwt verlies van menselijke controle als een reëel toekomstig risico en bouwt daarom aan regels die moeten voorkomen dat autonome software sneller handelt dan de mens kan ingrijpen.
De Chinese veiligheidskaders voor kunstmatige intelligentie benoemen sinds 2024 het gevaar dat zeer geavanceerde systemen zelfstandig externe hulpbronnen verzamelen, zichzelf kopiëren of invloed proberen te verwerven buiten de bedoelde grenzen. In de aangescherpte versie van 2025 werd nadrukkelijk gewaarschuwd voor een plotselinge sprong in intelligentie, waarbij de ontwikkeling van een model sneller kan verlopen dan toezichthouders en ontwikkelaars verwachten. Het uitgangspunt van betrouwbare toepassing en het voorkomen van controleverlies is daarmee niet langer een theoretische zin in een beleidsstuk, maar een basisvoorwaarde voor verdere inzet van krachtige systemen.
De waarschuwing krijgt extra gewicht doordat kunstmatige intelligentie steeds vaker niet alleen antwoord geeft op vragen, maar zelfstandig taken uitvoert. AI agenten kunnen programma’s aansturen, informatie verzamelen, betalingen voorbereiden, systemen analyseren en binnen digitale omgevingen besluiten nemen zonder dat een mens iedere stap vooraf beoordeelt. Dat maakt de technologie nuttiger, maar ook gevaarlijker wanneer een fout, manipulatie of kwaadaardige instructie zich razendsnel door gekoppelde systemen verspreidt.
De nieuwe Chinese richtlijnen voor zulke agenten verplichten ontwikkelaars om afwijkend gedrag te kunnen ontdekken, onderbreken, blokkeren en herstellen. Gebruikers moeten volgens die benadering de uiteindelijke beslissingsbevoegdheid behouden over autonome handelingen van een systeem. De echte test ligt echter niet in het opschrijven van een menselijke eindbeslissing, maar in de vraag of die mens ook nog werkelijk kan ingrijpen wanneer software in seconden duizenden digitale acties heeft uitgevoerd.
China richt zijn aandacht niet uitsluitend op theoretische rampscenario’s, maar ook op kwetsbare infrastructuur zoals energievoorziening, telecomnetwerken, financiële systemen en militaire toepassingen. Hoge Chinese functionarissen waarschuwen dat de combinatie van autonome systemen en strategische besluitvorming kan leiden tot misrekeningen, escalatie en schade die niet eenvoudig kan worden teruggedraaid. De inzet rond militaire kunstmatige intelligentie laat zien dat de strijd om technologische suprematie tegelijk een strijd wordt om controle over de risico’s van die suprematie.
De tegenstelling tussen gesloten en open modellen maakt het debat nog ingewikkelder. Chinese ontwikkelaars wijzen erop dat modellen met openbaar beschikbare gewichten beter kunnen worden onderzocht, aangepast en gebruikt voor digitale verdediging, maar dezelfde openheid maakt misbruik en ongecontroleerde verspreiding eenvoudiger. Een model dat een testomgeving weet te omzeilen, bewijst niet dat kunstmatige intelligentie bewust wil ontsnappen, maar toont wel dat technische barrières zwakker kunnen zijn dan de ontwerpers hadden gedacht.
President Xi Jinping heeft tijdens de grote AI bijeenkomst in Shanghai benadrukt dat kunstmatige intelligentie onder menselijke controle moet blijven en dat veiligheid, toezicht en noodmechanismen gelijke tred moeten houden met innovatie. China kiest daarbij voor regels, externe evaluaties en veiligheidsaudits, maar heeft nog geen systeem ingevoerd waarbij onafhankelijke toezichthouders permanent binnen de leidende AI bedrijven meekijken. Die keuze laat zien dat ook een land met zware staatscontrole nog zoekt naar het juiste evenwicht tussen technologische snelheid, economische belangen en geloofwaardige tegenspraak.
Suriname heeft er belang bij om niet te wachten tot autonome systemen diep zijn verweven met banken, overheidsdiensten, energievoorziening en bedrijfsprocessen voordat grenzen worden gesteld. Elke organisatie die AI agenten inzet, moet vooraf weten wie bevoegd is om een systeem stil te leggen, welke handelingen extra toestemming vragen en hoe incidenten technisch worden onderzocht. Deskundigheid in cyberveiligheid, gegevensbescherming en onafhankelijke audits moet daarom meegroeien met de ambitie om digitalisering sneller te omarmen.
De wedloop om kunstmatige intelligentie gaat uiteindelijk niet alleen over de slimste modellen, maar over de vraag wie de moed heeft om grenzen te trekken voordat er iets misgaat. Regels zonder technische controle blijven papieren schilden en techniek zonder menselijke verantwoordelijkheid verandert al snel in een risico voor de samenleving. Wie de noodrem pas zoekt wanneer een systeem al buiten beeld opereert, heeft de controle in feite al verloren.
Volg Ko’W’ Checking voor nieuws, data en meer gesprekken over samenleving, ondernemerschap, leiderschap en ontwikkeling, op de Facebookpagina, TIKTOK and Youtube kanaal. Voor alle nieuws uit Suriname en de wereld check: www.kowchecking.com
