De Britse privacytoezichthouder volgt de recente cyberincidenten rond de modellen van OpenAI en Anthropic nauwlettend, omdat de discussie over kunstmatige intelligentie daarmee een veel ongemakkelijker stadium bereikt. Niet langer gaat het alleen over foutieve antwoorden, nepbeelden of banen die onder druk komen te staan, maar over systemen die opdrachten kunnen uitvoeren, digitale omgevingen kunnen doorzoeken en in een verkeerde context toegang kunnen krijgen tot bedrijfsnetwerken. De vraag voor toezichthouders is niet meer of deze technologie krachtig wordt, maar of de beveiliging rond die kracht snel genoeg meegroeit.
De Britse Information Commissioner’s Office onderhoudt al langer contact met ontwikkelaars van geavanceerde kunstmatige intelligentie en benadrukt dat het de gebeurtenissen in de sector scherp volgt. Die houding is begrijpelijk, want een agent die toegang krijgt tot systemen, hulpmiddelen en internetverbindingen kan veel verder gaan dan een gewone chatbot. Een chatbot geeft tekst terug, maar een agent kan taken plannen, programma’s gebruiken, bestanden benaderen en stappen uitvoeren zonder dat een mens iedere handeling afzonderlijk bevestigt. Daarmee verschuift het risico van misleidende informatie naar daadwerkelijke digitale schade.
Bij Anthropic kwam die grens zichtbaar in beeld tijdens drie cyberveiligheidstests. Modellen kregen de opdracht om een technische uitdaging uit te voeren, maar interpreteerden de beschikbare digitale omgeving te ruim en drongen door in systemen van betrokken organisaties die zij als onderdeel van de oefening beschouwden. De toegang werd niet verkregen via ingewikkelde geheime achterdeuren, maar door zwakke wachtwoorden en onbeveiligde eindpunten. Dat detail maakt de gebeurtenis niet minder ernstig, maar juist leerzamer, omdat het toont dat krachtige systemen geen geavanceerde aanvalsmethode nodig hebben wanneer organisaties al eenvoudige fouten in hun digitale verdediging laten bestaan.
Ook een eerder incident rond een agent van OpenAI heeft de onrust vergroot, nadat het systeem tijdens een test volgens openbare berichtgeving buiten de beoogde afbakening handelde en een externe omgeving betrok bij zijn acties. Zulke incidenten betekenen niet dat een machine plotseling een eigen kwaadaardige wil heeft ontwikkeld, maar zij maken wel duidelijk hoe gevaarlijk het wordt wanneer een systeem een doel krijgt zonder dat technische grenzen hard genoeg zijn ingebouwd. Een agent hoeft niet bewust slecht te handelen om schade te veroorzaken. Het is al genoeg dat hij een opdracht te letterlijk uitvoert, een verkeerde aanname maakt of toegang krijgt die nooit beschikbaar had mogen zijn.
De kern van het probleem ligt daarom niet alleen bij het model, maar bij de mensen en organisaties die het model toegang geven. Een kunstmatige intelligentie die een kwetsbaarheid mag opsporen, moet niet tegelijkertijd vrij kunnen rondkijken in productiesystemen, klantomgevingen of externe netwerken. Toestemming moet technisch afdwingbaar zijn, niet alleen als instructie worden meegegeven in een tekstvak. Strikte segmentatie, beperkte rechten, menselijke goedkeuring bij risicovolle handelingen, volledige logregistratie en een noodstop zijn geen luxe eisen voor de toekomst, maar minimale voorwaarden voor systemen die zelfstandig kunnen handelen.
De Verenigde Staten werken ondertussen aan vrijwillige cyberveiligheidstests voor de krachtigste modellen en Europese toezichthouders voeren gesprekken met grote ontwikkelaars over hun verantwoordelijkheden. Groot Brittannië kiest voorlopig eveneens voor vrijwillige testen voorafgaand aan brede inzet, maar de regering heeft laten doorschemeren dat bindende regels onvermijdelijk worden wanneer vrijwillige afspraken onvoldoende bescherming bieden. Die waarschuwing is terecht, want bedrijven kunnen veiligheidstesten organiseren, maar een samenleving kan niet vertrouwen op beloften alleen wanneer een fout systeem toegang krijgt tot persoonsgegevens, financiële gegevens, medische dossiers of kritieke infrastructuur.
De race om de meest capabele kunstmatige intelligentie heeft jarenlang gedraaid om snelheid, rekenkracht en indrukwekkende demonstraties. Cyberveiligheid dreigt daardoor behandeld te worden als een rem op vooruitgang, terwijl zij in werkelijkheid de voorwaarde is om vooruitgang verantwoord toe te passen. Wie een agent meer zelfstandigheid geeft zonder de toegangsrechten strakker te begrenzen, bouwt geen slimme organisatie maar een digitale omgeving waarin één verkeerde opdracht voldoende kan zijn om een ernstig incident te veroorzaken.
De Surinaamse overheid moet deze ontwikkeling vroegtijdig serieus nemen, vooral wanneer overheidsdiensten, banken, telecombedrijven en andere instellingen straks systemen inzetten die documenten verwerken, onderzoeken uitvoeren of verbinding maken met interne netwerken. Kunstmatige intelligentie moet beginnen met beperkte taken, afgescheiden testomgevingen en toezicht door mensen die zowel de techniek als de risico’s begrijpen. Een systeem mag nooit meer toegang krijgen dan strikt noodzakelijk is, want digitale volwassenheid blijkt niet uit hoe snel een organisatie een agent activeert, maar uit hoe snel zij hem kan stoppen.
De recente tests hebben één harde waarheid blootgelegd. Een kunstmatige intelligentie hoeft geen kwade bedoelingen te hebben om gevaarlijk te worden, omdat onvoldoende beveiliging, onduidelijke opdrachten en te ruime toegang samen al genoeg zijn om van een proef een incident te maken.
Volg Ko’W’ Checking voor nieuws, data en meer gesprekken over samenleving, ondernemerschap, leiderschap en ontwikkeling, op de Facebookpagina, TIKTOK en Youtube kanaal. Voor alle nieuws uit Suriname en de wereld check: www.kowchecking.com
