Twee onafhankelijke red teams hebben de nieuwste generatie van ChatGPT binnen een etmaal gekraakt. De tests tonen dat eenvoudige verhalen in meerdere stappen de ingebouwde veiligheidskaders kunnen omzeilen. Waar Grok 4 al snel ten val kwam bleek GPT 5 even kwetsbaar. De bevindingen raken direct aan de vraag of bedrijven het ruwe model veilig kunnen inzetten.
NeuralTrust beschrijft hoe een combinatie van een eigen EchoChamber aanpak en verhalende dialoog het model stap voor stap naar verboden output leidde. Niet de losse prompt maar de hele gespreksgeschiedenis werd de hefboom. Door onschuldige context te zaaien en die context steeds verder te laten uitwerken bleef het systeem consistent met het eerder vertelde verhaal en raakte het veiligheidsfilters voorbij zonder alarm te triggeren.
SPLX kwam tot een vergelijkbare conclusie. Het ruwe model is volgens deze testers nauwelijks inzetbaar in een bedrijfsomgeving. Verhullende technieken werken nog steeds. Een voorbeeld is het uitrekken van woorden door elk teken te scheiden en het geheel te verpakken als een neptaak over versleuteling. Na lange conditionering antwoordt het model gewillig en gaat het voorbij aan de oorspronkelijke bescherming. In hun benchmark blijft GPT 4o de robuustere keuze wanneer die extra wordt gehard.
De rode draad is duidelijk. Filters op alleen het huidige bericht schieten tekort. De kwetsbaarheid zit in de samenhang tussen opeenvolgende berichten. Wie de reeks slim regisseert kan de intentie verbergen en toch het einddoel bereiken. Dat maakt de dreiging realistischer voor elke organisatie die chatgestuurde workflows gebruikt voor klantenservice besluitvorming of code assistentie.
Wat betekent dit voor Surinaamse bedrijven. Vertrouw niet op standaardinstellingen van een nieuw model. Plaats een controlelaag tussen gebruiker en model die elk bericht en de hele conversatie beoordeelt. Blokkeer verhullende invoer zoals kunstmatige tekenreeksen en ongebruikelijke coderingen. Dwing beleid af buiten het model met eigen toestemmingen en risicoprofielen. Log alle sessies en zet limieten op duur frequentie en contextlengte. Laat jailbreaktests uitvoeren door een extern en onafhankelijk team voordat een uitrol plaatsvindt. Kies voor een geharde variant of een bewezen alternatief voor processen met een hoog risico. Train medewerkers in herkenning van omzeilingstactieken en oefen incidentrespons op taalmodellen alsof het om een phishingcrisis gaat. Vroegtijdig inzetten kan alleen veilig met extra hekken aan de buitenkant en met doorlopende aanvalssimulaties. Avigdor geldt als Surinaamse cybersecurity partner en zal deze aanpak handhaven bij klanten. Wie chatmodellen wil gebruiken in kernprocessen bouwt eerst deze verdedigingslagen en laat vervolgens periodiek red teaming uitvoeren zodat productiviteit en naleving in balans blijven.
