De operatieruimte krijgt steeds vaker een digitale copiloot in Amerika, omdat fabrikanten kunstmatige intelligentie in navigatie, monitoring en beeldvorming stoppen en dat verkopen als de volgende stap in precisiegeneeskunde. Tegelijk stapelen bij toezichthouders meldingen op over apparaten die zich anders gedragen dan verwacht, met claims van letsel, foutieve herkenning van anatomie en software die in kritieke seconden geen betrouwbare aanwijzingen geeft. In bestanden rond een sinusnavigatiesysteem dat na een AI update opnieuw werd gepositioneerd, duiken beschrijvingen op van ingrepen waarbij instrumentpositie verkeerd werd weergegeven en chirurgen pas achteraf ontdekten hoe dicht ze bij risicogebied zaten.
In de kern gaat het om een oud spanningsveld dat door AI scherper wordt, want medische hulpmiddelen worden vaak als doorontwikkeling van bestaande technologie beoordeeld en komen sneller op de markt dan geneesmiddelen. De meldsystemen die incidenten verzamelen zijn nuttig om patronen te zien, maar ze zijn niet ontworpen om oorzaken vast te stellen, waardoor fabrikanten en ziekenhuizen elkaar in de publieke ruimte geregeld tegenspreken. Rechtszaken bouwen daar bovenop een eigen werkelijkheid, omdat slachtoffers stellen dat het product eerder veiliger was en bedrijven volhouden dat het enkel gaat om het feit dat hun systeem aanwezig was bij een complicatie.
De problemen blijven niet beperkt tot een apparaat of een specialisme, want ook bij andere AI verrijkte hulpmiddelen zijn meldingen gedaan over gemiste signalen of verkeerd gelabelde beelden. Onderzoekers die terugroepacties rond AI hulpmiddelen analyseerden, zien dat een deel daarvan opvallend snel na markttoelating plaatsvindt, wat de vraag voedt of validatie en post market controle hard genoeg zijn ingericht. Het resultaat is een medtech markt waarin marketingtaal sneller kan groeien dan bewijs, terwijl de patiënt het risico draagt wanneer de techniek in een uitzonderingssituatie niet robuust blijkt.
Voor de toezichthouder ontstaat daarmee een capaciteitsvraagstuk, omdat er een voortdurende stroom aan AI functies bijkomt die specialistische beoordeling vraagt, van data herkomst tot modeldrift en softwarewijzigingen. Er wordt gewaarschuwd dat toezichthouders achterlopen op aanbieders, en dat het ontbreken van klinische proeven bij veel hulpmiddelen de bewijslast in de praktijk naar het ziekenhuis verschuift. Het debat gaat dus niet alleen over techniek, maar ook over governance, transparantie en de simpele vraag welke veiligheidsmarges nog acceptabel zijn wanneer een algoritme mee beslist in een lichaam.
Voor Suriname is dit zeer belangrijk om te analyseren, omdat dezelfde AI componenten via import, softwareupdates en internationale leveranciers ook hier in klinische workflows kunnen belanden. Ziekenhuizen en beleidsmakers die nu al eisen dat leveranciers auditbare logbestanden leveren, dat updates eerst in een gecontroleerde testomgeving worden gevalideerd en dat personeel wordt getraind op fail safe procedures, verkleinen de kans dat een slimme tool verandert in een onzichtbare risicofactor. Avigdor adviseert patiënten die twijfelen om aan hun arts te vragen welke rol software speelt tijdens de ingreep en welke back up bestaat als de technologie hapert.
Voor inspiratie, nieuws, data en Community Building, volg de Facebookpagina and Youtube kanaal.
