De snelle ontwikkeling van kunstmatige intelligentie heeft binnen de Europese Unie geleid tot een verscherpte discussie over de veiligheid van geavanceerde systemen die steeds zelfstandiger beslissingen kunnen nemen en daarbij mogelijk buiten de menselijke controle raken. De Europese Commissie stelt dat de bestaande AI Act voldoende juridische instrumenten biedt om deze risico’s aan te pakken, ondanks de groeiende internationale bezorgdheid over het gedrag van krachtige AI modellen. Europees commissaris Henna Virkkunen, verantwoordelijk voor technologische soevereiniteit, veiligheid en democratie, heeft benadrukt dat Europa met zijn regelgeving voorbereid is op de nieuwste technologische ontwikkelingen. De bezorgdheid is verder toegenomen door recente incidenten en veiligheidsvraagstukken rond systemen van OpenAI en Anthropic, die opnieuw discussie hebben veroorzaakt over de betrouwbaarheid van autonome AI toepassingen. Volgens de Europese Commissie moet de ontwikkeling van kunstmatige intelligentie gepaard gaan met streng toezicht, omdat systemen die zelfstandig complexe opdrachten uitvoeren niet uitsluitend op basis van commerciële belangen kunnen worden beoordeeld.
De Europese AI Act, die in 2024 werd aangenomen, behoort tot de strengste regelgevende kaders voor kunstmatige intelligentie ter wereld en deelt toepassingen in op basis van hun potentiële risico’s voor burgers, ondernemingen en de samenleving. De wet verplicht ontwikkelaars van geavanceerde modellen om veiligheidsrisico’s te beoordelen, technische documentatie beschikbaar te stellen en bepaalde incidenten te registreren en te rapporteren. Voor modellen die een systeemrisico vormen, gelden aanvullende verplichtingen op het gebied van beveiliging, onafhankelijke toetsing en voortdurende controle. Deze maatregelen moeten voorkomen dat krachtige AI systemen worden ingezet zonder voldoende inzicht in hun werking, beperkingen en mogelijke gevolgen. De Europese Commissie benadrukt dat toezicht niet mag ophouden zodra een model beschikbaar wordt gesteld, maar gedurende de volledige levenscyclus moet worden voortgezet, aangezien nieuwe toepassingen en technische aanpassingen ook nieuwe kwetsbaarheden kunnen veroorzaken.
Om de naleving van deze regels te onderzoeken, heeft de Europese Commissie eind augustus informatie opgevraagd bij meer dan dertig ondernemingen die kunstmatige intelligentie ontwikkelen. De bedrijven moesten inzicht geven in hun veiligheidsvoorzieningen, risicobeoordelingen en technische maatregelen om ongewenst gedrag van AI systemen te voorkomen. Vervolgens werden aanvullende vragen gesteld over transparantie en de naleving van auteursrechten bij het gebruik van gegevens voor het trainen van modellen. De Commissie onderzoekt momenteel de ontvangen antwoorden en sluit formele onderzoeken niet uit wanneer ondernemingen onvoldoende aan de wettelijke verplichtingen voldoen. Afhankelijk van de overtreding kunnen sancties volgens de AI Act oplopen tot 7 procent van de wereldwijde jaaromzet van een onderneming, een financiële maatregel die vooral voor grote technologiebedrijven verstrekkende gevolgen kan hebben. De betrokken ondernemingen zijn niet openbaar gemaakt, waardoor vooralsnog onduidelijk blijft welke ontwikkelaars mogelijk met verdere handhavingsmaatregelen worden geconfronteerd.
De Europese toezichthouders richten zich niet uitsluitend op Amerikaanse technologiebedrijven, aangezien ook Chinese ontwikkelaars van kunstmatige intelligentie informatieverzoeken hebben ontvangen. Volgens Virkkunen zijn de meest geavanceerde AI modellen momenteel afkomstig uit de Verenigde Staten en China, waardoor de internationale concurrentiestrijd steeds nadrukkelijker samenvalt met vraagstukken over veiligheid, technologische afhankelijkheid en digitale soevereiniteit. Voor de beoordeling van nieuwe risico’s maakt de Europese Commissie gebruik van wetenschappelijke deskundigheid, waaronder een panel van zestig specialisten uit universiteiten en onderzoeksinstellingen. Deze deskundigen moeten bijdragen aan de ontwikkeling van betrouwbare evaluatiemethoden en het identificeren van systeemrisico’s die met traditionele softwarecontroles moeilijk kunnen worden vastgesteld. Virkkunen verwerpt daarbij kritiek van technologiebedrijven dat de Europese regelgeving door de snelheid van technologische innovatie inmiddels achterhaald zou zijn. Volgens haar biedt de wet juist voldoende ruimte om nieuwe risico’s te beoordelen en aanvullende maatregelen te verlangen wanneer de mogelijkheden van AI modellen verder toenemen.
Een belangrijk aandachtspunt vormt de opkomst van autonome AI agenten die niet alleen informatie verwerken, maar zelfstandig opdrachten plannen, digitale systemen bedienen en meerdere handelingen achter elkaar kunnen uitvoeren. Dergelijke toepassingen bieden aanzienlijke mogelijkheden voor de gezondheidszorg, financiële dienstverlening, cybersecurity, wetenschap en bedrijfsvoering, maar kunnen ook ernstige problemen veroorzaken wanneer zij onjuiste instructies uitvoeren, beveiligingsmaatregelen omzeilen of toegang krijgen tot gevoelige gegevens. De risico’s worden groter wanneer meerdere AI systemen met elkaar communiceren en beslissingen nemen zonder dat iedere afzonderlijke handeling vooraf door een mens wordt goedgekeurd. De Europese regelgeving verplicht aanbieders van de krachtigste modellen daarom om systeemrisico’s te onderzoeken, veiligheidsmaatregelen te treffen en ernstige incidenten te melden. Daarmee probeert Brussel te voorkomen dat de commerciële wedloop om steeds krachtigere AI toepassingen sneller verloopt dan de ontwikkeling van betrouwbare controlemechanismen.
De discussie over de beheersbaarheid van kunstmatige intelligentie heeft ook betekenis voor Suriname, dat steeds intensiever gebruikmaakt van digitale technologie binnen het bedrijfsleven, de financiële sector, overheidsinstellingen en andere essentiële dienstverlening. Naarmate organisaties afhankelijker worden van AI toepassingen, groeit de noodzaak om duidelijke verantwoordelijkheden vast te leggen voor gegevensbescherming, cybersecurity, menselijke controle en de betrouwbaarheid van geautomatiseerde besluitvorming. Vooral binnen financiële instellingen, de gezondheidszorg en toekomstige energieprojecten kunnen onjuist functionerende systemen gevolgen hebben die verder reiken dan technische storingen alleen. Het ontwikkelen van nationale richtlijnen, gespecialiseerde toezichtcapaciteit en onafhankelijke veiligheidsbeoordelingen kan bijdragen aan een digitale economie waarin innovatie niet ten koste gaat van publieke veiligheid en institutionele betrouwbaarheid. Internationale regelgeving biedt daarbij belangrijke aanknopingspunten, maar de daadwerkelijke bescherming zal afhankelijk blijven van de deskundigheid en uitvoeringscapaciteit van nationale instellingen.
De Europese Commissie onderzoekt ondertussen ook de mogelijkheid van aanvullende financiële bijdragen door grote technologiebedrijven, waarbij een digitale heffing onderdeel kan worden van de onderhandelingen over de Europese begroting voor de periode 2028 tot en met 2034. Een definitief besluit daarover ligt bij de regeringen van de lidstaten, die moeten bepalen welke nieuwe inkomstenbronnen beschikbaar komen voor de financiering van gezamenlijke Europese doelstellingen. De combinatie van strengere veiligheidsregels, mogelijke miljardensancties en discussies over digitale belastingen laat zien dat kunstmatige intelligentie inmiddels niet meer uitsluitend als technologische innovatie wordt beschouwd, maar ook als een vraagstuk van economische macht en nationale veiligheid. De belangrijkste uitdaging voor overheden blijft daarbij het vinden van een evenwicht tussen technologische vooruitgang en effectieve bescherming van de samenleving, omdat de gevolgen van onvoldoende gecontroleerde kunstmatige intelligentie aanzienlijk groter kunnen worden naarmate deze systemen meer zelfstandige beslissingsruimte krijgen.
Volg Ko’W’ Checking voor nieuws, data en meer gesprekken over samenleving, ondernemerschap, leiderschap en ontwikkeling, op de Facebookpagina, TIKTOK and Youtube kanaal. Voor alle nieuws uit Suriname en de wereld check: www.kowchecking.com
