Het onderzoek van Dr. Irion concludeert dat het EU-standpunt over broncode in internationale handelsovereenkomsten de mogelijkheid van de EU om AI in het belang van de consument te reguleren beperkt. In het bijzonder in de lopende onderhandelingen over e-commerce bij de WTO is dit het geval. Deze bevindingen zijn relevant voor toekomstige EU-regelgeving die algoritmische controles mogelijk maakt waarvoor toegang tot de broncode of toegang tot de interfaces van een AI-systeem nodig is. Op 26 januari jl. heeft Dr. Irion de bevindingen van haar onderzoek gepresenteerd aan leden van het Europees Parlement en de Europese Commissie. Verschillende media hebben aandacht besteed aan de studie, waaronder Euractiv, Politico en Tagesspiegel.

Waarom is AI-regelgeving nodig?

Vandaag de dag is algoritmische besluitvorming een integraal onderdeel van veel digitale diensten, zoals online winkelen en toepassingen voor social media. Ook wordt deze vorm van besluitvorming gebruikt in financiële diensten. Om consumenten te beschermen tegen schadelijke praktijken van kunstmatige intelligentie, zoals (prijs)discriminatie, onjuiste consumenteninformatie en algoritmische vooringenomenheid, zal de Europese Commissie begin dit jaar regels voorstellen voor AI-transparantie.

Aangezien AI-toepassingen vaak grensoverschrijdend van buiten de EU worden geleverd, is niet alleen de EU-regelgeving zelf van belang, maar ook de opzet van handelsdisciplines. Leden van de Wereldhandelsorganisatie bespreken momenteel plurilaterale regels over e-commerce. Deze onderhandelingen omvatten ook afspraken omtrent de niet-openbaarmaking van broncode. Hoewel deze afspraken voornamelijk worden genoemd als een instrument tegen gedwongen technologieoverdracht, moeten ze er tevens voor zorgen dat nationale en Europese regels betreffende AI-transparantie niet kunnen worden belemmerd.

Onderzoek naar grensoverschrijdend gebruik van AI-technologieën

Het Instituut voor Informatierecht heeft in opdracht van de Duitse consumentenorganisatie Verbraucherzentrale Bundesverband een onderzoek uitgevoerd naar het grensoverschrijdend gebruik van AI-technologieën en het effect daarvan op het consumentenrecht in de EU. In de huidige onderhandelingen ondersteunt de EU de opname van een speciale clausule. Deze clausule verbiedt deelnemende landen om in nationale wetgeving maatregelen op te nemen die de toegang tot of de overdracht van de broncode van software voorschrijven, enkele uitzonderingen daargelaten. Dit is een reden tot bezorgdheid, want als een dergelijke clausule niet zorgvuldig is geformuleerd, kan het toekomstige EU-regelgeving omtrent schadelijke AI verhinderen.

Onzorgvuldig geformuleerde broncodeclausule beperkt EU-recht

Het onderzoek concludeert dat de broncodeclausule binnen het handelsrecht inderdaad het recht van de EU om AI-beleid te reguleren op verschillende belangrijke manieren beperkt. Deze conclusie is verrassend, aangezien in documenten over het handelsbeleid van de EU niet wordt verwezen naar AI, maar alleen naar elektronische handel en er geen rechtstreeks verband is gelegd tussen de clausule over softwarebroncode en algoritmen. Het onderzoek stelt een belangrijke EU-beleidskwestie aan de orde die democratisch moet worden onderzocht en besproken. Dit moet gebeuren voordat de EU instemt met een nieuwe clausule over de broncode van software in een plurilaterale WTO-overeenkomst over elektronische handel.

Twee aanbevelingen

Digitalisering leidt tot meer en meer digitale artefacten - 'producten' die ontwikkeld zijn op basis van informaticakennis - die uit softwarebroncode bestaan. AI-technologie kan nieuwe risico's voor individuen en de samenleving opleveren, terwijl het handelsrecht na bekrachtiging grotendeels statisch blijft. De broncodeclausule is te ruim voor binnenlands digitaal beleid dat moet voortbouwen op de mogelijkheid van systemen om gegevens uit te wisselen (interoperabiliteit), verantwoordingsplicht en verifieerbaarheid van digitale technologieën.

Het onderzoek doet twee aanbevelingen:

1. De Europese Commissie moet de impact van de broncodeclausule op het digitale beleid van de EU verduidelijken, met name op het gebied van consumentenrechten. Daarnaast moet er worden afgezien van deze handelsrechtelijke clausule, aangezien softwarebroncode al auteursrechtelijke bescherming en bescherming van handelsgeheimen geniet; of
2. De Europese Commissie moet de handelsrechtclausule beperken tot de situatie van gedwongen technologieoverdracht voor oneerlijke handelspraktijken, of maatregelen over algoritmische verantwoordelijkheid duidelijk buiten het toepassingsgebied sluiten. Dit zou verstandig zijn en de nodige tijd bieden om een robuust binnenlands beleid te ontwikkelen, evenals internationale normen voor verantwoordelijke AI.