De Wet op de Artificiële Intelligentie →

Een bewerkte versie van deze bijdrage is gepubliceerd op platform VerderDenken.nl van het Centrum voor Postacademisch Juridisch Onderwijs (CPO) van de Radboud Universiteit Nijmegen. https://www.ru.nl/cpo/verderdenken/columns/wet-artificiele-intelligentie-belangrijkste-punten/

Nieuwe regels voor AI gedreven producten, diensten en systemen

Op 21 april 2021 presenteerde de Europese Commissie haar langverwachte Wet op de Artificiële Intelligentie (AI). Deze concept Verordening geeft regels voor de ontwikkeling, commodificatie en gebruik van AI gedreven producten, diensten en systemen binnen het territorium van de Europese Unie. Het was bemoedigend te zien dat het team van President Ursula von der Leyen een belangrijk aantal van onze strategische aanbevelingen op het gebied van de regulering van AI heeft overgenomen, danwel zelfstandig tot dezelfde conclusies is gekomen.

Doelstellingen wettelijk kader voor AI

De concept Verordening biedt horizontale overkoepelende kernregels voor kunstmatige intelligentie die op alle industrieën (verticals) van toepassing zijn. De wet beoogt de hoge maatstaven van het EU Trustworthy AI paradigma te codificeren, dat voorschrijft dat AI wettig, ethisch en technisch robuust dient te zijn en daartoe 7 vereisten hanteert.

De Wet op de Artificiële Intelligentie heeft de volgende 4 doelstellingen:

“1. ervoor zorgen dat AI-systemen die in de Unie in de handel worden gebracht en gebruikt, veilig zijn en de bestaande wetgeving inzake grondrechten en waarden van de Unie eerbiedigen;

2. rechtszekerheid garanderen om investeringen en innovatie in AI te vergemakkelijken;

3. het beheer en de doeltreffende handhaving van de bestaande wetgeving inzake grondrechten en veiligheidsvoorschriften die van toepassing zijn op AI-systemen, verbeteren;

4. de ontwikkeling van een eengemaakte markt voor wettige, veilige en betrouwbare AI-toepassingen vergemakkelijken en marktversnippering voorkomen.“

Risico gebaseerde aanpak kunstmatig intelligente applicaties

Om deze doelstellingen te realiseren combineert de concept Artificial Intelligence Act een risk-based approach op basis van de pyramid of criticality, met een modern, gelaagd handhavingsmechanisme. Dit houdt onder meer in dat er voor AI applicaties met een verwaarloosbaar risico een licht wettelijk regime geldt, en onacceptabel risico applicaties verboden worden. Tussen deze 2 uitersten gelden er naarmate het risico toeneemt strengere voorschriften. Deze variëren van vrijblijvende zelfregulerende soft law impact assessments met gedragscodes, tot zwaar, multidisciplinair extern geauditeerde compliance vereisten inzake kwaliteit, veiligheid en transparantie inclusief risicobeheer, monitoring, certificering, benchmarking, validatie, documentatieplicht en markttoezicht gedurende de levenscyclus van de toepassing.

Handhaving en governance

De definitie van hoog risico AI applicaties binnen de diverse industriële sectoren is nog niet in steen gehouwen. Een ondubbelzinnige risicotaxonomie zal bijdragen aan rechtszekerheid en biedt belanghebbenden een adequaat antwoord op vragen over aansprakelijkheid en verzekering. Om ruimte voor innovatie door SME’s waaronder tech-startups te waarborgen, worden er flexibele AI regulatory sandboxes geïntroduceerd en is er IP Action Plan opgesteld voor intellectueel eigendom. De concept Verordening voorziet tenslotte in de installatie van een nieuwe handhavende instantie op Unieniveau: het European Artificial Intelligence Board. De EAIB zal op lidstaatniveau worden geflankeerd door nationale toezichthouders.

Meer lezen

Een Juridisch-Ethisch Kader voor Quantum Technologie →

Een bewerkte versie van deze bijdrage is gepubliceerd op platform VerderDenken.nl van het Centrum voor Postacademisch Juridisch Onderwijs (CPO) van de Radboud Universiteit Nijmegen. https://www.ru.nl/cpo/verderdenken/columns/we-nederland-voorbereiden-kwantumtoekomst/

Nederland moet zich voorbereiden op de toepassing van kwantumtechnologie, zegt jurist en Stanford Law School Fellow Mauritz Kop. Op het gebied van regulering, intellectueel eigendom en ethiek is er nog veel werk aan de winkel.

De Quantum Age roept veel juridische vragen op

Het gedrag van de natuur op de kleinste schaal kan vreemd en contra-intuïtief zijn. Hoe kunnen beleidsmakers de toepassingsgebieden van kwantumtechnologie, zoals quantum computing, quantum sensing en het quantum internet op een maatschappelijk verantwoorde manier reguleren? Dienen ethische kwesties een rol te spelen in regulering? De Quantum Age roept veel juridische vragen op.

Hoe kunnen we kwantumtechnologie reguleren?

Regulering van transformatieve technologie is een dynamisch, cyclisch proces dat de levensduur van de technologie en de toepassing volgt. Het vraagt om een flexibel wetgevend systeem dat zich snel kan aanpassen aan veranderende omstandigheden en maatschappelijke behoeften.

De eerste regelgevende stap om te komen tot een bruikbaar juridisch-ethisch kader is het koppelen van de Trustworthy AI-principes aan kwantumtechnologie. Die vullen we vervolgens aan met horizontale, overkoepelende regels die recht doen aan de unieke natuurkundige eigenschappen van quantum. Aan deze horizontale kernregels voegt de wetgever tenslotte verticale, industrie- of sectorspecifieke voorschriften toe. Die verticale voorschriften en gedragscodes zijn risk-based en houden rekening met de uiteenlopende behoeftes van economische sectoren waar het duurzame innovatiestimuli betreft. Zo ontstaat een gedifferentieerde, sectorspecifieke benadering aangaande incentives en risks.

Bewustwording van ethische, juridische en sociale aspecten

Een belangrijk onderdeel van het synchroniseren van onze normen, waarden, standaarden en principes met kwantumtechnologie is het creëren van bewustwording van de ethische, juridische en sociale aspecten ervan. De architectuur van systemen die zijn uitgerust met kwantumtechnologie moet waarden vertegenwoordigen die wij als samenleving belangrijk vinden.

Vooruitlopend op spectaculaire doorbraken in de toepassing van kwantumtechnologie is de tijd nu rijp voor regeringen, onderzoeksinstellingen en de markt om regulatoire en intellectuele eigendomsstrategieën voor te bereiden die passen bij de power van de technologie.

Nederland moet zich voorbereiden op een kwantumtoekomst, want die komt eraan.

Meer lezen

We hebben dringend een recht op dataprocessing nodig →

Deze column is gepubliceerd op platform VerderDenken.nl van het Centrum voor Postacademisch Juridisch Onderwijs (CPO) van de Radboud Universiteit Nijmegen. https://www.ru.nl/cpo/verderdenken/columns/we-dringend-recht-dataprocessing-nodig/

Bij een datagedreven economie hoort een gezond ecosysteem voor machine learning en artificial intelligence. Mauritz Kop beschrijft de juridische problemen en oplossingen hierbij. “We hebben dringend een recht op dataprocessing nodig.”

5 juridische obstakels voor een succesvol AI-ecosysteem

Eerder schreef ik dat vraagstukken over het (intellectueel) eigendom van data, databescherming en privacy een belemmering vormen voor het (her)gebruiken en delen van hoge kwaliteit data tussen burgers, bedrijven, onderzoeksinstellingen en de overheid. Er bestaat in Europa nog geen goed functionerend juridisch-technisch systeem dat rechtszekerheid en een gunstig investeringsklimaat biedt en bovenal is gemaakt met de datagedreven economie in het achterhoofd. We hebben hier te maken met een complex probleem dat in de weg staat aan exponentiële innovatie.

Auteursrechten, Privacy en Rechtsonzekerheid over eigendom van data

De eerste juridische horde bij datadelen is auteursrechtelijk van aard. Ten tweede kunnen er (sui generis) databankenrechten van derden rusten op (delen van) de training-, testing- of validatiedataset. Ten derde zullen bedrijven na een strategische afweging kiezen voor geheimhouding, en niet voor het patenteren van hun technische vondst. Het vierde probleempunt is rechtsonzekerheid over juridisch eigendom van data. Een vijfde belemmering is de vrees voor de Algemene verordening gegevensbescherming (AVG). Onwetendheid en rechtsonzekerheid resulteert hier in risicomijdend gedrag. Het leidt niet tot spectaculaire Europese unicorns die de concurrentie aankunnen met Amerika en China.

Wat is machine learning eigenlijk?

Vertrouwdheid met technische aspecten van data in machine learning geeft juristen, datawetenschappers en beleidsmakers de mogelijkheid om effectiever te communiceren over toekomstige regelgeving voor AI en het delen van data.

Machine learning en datadelen zijn van elementair belang voor de geboorte en de evolutie van AI. En daarmee voor het behoud van onze democratische waarden, welvaart en welzijn. Een machine learning-systeem wordt niet geprogrammeerd, maar getraind. Tijdens het leerproces ontvangt een computer uitgerust met kustmatige intelligentie zowel invoergegevens (trainingdata), als de verwachte, bij deze inputdata behorende antwoorden. Het AI-systeem moet zelf de bijpassende regels en wetmatigheden formuleren met een kunstmatig brein. Algoritmische, voorspellende modellen kunnen vervolgens worden toegepast op nieuwe datasets om nieuwe, correcte antwoorden te produceren.

Dringend nodig: het recht op dataprocessing

De Europese Commissie heeft de ambitie om datasoevereiniteit terug te winnen. Europa moet een internationale datahub worden. Dit vereist een modern juridisch raamwerk in de vorm van de Europese Data Act, die in de loop van 2021 wordt verwacht. Het is naar mijn idee cruciaal dat de Data Act een expliciet recht op dataprocessing bevat.

Technologie is niet neutraal

Tegelijkertijd kan de architectuur van digitale systemen de sociaal-maatschappelijke impact van digitale transformatie reguleren. Een digitaal inclusieve samenleving moet technologie actief vormgeven. Technologie an sich is namelijk nooit neutraal. Maatschappelijke waarden zoals transparantie, vertrouwen, rechtvaardigheid, controle en cybersecurity moeten worden ingebouwd in het design van AI-systemen en de benodigde trainingdatasets, vanaf de eerste regel code.

Meer lezen

Trump mag muziek Rolling Stones niet gebruiken tijdens verkiezingscampagne

Deze blog is een transcript van een live radio 3FM interview dat mr. Mauritz Kop op maandag 6 juli 2020 bij BNN/VARA gaf over muziekrechten en President Donald Trump. Dit naar aanleiding van bekende artiesten als Adele, de Rolling Stones, Tom Petty en Neil Young, die niet willen dat de Amerikaanse president hun muziek gebruikt in zijn verkiezingscampagne. Een succesvol verbod is mogelijk via een uitzondering op de Ascap/BMI "Political Entities License". Uitleg over muziekrechten, licenties en publiek domein in Europa en de Verenigde Staten. Ook aandacht voor IP en artificiële intelligentie.

Wat zijn muziekrechten eigenlijk?

Muziekrechten zijn een verschijningsvorm van intellectuele eigendomsrechten. Muziekrechten worden beschreven in de Auteurswet en de Wet naburige rechten. Zoals rechten van een componist, tekstdichter, uitvoerend muzikant en audioproducent. Zie het als een regenboog van rechtenlagen waarbij elke kleur symbool staat voor een bepaald soort recht, afhankelijk van iemands rol bij het ontstaan van een compositie, lyrics en de audiomaster. In het muziekrecht gaat het vaak over licenties, om toestemming krijgen voor muziekgebruik.

Belangrijker nog, wat kun je ermee?

Deze rechten geven de eigenaar het exploitatierecht, het recht om gebruik door een ander te verbieden en het recht om op te treden tegen derden die het zonder toestemming gebruiken. Auteurs hebben dus een vergoedingsrecht en een verbodsrecht.

Hoe krijg je die rechten? Moet je daarvoor muziek uitbrengen?

Nee, dan verlies je ze juist vaak, met name als je een onevenwichtig contract tekent. Auteursrechten ontstaan vanzelf, als je iets origineels maakt waarbij je creatief bent geweest. Het gaat om een minimum aan creatieve handelingen en originaliteit.

Zit er een leeftijd aan? Stel een artiest zou muziek maken en is 16 jaar? Gaat het dan naar hem/haar of de ouders?

Er zit geen leeftijd aan, wel moet je 18 jaar oud zijn om een muziekcontract rechtsgeldig te kunnen ondertekenen. Anders moeten ouders tekenen als wettelijk vertegenwoordigers. Daarnaast moet je een mens zijn en geen machine. Een slimme robot die muziek produceert krijgt geen auteursrechten. Die muziek komt direct in het publiek domein. Dat onderwerp sluit aan op mijn onderzoeksopdracht aan Stanford University in Silicon Valley, Californië. Dit onderzoek heeft ook met IP te maken en zoekt naar een optimaal innovatieklimaat in zowel Europa als de VS waarbij de maatschappelijke impact van transformatieve technologie zoals AI, quantum computing, blockchain en VR in balans wordt gebracht, met respect voor onze grondrechten en democratische waarden. Ik focus me daarbij op 3 sectoren: Pharma, Voeding en Entertainment, Media en Kunst. Allemaal 1e levensbehoeftes dus! Onderzoeksoutput gaat in de vorm van gepubliceerde artikelen direct naar Brussel en Washington, zodat politici en wetgevers een breder scala aan effectieve beleidsmogelijkheden voorgeschoteld krijgen om uit te kiezen.

Meer lezen

Computer generated works: wie of wat is eigenaar? →

Deze column is gepubliceerd op platform VerderDenken.nl van het Centrum voor Postacademisch Juridisch Onderwijs (CPO) van de Radboud Universiteit Nijmegen. https://www.ru.nl/cpo/verderdenken/columns/computer-generated-works-eigenaar/

Nieuwe technologieën roepen nieuwe juridische vragen op. Zo ook computers die creatieve werken maken. Wie of wat is de eigenaar van zo’n werk? Mauritz Kop geeft uitleg.

Machines uitgerust met artificiële intelligentie (AI) begeven zich op het terrein van de schone kunsten. Computers schilderen, schrijven en componeren er ijverig op los. Zo genereerde The Next Rembrandt een 3D-geprint meesterwerk, schilderde The Art and Artificial Intelligence Lab een levensechte Mona Lisa, schreef Kurzweils Cybernetic Poet klassieke sonnetten en produceerde Amper Music een complete muziek-cd. Alles in luttele seconden.

Auteursrechten vestigen is problematisch

Het is voorstelbaar dat er auteursrechten rusten op de voortbrengselen van AI-systemen zelf, zoals kunst, muziek, literatuur, uitvindingen, industriële toepassingen, algoritmes, code en andersoortige scheppingen. Men kan zich als wetgever de vraag stellen of er voor computer generated works sui generis categorieën rechten (met een korte looptijd en zonder persoonlijkheidsrechten) in het leven moeten worden geroepen.

Kunnen IE-rechten überhaupt AI-scheppingen beschermen?

De wet in haar huidige vorm erkent geen niet-menselijke auteursrechten. Auteurschap is fundamenteel verbonden met menselijkheid; met scheppingen van de menselijke geest. Dat vloeit bijvoorbeeld voort uit het bekende Infopaq-arrest van het EU Hof van Justitie uit 2009, al is dit arrest niet geschreven met machine learning en kunstmatige intelligentie in het achterhoofd. Is het dogmatisch en doctrinair correct om aan te nemen dat er geen copyright kan zijn op pure AI creations? AI is per slot van rekening niet menselijk en er is bovendien geen menselijke originaliteit en creativiteit aanwezig. Het korte antwoord luidt: ja.

Algoritmisch auteurschap: goed idee of niet?

In tegenstelling tot de benadering van de EU en de VS, heeft het Verenigd Koninkrijk een computer generated works-regime geïmplementeerd, wat betekent dat de programmeur van de AI het auteursrecht krijgt op de output van de machine. Met andere woorden: het VK, en recentelijk ook de Chinese rechter, breiden het menselijke auteurschap uit naar algoritmisch auteurschap.

AI-machine kan geen copyright bezitten

Auteursrechten kunnen alleen eigendom zijn van rechtssubjecten, dus personen of bedrijven. Een AI-machine kan zelf geen copyright bezitten op AI made creations omdat een AI-systeem geen rechtssubjectiviteit en ook geen rechtspersoonlijkheid bezit. AI-systemen kwalificeren als rechtsobject, niet als rechtssubject.

‘Publiek eigendom uit de machine’ en menselijke interventie

Menselijk auteurschap blijft het normatieve orgelpunt van het intellectuele eigendomsrecht. Delen van het meerlagige, uit het Romeinse recht afkomstige eigendomsparadigma kunnen relevant zijn voor AI. Voortbouwend op dit raamwerk is er een nieuw publiek domein model denkbaar voor AI creations and inventions die de autonomiedrempel overschrijden: res publicae ex machina (publiek eigendom uit de machine).

Meer lezen

Data delen als voorwaarde voor een succesvol AI-ecosysteem →

Trainingsdatasets voor kunstmatige intelligentie: enkele juridische aspecten

Data delen (data sharing) of liever het vermogen om hoge kwaliteit trainingsdatasets te kunnen analyseren om een AI model -zoals een generative adversarial network- te trainen, is een voorwaarde voor een succesvol AI-ecosysteem in Nederland.

In ons turbulente technologische tijdperk nemen fysieke aanknopingspunten als papier of tastbare producten binnen de context van data -of informatie- in belang af. Informatie is niet langer aan een continent, staat of plaats gebonden. Informatietechnologie zoals kunstmatige intelligentie ontwikkelt zich in een dermate hoog tempo, dat de juridische problemen die daaruit voortvloeien in belangrijke mate onvoorspelbaar zijn. Hierdoor ontstaan -kort gezegd- problemen voor tech startups en scaleups.

In dit artikel een serie -mede in onderlinge samenhang te beschouwen aanbevelingen, suggesties en inventieve oplossingen om anno 2020 tot waardevolle nationale en Europese dataketens te komen.

Data donor codicil

Introductie van een Europees (of nationaal) data donor codicil waarmee een patiënt of consument vrijwillig data kan doneren aan de overheid en/of het bedrijfsleven, AVG-proof. Hier kunnen waardeketens worden gecreëerd door de sensor data van medische Internet of Things (IoT) apparaten en smart wearables van overheidswege te accumuleren. Anoniem of met biomarkers.

Data interoperabel en gestandaardiseerd

Unificatie van data uitwisselingsmodellen zodat deze interoperabel en gestandaardiseerd worden in het IoT. Een voorbeeld is een Europees EPD (Elektronisch Patiënten Dossier), i.e een Electronic Healthcare Record (EMR). AI certificering en standaardisatie (zoals ISO, ANSI, IEEE / IEC) dient bij voorkeur niet te worden uitgevoerd door private partijen met commerciële doelstellingen, maar door onafhankelijke openbare instanties (vergelijk het Amerikaanse FDA).

Machine generated (non) personal data

Een andere categorisering die we kunnen maken is enerzijds publieke (in handen van de overheid) machine generated (non) personal data, en private machine generated (non) personal data. Met machine generated data bedoelen we met name informatie en gegevens die continue door edge devices worden gegenereerd in het Internet of Things (IoT). Deze edge devices staan via edge (of fod) nodes (zenders) in verbinding met datacenters die samen met edge servers de cloud vormen. Deze architectuur noemen we ook wel edge computing.

Juridische dimensie

Data, of informatie heeft een groot aantal juridische dimensies. Aan data delen kleven potentieel intellectueel eigendomsrechtelijke (verbodsrecht en vergoedingsrecht), ethische, grondrechtelijke (privacy, vrijheid van meningsuiting), contractenrechtelijke en internationaal handelsrechtelijke aspecten. Juridisch eigendom op data bestaat anno 2020 niet omdat het -vanuit goederenrechtelijk oogpunt- niet als zaak wordt gekwalificeerd. Data heeft wel vermogensrechtelijke aspecten.

Meer lezen