De Wet op de Artificiële Intelligentie →

Een bewerkte versie van deze bijdrage is gepubliceerd op platform VerderDenken.nl van het Centrum voor Postacademisch Juridisch Onderwijs (CPO) van de Radboud Universiteit Nijmegen. https://www.ru.nl/cpo/verderdenken/columns/wet-artificiele-intelligentie-belangrijkste-punten/

Nieuwe regels voor AI gedreven producten, diensten en systemen

Op 21 april 2021 presenteerde de Europese Commissie haar langverwachte Wet op de Artificiële Intelligentie (AI). Deze concept Verordening geeft regels voor de ontwikkeling, commodificatie en gebruik van AI gedreven producten, diensten en systemen binnen het territorium van de Europese Unie. Het was bemoedigend te zien dat het team van President Ursula von der Leyen een belangrijk aantal van onze strategische aanbevelingen op het gebied van de regulering van AI heeft overgenomen, danwel zelfstandig tot dezelfde conclusies is gekomen.

Doelstellingen wettelijk kader voor AI

De concept Verordening biedt horizontale overkoepelende kernregels voor kunstmatige intelligentie die op alle industrieën (verticals) van toepassing zijn. De wet beoogt de hoge maatstaven van het EU Trustworthy AI paradigma te codificeren, dat voorschrijft dat AI wettig, ethisch en technisch robuust dient te zijn en daartoe 7 vereisten hanteert.

De Wet op de Artificiële Intelligentie heeft de volgende 4 doelstellingen:

“1. ervoor zorgen dat AI-systemen die in de Unie in de handel worden gebracht en gebruikt, veilig zijn en de bestaande wetgeving inzake grondrechten en waarden van de Unie eerbiedigen;

2. rechtszekerheid garanderen om investeringen en innovatie in AI te vergemakkelijken;

3. het beheer en de doeltreffende handhaving van de bestaande wetgeving inzake grondrechten en veiligheidsvoorschriften die van toepassing zijn op AI-systemen, verbeteren;

4. de ontwikkeling van een eengemaakte markt voor wettige, veilige en betrouwbare AI-toepassingen vergemakkelijken en marktversnippering voorkomen.“

Risico gebaseerde aanpak kunstmatig intelligente applicaties

Om deze doelstellingen te realiseren combineert de concept Artificial Intelligence Act een risk-based approach op basis van de pyramid of criticality, met een modern, gelaagd handhavingsmechanisme. Dit houdt onder meer in dat er voor AI applicaties met een verwaarloosbaar risico een licht wettelijk regime geldt, en onacceptabel risico applicaties verboden worden. Tussen deze 2 uitersten gelden er naarmate het risico toeneemt strengere voorschriften. Deze variëren van vrijblijvende zelfregulerende soft law impact assessments met gedragscodes, tot zwaar, multidisciplinair extern geauditeerde compliance vereisten inzake kwaliteit, veiligheid en transparantie inclusief risicobeheer, monitoring, certificering, benchmarking, validatie, documentatieplicht en markttoezicht gedurende de levenscyclus van de toepassing.

Handhaving en governance

De definitie van hoog risico AI applicaties binnen de diverse industriële sectoren is nog niet in steen gehouwen. Een ondubbelzinnige risicotaxonomie zal bijdragen aan rechtszekerheid en biedt belanghebbenden een adequaat antwoord op vragen over aansprakelijkheid en verzekering. Om ruimte voor innovatie door SME’s waaronder tech-startups te waarborgen, worden er flexibele AI regulatory sandboxes geïntroduceerd en is er IP Action Plan opgesteld voor intellectueel eigendom. De concept Verordening voorziet tenslotte in de installatie van een nieuwe handhavende instantie op Unieniveau: het European Artificial Intelligence Board. De EAIB zal op lidstaatniveau worden geflankeerd door nationale toezichthouders.

Meer lezen

Quantum Computing and Intellectual Property Law →

Berkeley Technology Law Journal, Vol. 35, No. 3, 2021, Forthcoming

New Stanford University Beyond IP Innovation Law research article: “Quantum Computing and Intellectual Property Law”.

By Mauritz Kop

Citation: Kop, Mauritz, Quantum Computing and Intellectual Property Law (April 8, 2021). Berkeley Technology Law Journal 2021, Vol. 35, No. 3, pp 101-115, February 8, 2022, https://btlj.org/2022/02/quantum-computing-and-intellectual-property-law/

Please find a short abstract below:

Intellectual property (IP) rights & the Quantum Computer

What types of intellectual property (IP) rights can be vested in the components of a scalable quantum computer? Are there sufficient market-set innovation incentives for the development and dissemination of quantum software and hardware structures? Or is there a need for open source ecosystems, enrichment of the public domain and even democratization of quantum technology? The article explores possible answers to these tantalizing questions.

IP overprotection leads to exclusive exploitation rights for first movers

The article demonstrates that strategically using a mixture of IP rights to maximize the value of the IP portfolio of the quantum computer’s owner, potentially leads to IP protection in perpetuity. Overlapping IP protection regimes can result in unlimited duration of global exclusive exploitation rights for first movers, being a handful of universities and large corporations. The ensuing IP overprotection in the field of quantum computing leads to an unwanted concentration of market power. Overprotection of information causes market barriers and hinders both healthy competition and industry-specific innovation. In this particular case it slows down progress in an important application area of quantum technology, namely quantum computing.

Fair competition and antitrust laws for quantum technology

In general, our current IP framework is not written with quantum technology in mind. IP should be an exception -limited in time and scope- to the rule that information goods can be used for the common good without restraint. IP law cannot incentivize creation, prevent market failure, fix winner-takes-all effects, eliminate free riding and prohibit predatory market behavior at the same time. To encourage fair competition and correct market skewness, antitrust law is the instrument of choice.

Towards an innovation architecture that mixes freedom and control

The article proposes a solution tailored to the exponential pace of innovation in The Quantum Age, by introducing shorter IP protection durations of 3 to 10 years for Quantum and AI infused creations and inventions. These shorter terms could be made applicable to both the software and the hardware side of things. Clarity about the recommended limited durations of exclusive rights -in combination with compulsory licenses or fixed prized statutory licenses- encourages legal certainty, knowledge dissemination and follow on innovation within the quantum domain. In this light, policy makers should build an innovation architecture that mixes freedom (e.g. access, public domain) and control (e.g. incentive & reward mechanisms).

Creating a thriving global quantum ecosystem

The article concludes that anticipating spectacular advancements in quantum technology, the time is now ripe for governments, research institutions and the markets to prepare regulatory and IP strategies that strike the right balance between safeguarding our fundamental rights & freedoms, our democratic norms & standards, and pursued policy goals that include rapid technology transfer, the free flow of information and the creation of a thriving global quantum ecosystem, whilst encouraging healthy competition and incentivizing sustainable innovation.

Meer lezen

Safeguards for accelerated market authorization of vaccines in Europe

by Suzan Slijpen & Mauritz Kop

This article has been published by the Stanford Law School ‘Center for Law and the Biosciences’, Stanford University, 15 March 2021. link to the full text: https://law.stanford.edu/2021/03/15/safeguards-for-accelerated-market-authorization-of-vaccines-in-europe/

The first COVID-19 vaccines have been approved

People around the globe are concerned about safety issues encircling the accelerated introduction of corona vaccines. In this article, we discuss the regulatory safeguards for fast-track market authorization of vaccines in Europe. In addition, we explain how the transmission of European Union law into national Member State legislation works. We then clarify what happens before a drug can be introduced into the European market. We conclude that governments should build bridges of mutual understanding between communities and increase trust in the safety of authorized vaccines across all population groups, using the right messengers.

Drug development normally takes several years

Drug development normally takes several years. The fact that it has been a few months now seems ridiculously short. How is the quality and integrity of the vaccine ensured? That people - on both sides of the Atlantic - are concerned about this is entirely understandable. How does one prevent citizens from being harmed by vaccines and medicines that do not work for everyone, because the admission procedures have been simplified too much?

The purpose of this article is to shed a little light upon the accelerated market authorization procedures on the European continent, with a focus on the situation in the Netherlands.

How a vaccine is introduced into the market

In June 2020, the Dutch government, in close cooperation with Germany, France and Italy, formed a Joint Negotiation Team which, under the watchful eye of the European Commission, has been negotiating with vaccine developers. Its objective: to conclude agreements with drug manufacturers at an early stage about the availability of vaccines for European countries. In case these manufacturers are to succeed in developing a successful vaccine for which the so-called Market Authorization (MA) is granted by EMA or CBG, this could lead to the availability of about 50 million vaccines (for the Netherlands alone).

Who is allowed to produce these vaccines?

Who is allowed to produce these vaccines? The Dutch Medicines Act is very clear about this. Only "market authorization holders" are allowed to manufacture medicines, including vaccines. These are parties that have gone through an extensive application procedure, who demonstrably have a solid pharmaceutical quality management system in place and have obtained a pharmaceutical manufacturing license (the MIA, short for Manufacturing and Importation Authorisation). This license is granted after assessment by the Health and Youth Care Inspectorate of the Ministry of Health, Welfare & Sport (IGJ) – by Farmatec. Farmatec is part of the CIBG, an implementing body of the Ministry of Health, Welfare and Sport (VWS). The M-license is mandatory for parties who prepare, or import medicines.

Read more at the Stanford Center for Law and the Biosciences!

Read more on manufacturing licenses, fast track procedures and market authorization by the European Medicines Agency (EMA) and the EC, harmonisation and unification of EU law, CE-markings, antigenic testing kits, mutations, reinfection, multivalent vaccines, mucosal immunity, Good Manufacturing Practices (GMP), pharmacovigilance, the HERA Incubator, clinical trials, compulsory vaccination regimes and continuous quality control at Stanford!

Meer lezen

Een Juridisch-Ethisch Kader voor Quantum Technologie →

Een bewerkte versie van deze bijdrage is gepubliceerd op platform VerderDenken.nl van het Centrum voor Postacademisch Juridisch Onderwijs (CPO) van de Radboud Universiteit Nijmegen. https://www.ru.nl/cpo/verderdenken/columns/we-nederland-voorbereiden-kwantumtoekomst/

Nederland moet zich voorbereiden op de toepassing van kwantumtechnologie, zegt jurist en Stanford Law School Fellow Mauritz Kop. Op het gebied van regulering, intellectueel eigendom en ethiek is er nog veel werk aan de winkel.

De Quantum Age roept veel juridische vragen op

Het gedrag van de natuur op de kleinste schaal kan vreemd en contra-intuïtief zijn. Hoe kunnen beleidsmakers de toepassingsgebieden van kwantumtechnologie, zoals quantum computing, quantum sensing en het quantum internet op een maatschappelijk verantwoorde manier reguleren? Dienen ethische kwesties een rol te spelen in regulering? De Quantum Age roept veel juridische vragen op.

Hoe kunnen we kwantumtechnologie reguleren?

Regulering van transformatieve technologie is een dynamisch, cyclisch proces dat de levensduur van de technologie en de toepassing volgt. Het vraagt om een flexibel wetgevend systeem dat zich snel kan aanpassen aan veranderende omstandigheden en maatschappelijke behoeften.

De eerste regelgevende stap om te komen tot een bruikbaar juridisch-ethisch kader is het koppelen van de Trustworthy AI-principes aan kwantumtechnologie. Die vullen we vervolgens aan met horizontale, overkoepelende regels die recht doen aan de unieke natuurkundige eigenschappen van quantum. Aan deze horizontale kernregels voegt de wetgever tenslotte verticale, industrie- of sectorspecifieke voorschriften toe. Die verticale voorschriften en gedragscodes zijn risk-based en houden rekening met de uiteenlopende behoeftes van economische sectoren waar het duurzame innovatiestimuli betreft. Zo ontstaat een gedifferentieerde, sectorspecifieke benadering aangaande incentives en risks.

Bewustwording van ethische, juridische en sociale aspecten

Een belangrijk onderdeel van het synchroniseren van onze normen, waarden, standaarden en principes met kwantumtechnologie is het creëren van bewustwording van de ethische, juridische en sociale aspecten ervan. De architectuur van systemen die zijn uitgerust met kwantumtechnologie moet waarden vertegenwoordigen die wij als samenleving belangrijk vinden.

Vooruitlopend op spectaculaire doorbraken in de toepassing van kwantumtechnologie is de tijd nu rijp voor regeringen, onderzoeksinstellingen en de markt om regulatoire en intellectuele eigendomsstrategieën voor te bereiden die passen bij de power van de technologie.

Nederland moet zich voorbereiden op een kwantumtoekomst, want die komt eraan.

Meer lezen

Regulating Transformative Technology in The Quantum Age: Intellectual Property, Standardization & Sustainable Innovation →

Stanford - Vienna Transatlantic Technology Law Forum, Transatlantic Antitrust and IPR Developments, Stanford University, Issue No. 2/2020 (Forthcoming)

New Stanford cutting edge tech law research: “Regulating Transformative Technology in The Quantum Age: Intellectual Property, Standardization & Sustainable Innovation”.

Quantum technology has many legal aspects

The behavior of nature at the smallest scale can be strange and counterintuitive. In addition to unique physical characteristics, quantum technology has many legal aspects. In this article, we first explain what quantum technology entails. Next, we discuss implementation and areas of application, including quantum computing, quantum sensing and the quantum internet. Through an interdisciplinary lens, we then focus on intellectual property (IP), standardization, ethical, legal & social aspects (ELSA) as well as horizontal & industry-specific regulation of this transformative technology.

The Quantum Age raises many legal questions

The Quantum Age raises many legal questions. For example, which existing legislation applies to quantum technology? What types of IP rights can be vested in the components of a scalable quantum computer? Are there sufficient market-set innovation incentives for the development and dissemination of quantum software and hardware structures? Or is there a need for open source ecosystems, enrichment of the public domain and even democratization of quantum technology? Should we create global quantum safety, security and interoperability standards and make them mandatory in each area of application? In what way can quantum technology enhance artificial intelligence (AI) that is legal, ethical and technically robust?

Regulating quantum computing, quantum sensing & the quantum internet

How can policy makers realize these objectives and regulate quantum computing, quantum sensing and the quantum internet in a socially responsible manner? Regulation that addresses risks in a proportional manner, whilst optimizing the benefits of this cutting edge technology? Without hindering sustainable innovation, including the apportionment of rights, responsibilities and duties of care? What are the effects of standardization and certification on innovation, intellectual property, competition and market-entrance of quantum-startups?

The article explores possible answers to these tantalizing questions.

Meer lezen

Shaping the Law of AI: Transatlantic Perspectives →

Stanford-Vienna Transatlantic Technology Law Forum, TTLF Working Papers No. 65, Stanford University (2020).

New Stanford innovation policy research: “Shaping the Law of AI: Transatlantic Perspectives”.

The race for AI dominance

The race for AI dominance is a competition in values, as much as a competition in technology. In light of global power shifts and altering geopolitical relations, it is indispensable for the EU and the U.S to build a transatlantic sustainable innovation ecosystem together, based on both strategic autonomy, mutual economic interests and shared democratic & constitutional values. Discussing available informed policy variations to achieve this ecosystem, will contribute to the establishment of an underlying unified innovation friendly regulatory framework for AI & data. In such a unified framework, the rights and freedoms we cherish, play a central role. Designing joint, flexible governance solutions that can deal with rapidly changing exponential innovation challenges, can assist in bringing back harmony, confidence, competitiveness and resilience to the various areas of the transatlantic markets.

25 AI & data regulatory recommendations

Currently, the European Commission (EC) is drafting its Law of AI. This article gives 25 AI & data regulatory recommendations to the EC, in response to its Inception Impact Assessment on the “Artificial intelligence – ethical and legal requirements” legislative proposal. In addition to a set of fundamental, overarching core AI rules, the article suggests a differentiated industry-specific approach regarding incentives and risks.

European AI legal-ethical framework

Lastly, the article explores how the upcoming European AI legal-ethical framework’s norms, standards, principles and values can be connected to the United States, from a transatlantic, comparative law perspective. When shaping the Law of AI, we should have a clear vision in our minds of the type of society we want, and the things we care so deeply about in the Information Age, at both sides of the Ocean.

Meer lezen

Computer generated works: wie of wat is eigenaar? →

Deze column is gepubliceerd op platform VerderDenken.nl van het Centrum voor Postacademisch Juridisch Onderwijs (CPO) van de Radboud Universiteit Nijmegen. https://www.ru.nl/cpo/verderdenken/columns/computer-generated-works-eigenaar/

Nieuwe technologieën roepen nieuwe juridische vragen op. Zo ook computers die creatieve werken maken. Wie of wat is de eigenaar van zo’n werk? Mauritz Kop geeft uitleg.

Machines uitgerust met artificiële intelligentie (AI) begeven zich op het terrein van de schone kunsten. Computers schilderen, schrijven en componeren er ijverig op los. Zo genereerde The Next Rembrandt een 3D-geprint meesterwerk, schilderde The Art and Artificial Intelligence Lab een levensechte Mona Lisa, schreef Kurzweils Cybernetic Poet klassieke sonnetten en produceerde Amper Music een complete muziek-cd. Alles in luttele seconden.

Auteursrechten vestigen is problematisch

Het is voorstelbaar dat er auteursrechten rusten op de voortbrengselen van AI-systemen zelf, zoals kunst, muziek, literatuur, uitvindingen, industriële toepassingen, algoritmes, code en andersoortige scheppingen. Men kan zich als wetgever de vraag stellen of er voor computer generated works sui generis categorieën rechten (met een korte looptijd en zonder persoonlijkheidsrechten) in het leven moeten worden geroepen.

Kunnen IE-rechten überhaupt AI-scheppingen beschermen?

De wet in haar huidige vorm erkent geen niet-menselijke auteursrechten. Auteurschap is fundamenteel verbonden met menselijkheid; met scheppingen van de menselijke geest. Dat vloeit bijvoorbeeld voort uit het bekende Infopaq-arrest van het EU Hof van Justitie uit 2009, al is dit arrest niet geschreven met machine learning en kunstmatige intelligentie in het achterhoofd. Is het dogmatisch en doctrinair correct om aan te nemen dat er geen copyright kan zijn op pure AI creations? AI is per slot van rekening niet menselijk en er is bovendien geen menselijke originaliteit en creativiteit aanwezig. Het korte antwoord luidt: ja.

Algoritmisch auteurschap: goed idee of niet?

In tegenstelling tot de benadering van de EU en de VS, heeft het Verenigd Koninkrijk een computer generated works-regime geïmplementeerd, wat betekent dat de programmeur van de AI het auteursrecht krijgt op de output van de machine. Met andere woorden: het VK, en recentelijk ook de Chinese rechter, breiden het menselijke auteurschap uit naar algoritmisch auteurschap.

AI-machine kan geen copyright bezitten

Auteursrechten kunnen alleen eigendom zijn van rechtssubjecten, dus personen of bedrijven. Een AI-machine kan zelf geen copyright bezitten op AI made creations omdat een AI-systeem geen rechtssubjectiviteit en ook geen rechtspersoonlijkheid bezit. AI-systemen kwalificeren als rechtsobject, niet als rechtssubject.

‘Publiek eigendom uit de machine’ en menselijke interventie

Menselijk auteurschap blijft het normatieve orgelpunt van het intellectuele eigendomsrecht. Delen van het meerlagige, uit het Romeinse recht afkomstige eigendomsparadigma kunnen relevant zijn voor AI. Voortbouwend op dit raamwerk is er een nieuw publiek domein model denkbaar voor AI creations and inventions die de autonomiedrempel overschrijden: res publicae ex machina (publiek eigendom uit de machine).

Meer lezen