- De Europese Commissie zou een rigoureus pakket aan voorstellen hebben klaarliggen om bepaalde toepassingen van kunstmatige intelligentie aan banden te leggen.
- Makers van generatieve AI-sofware zouden moeten aangeven of en welke materialen ze hebben gebruikt om software te trainen en of er auteursrecht op rust.
- De voorstellen zouden onderdeel uitmaken van de AI Act die de EU vóór het einde van volgend jaar wil invoeren.
- Lees ook: Kan ChatGPT sollicitatiebrieven schrijven waar een recruiter niet doorheen kijkt? We deden een praktijktest met 7 brieven
De Europese Commissie is naar verluidt in de afrondende fase van een nieuw pakket aan regels die makers van bepaalde toepassingen van artificial intelligence (AI) een veel grotere verantwoordelijkheid geven, onder meer wat betreft brongebruik.
Een onderdeel van de voorstellen is dat ontwikkelaars van zogenoemde generatieve AI-software kenbaar moeten maken of ze softwaremodellen getraind hebben met materialen waarop auteursrecht rust en welke materialen dit zijn, schrijft The Financial Times.
Generatieve AI maakt gebruik van grote databestanden van taal of plaatjes. Daarmee wordt software getraind om vragen te beantwoorden met behulp van databestanden.
Met de nieuwe regels, die onderdeel uitmaken van het voorgestelde Artificial Intelligence Act, maakt de Europese Unie het mogelijk voor makers van auteursrechtelijke materialen om compensatie te eisen van bedrijven zoals OpenAI, de maker van de populaire bot ChatGPT.
Ook moet regulering ervoor zorgen dat de verantwoording voor mogelijk misbruik van de software komt te liggen bij de makers van de AI, en niet bij de kleinere bedrijven die er gebruik van maken.
Onder de huidige voorstellen voor regelgeving valt ook een eis dat AI-chatbots duidelijk moeten communiceren dat ze een stuk software zijn en dat de gebruiker dus niet te maken heeft met een mens.
Het gebruik van AI in sommige gevallen volledig verbieden
De Europese Commissie gaat nog verder in op het beperken van het gebruik van AI voor onder andere gezichtsherkenning en het voorspellen van crimineel gedrag of het identificeren van potentiële verdachten.
Gezichtsherkenning zou onder geen beding op openbare plekken ingezet mogen worden en het voorspellen van crimineel gedrag en het aanwijzen van potentiële verdachten zou helemaal verbannen worden. Dat laatste geldt ook voor het inzetten van AI-software die menselijke gevoelens en de gemoedstoestand waarin iemand verkeert kan detecteren.
Het pakket zou, mits het wordt goedgekeurd, de meest rigoureuzere beperking van toepassingen van artificial intelligence tot nu toe zijn. De bronnen van de FT zeggen dan ook dat het nog te vroeg is om te oordelen welke voorstellen er door de geplande overleggen van volgende week zullen komen.
De Europese Commissie probeert de AI Act er doorheen te krijgen vóór het einde van de zittingstermijn van de huidige Commissie, die tot en met 2024 loopt.
Makers van generatieve AI-software, zoals CEO Sam Altman van OpenAI, roepen al langer dat overheden moeten optreden en dat er regels nodig zijn omtrent het gebruik van kunstmatige intelligentie. Daarnaast ondertekenden honderden prominenten een brief waarin werd gepleit voor het pauzeren van de ontwikkeling van AI-toepassingen.
Ondertussen lopen er al meerdere rechtszaken tegen makers van visuele, generatieve AI-tools. Zo sleepte een van ’s werelds grootste beeldbanken, Getty Images, het bedrijf Stability AI voor het gerecht, omdat het onrechtmatig gebruik zou hebben gemaakt van diens afbeeldingen voor het trainen van hun kunstmatige intelligentie.
