Year: 2023
Type: other
Abstract: Rathenau ScanInleiding Weinig technologieën roepen zoveel discussie op als generatieve artificiële intelligentie (GAI).Met systemen als ChatGPT en Bard is een stap gezet naar computers die tal van taken kunnen uitvoeren, maar hoe ver de kunstmatige intelligentie (artificiële intelligentie, of AI) reikt, is onduidelijk.Sommige experts denken dat computers zo krachtig worden dat ze het voortbestaan van de mens bedreigen.Andere experts vinden dit overtrokken, of wijzen op de risico's op korte termijn, zoals vooroordelen en incorrecte output.Deze scan maakt de balans op: wat is GAI, wat kan het nu, en wat misschien later?Welke kansen, risico's voor publieke waarden en beleidsopties zijn ermee verbonden?De scan is ontwikkeld op verzoek van het ministerie van Binnenlandse Zaken en Koninkrijksrelaties, gebaseerd op kortlopend onderzoek met literatuurstudie, werksessies en interviews, en is bedoeld voor beleidsmakers en politici.Inhoud Samenvatting 2 1. Wat is generatieve AI? 5 2. Wat wordt ervan verwacht?13 3. Welke publieke waarden staan op het spel?20 4. Welke beleidskeuzes liggen voor?33 Bijlage: Geraadpleegde beleidsmakers en experts 44 Literatuurlijst Generatieve AI | 2 Samenvatting Waarom een Rathenau Scan over generatieve AI? De naam generatieve AI (GAI) verwijst naar AI-systemen die geautomatiseerd content kunnen maken, op verzoek van een gebruiker.Zo kan je een systeem vragen een samenvatting te maken, of een foto te creëren in de stijl van de schilder Van Gogh.Sinds de lancering van ChatGPT in november 2022 experimenteren miljoenen gebruikers wereldwijd met deze technologie.De technologie heeft al impact op de samenleving, en de verwachtingen van wat het de maatschappij gaat brengen zijn hooggespannen.Deze scan biedt een overzicht van de kansen, risico's en handelingsopties verbonden met GAI. Is generatieve AI nieuw?Generatieve AI bouwt voort op bestaande AI-technieken en vormt een subgroep van lerende AI-systemen.Tegelijkertijd hebben generatieve AI-systemen een aantal onderscheidende eigenschappen:• ten eerste zijn generatieve AI-systemen aanzienlijk beter in taal dan andere AIsystemen; • ten tweede kunnen de systemen goed met verschillende 'modaliteiten' werken, zoals beeld, geluid, video, spraak, en zelfs zaken als eiwitstructuren en chemische verbindingen; • ten derde krijgen generatieve AI-systemen een algemene training, die de basis biedt voor allerhande specifieke toepassingen.Om deze redenen kunnen GAI-systemen veel verschillende taken uitvoeren, in tegenstelling tot veel andere AI-systemen die vallen onder de noemer 'narrow AI', en getraind zijn voor één specifieke taak. Wat kun je met generatieve AI?In deze scan onderscheiden we vier rollen die GAI-systemen kunnen vervullen.Een GAI-systeem is in te zetten als: 1.leerinstrument: bijvoorbeeld om informatie op te zoeken, of te fungeren als vraagbaak bij het maken van huiswerk; 2.productietool: het systeem maakt iets in opdracht van een gebruiker.Op de werkvloer experimenteren velen hier al mee. 3.complexe probleemoplosser: bijvoorbeeld in de wetenschap, waar GAI-systemen helpen bij het vouwen van eiwitstructuren, o.a.met het oog op de ontwikkeling van nieuwe medicijnen; 4.het creëren van een ervaring: sommige gebruikers vinden het fijn of fascinerend om te communiceren met GAI-systemen.GAI-systemen fungeren dan bijvoorbeeld als metgezel.Zo maakte iemand al een chatbot die zijn overleden geliefde imiteerde.Ondanks deze mogelijkheden, kent de technologie de nodige beperkingen.Generatieve AI-systemen berekenen het meest waarschijnlijke antwoord.Dat kan leiden tot onjuiste antwoorden of discriminerende content.Ook zijn de onderliggende algoritmes dusdanig Generatieve AI | 3complex dat de werking van de systemen voor mensen slechts beperkt begrijpelijk isook voor de ontwikkelaars.Daardoor is de technologie voorlopig nog niet goed genoeg om in te zetten in belangrijke processen, zoals bij het stellen van medische diagnoses.Wat staat er bij de opkomst van GAI op het spel?Generatieve AI brengt veel risico's met zich mee die publieke waarden onder druk kunnen zetten.We clusteren de risico's in deze scan in drie thema's.Ten eerste zijn er zorgen over de veiligheid van GAI-systemen: ze kunnen de privacy van gebruikers schenden, vooroordelen uiten en foute informatie geven.Bovendien zijn de systemen dermate complex, dat ontwikkelaars en externe partijen de werking niet geheel kunnen doorgronden, wat het lastig maakt om nu en in de toekomst risico's te voorkomen.Ten tweede is het de vraag hoe mensgericht de systemen zijn: wat gaan de systemen betekenen voor onze cognitieve, sociale en culturele ontwikkeling.Stimuleren chatbots onze creativiteit?Ontleren we sociale omgangsvormen, als we vaker interacteren met een GAI-systeem?Verwerken we ons verdriet via chatbots die onze overleden geliefde imiteren?Kortom: wat betekent het om mens te zijn in een wereld van robots?Ten derde leven er vragen over hoe eerlijk de systemen zijn: wie profiteert van deze systemen, en wie draagt de lasten?Hoe beschermen we het werk van creatieve beroepen?Welke banen gaan veranderen en hoe zorgen we voor goed werk?En hoe gaan we om met de impact op het milieu?Tot slot signaleren we een rode draad: de invloed van GAI op onze democratie.GAI kan democratische processen bemoeilijken, zoals het publieke debat en politieke besluitvorming, en vanwege de toenemende machtspositie van enkele techbedrijven het vermogen aantasten om in tal van maatschappelijke domeinen digitale technologie democratisch te sturen.Generatieve AI | 4 Wat moet er nu gebeuren?In deze scan concludeert het Rathenau Instituut dat generatieve AI risico's in de digitale samenleving versterkt en nieuwe risico's introduceert.Beleidsmakers op nationaal, Europees en internationaal niveau hebben zich de afgelopen jaren ingespannen om AI in goede banen te leiden, en veel wordt verwacht van de aankomende Europese AIverordening.Het is echter onduidelijk hoe de abstracte normen in deze wet voor het naleven van mensenrechten vorm gaan krijgen in de praktijk.Wanneer is bijvoorbeeld het risico op discriminatie tot een acceptabel niveau teruggebracht?En voor wie is dat acceptabel?Ook voor andere juridische kaders en beleid speelt de vraag of zij risico's van generatieve AI voldoende ondervangen.De hamvraag is dus: zijn de gedane inspanningen voldoende?Het is een reële mogelijkheid dat het huidige en voorgenomen beleid niet opgewassen zijn tegen de impact van generatieve AI-systemen, bijvoorbeeld op het gebied van non-discriminatie, veiligheid, desinformatie, mededinging en de uitbuiting van werknemers.Het is daarom zaak dat het kabinet een strategie uitwerkt om de grip van de samenleving op deze technologie te verbeteren.Dat begint met het evalueren van het Nederlands en Europees beleid en toetsen waar dat aanscherping behoeft.Ook is het zaak toezicht maximaal te ondersteunen, afspraken te maken met ontwikkelaars en de samenleving te waarschuwen voor de risico's van GAI.Wereldwijd worden de risico's van GAIsystemen serieus genomen; dat zou iedere Nederlandse burger en instantie ook Generatieve AI | 5 1.Wat is generatieve AI? 1.1.Introductie De naam generatieve AI verwijst naar artificiële-intelligentiesystemen die geautomatiseerd content kunnen maken, op verzoek van een gebruiker.Denk hierbij aan teksten zoals een sollicitatiebrief, programmeercode of een schoolopstel, beelden zoals schilderijen of foto's, video's en geluiden zoals de stemmen van verschillende personen.De gebruiker hoeft geen programmeercode te beheersen, en kan via menselijke taal (prompts) interacteren met het generatieve systeem.De ontwikkeling van generatieve AI-systemen is in een stroomversnelling geraakt, omdat een nieuwe algoritmische methode het mogelijk maakte veel efficiënter data te verwerken en daarbij met veel meer variabelen te rekenen.Dit heeft geleid tot complexe algoritmische modellen die indrukwekkende taaltaken kunnen uitvoeren, ook wel grote taalmodellen of large language models genoemd. 1 Hieronder leggen we deze technologische doorbraak uit (zie paragraaf 1.2).Deze scan richt zich op generatieve AI-systemen (hierna GAI-systemen), omdat ze een veelvoud van taken kunnen uitvoeren en daarmee een significante impact op de samenleving zullen hebben.Het meest bekende GAI-systeem is de chatbot Chat-GPT, ontworpen door het Amerikaanse bedrijf OpenAI.Snel na de lancering van Chat-GPT3.5, in november 2022, werd het al ingezet door miljoenen gebruikers wereldwijd.Maar er zijn meer generatieve systemen, zoals de beeldengenerator DALL-E (ook van OpenAI), de Co-Pilot van Microsoft en de chatbot Bard van Google.1.2.Hoe werkt het?Zoals gezegd is GAI gebaseerd op grote taalmodellen, large language models (LLM).Deze softwaremodellen berekenen welk woord het meest waarschijnlijke volgende woord is in een zin, zoals: 'De paus gelooft in …' [God].Ook het meest waarschijnlijke ontbrekende woord kan uitgerekend worden: 'Ik eet een …... met kaas' [boterham].Nieuwe modellen kunnen niet alleen woorden voorspellen, maar ook geluidsfragmenten in een muziekreeks, of beelden in een samenstelling van pixels.Deze modellen kunnen dus omgaan met meerdere 'modaliteiten', en kunnen tekst, beeld en geluid ook combineren.Ze worden daarom ook wel large multimodal models (LMM's) genoemd.ChatGPT4 kan zowel tekst als beelden genereren.Om in beeld, taal en geluid patronen te ontdekken en te voorspellen moeten de modellen uitvoerig getraind worden.Dat gebeurt met bestaande machine learning technieken, zoals neurale netwerken.2 Daarbinnen is een nieuwe ontwikkeling opgekomen: bepaalde algoritmische modellen, genaamd transformers, zorgen dat veel 1 Met taaltaken worden taken op het gebied van taal bedoeld, zoals samenvatten, vraag en antwoord geven, vertalen e.d. 2 Generatieve AI kan worden beschouwd als een subgroep binnen AI, en specifiek als een subgroep binnen machine learning en deep learning AI-technieken.AI kan worden omschreven als een systeem dat intelligent gedrag vertoont, door de omg
Authors: Hamer, Jurriën, Kool, L., Hijstek, Bo, van Eeden, Quirine, Das, Djurre
Institution: Rathenau Instituut
Language: Dutch
Subfield: Artificial Intelligence
Field: Computer Science
Domain: Physical Sciences
Open Access status: green
OpenAlex ID: W7111612357