Work

Hoor wie het zegt: handvatten voor het verantwoorde gebruik van spraaktechnologie

Year: 2020
Type: book
Abstract: InleidingComputers kunnen steeds beter menselijke spraak herkennen, interpreteren en produceren.Dankzij de verbeterde spraaktechnologie is het mogelijk om met computers in gesprek te gaan, en kunnen gebruikers met hun stem de digitale wereld aansturen.Spraaktechnologie wordt al veel gebruikt in de auto en in huis, en bedrijven en organisaties experimenteren ermee in tal van andere domeinen, waaronder de zorg en de veiligheidssector.De groeiende toepassing van spraaktechnologie heeft belangrijke gevolgen voor de samenleving.Onze spraak vormt een essentieel onderdeel van wie we zijn als mens, en van onze sociale relaties.Ook bevatten onze gesprekken zeer gevoelige informatie -over onze identiteit, over de gesprekken die we voeren, en zelfs over onze gezondheid en ons humeur.Onze spraak verdient dus bescherming.Deze studie onderzoekt hoe de samenleving deze bescherming vorm kan geven.De studie is gebaseerd op deskresearch en interviews.De deskresearch bestond uit het bestuderen van een combinatie van academische literatuur en grijze literatuur, gezien de relatief recente doorbraak van spraaktechnologie.De interviews waren verkennend van aard, en bedoeld om een beter beeld te krijgen van de technische mogelijkheden van spraaktechnologie. Spraaktechnologie wordt steeds beterIn deze studie analyseren we allereerst de technische stand van zaken: hoe werkt spraaktechnologie, en hoe goed is het?Spraaktechnologie bestaat uit drie centrale processen: het herkennen van spraak, het interpreteren van spraak, en het spreken zelf, dat spraaksynthese wordt genoemd (zie figuur 1).Op alle drie de terreinen is vooruitgang geboekt, met name dankzij rijkere en grotere datasets, geavanceerde machine learning-technologie en de snellere rekenkracht van computers.Maar ondanks de kwaliteitsverbetering is het beeld gemengd. De stem als nieuwe databronBovendien verzamelen al deze toepassingen data, door middel van gespreksverslagen én audio-opnames.Onze studie laat zien dat de stem zo fungeert als nieuwe databron.De data worden door ontwikkelaars gebruikt om spraaksystemen te personaliseren, en vormen de basis van analyses op het gebied van emotieherkenning en het diagnosticeren van ziekten.Die analyses zijn vaak niet wetenschappelijk bewezen, maar diverse bedrijven verwachten veel van de toekomstige mogelijkheden van audio-opnamen.Spraakdata bevatten zeer gevoelige data: juist in gesprekken thuis, in de auto en op het werk geven mensen zichzelf bloot.Dat vraagt om extra aandacht van ontwikkelaars en toezichthouders, zodat ons privé-en familieleven gerespecteerd blijft. Onze autonomie staat op het spelDe inzet van spraaktechnologie heeft ook invloed op onze autonomie.De technologie helpt in tal van domeinen om taken uit te voeren, beslissingen te nemen en gebruikers een aangename ervaring te geven.Dit biedt kansen, maar brengt ook zorgen met zich mee.Leidt het gebruik van spraaktechnologie tot het verlies van vaardigheden, en vinden er oneigenlijke beïnvloeding en sturing plaats?Denk bijvoorbeeld aan deep fake video's, waarin iemands uiterlijk en stem worden nagemaakt, ('gekloond'), en die mensen om de tuin kunnen leiden en het publieke debat ondermijnen.Daarnaast geeft spraaktechnologie in vergelijking met schermen minder mogelijkheden voor nuance en doorvragen.Wie stuurt en bepaalt welk antwoord de spraakassistent geeft?Ten slotte kan een empathische en handige spraakassistent zo nuttig zijn, dat mensen er te veel gebruik van maken en verslaafd raken. Het belang van veilig en gezond gebruikSpraaktechnologie kan ook de veiligheid van mensen onder druk zetten.Spraakdata kan gestolen en misbruikt worden, bijvoorbeeld om identiteitsfraude mee te plegen.En ondanks de verbeteringen is spraaktechnologie niet foutloos en kunnen er ongelukken gebeuren.Voordat spraaktechnologie in kritieke toepassingen in de zorg, defensie of de maakindustrie wordt ingezet, zal de betrouwbaarheid van de technologie buiten kijf moeten staan, en geïnvesteerd moeten worden in technieken die misbruik juist tegengaan. Zorg voor effectieve privacybeschermingSpraaktechnologie maakt het mogelijk om gevoelige stemdata van mensen te verzamelen en te gebruiken om mensen te beïnvloeden.Het gaat onder meer om biometrische gegevens en gegevens over gezondheid.De verwerking van stemdata levert zo risico's op voor de mens en diens fundamentele rechten.Het is zaak de bestaande privacyregels krachtiger te handhaven.Daarom roept het Rathenau Instituut de overheid op om een vergunningsplicht voor biometrische stemanalyse in te voeren en strategieën te ontwikkelen om emotieherkenning en gezondheidsanalyse te reguleren.Ook is het van belang om de inzet van spraakanalyse door opsporingsdiensten te monitoren: is het wenselijk dat de politie stemdata van sociale media schraapt?Ten slotte is het aan het bedrijfsleven om in hun productontwikkeling en dienstverlening de privacyregels niet minimaal te volgen, maar krachtig vorm te geven -bijvoorbeeld door te investeren in technieken die het gebruik van data minimaliseren. Bevorder inclusieve spraaktechnologieSpraaktechnologie biedt kansen om informatie makkelijker toegankelijk te maken.Maar spraaksystemen kunnen ook groepen gebruikers uitsluiten, vooroordelen bevestigen, en discriminatie in de hand werken.Het is van groot belang om ervoor te zorgen dat iedereen spraaktechnologie kan benutten.De overheid kan daartoe investeren in een Nederlandse spraakdatabase, waar tal van partijen hun 3. Creëer een eerlijke markt Er bestaan zorgen in de dataeconomie over de dominantie van enkele grote technologiebedrijven. Spraaktechnologie biedt deze bedrijven de mogelijkheid om deze machtspositie nog verder uit te breiden.Om de markt voor alle partijen toegankelijk en eerlijk te maken, kan de overheid het mededingingsrecht aanscherpen -daartoe worden op het Europese niveau stappen gezet.Ook is het zaak om mogelijkheden te bieden voor alternatieve aanbieders, en niet alleen samen te werken met de techgiganten.Het bedrijfsleven wordt aanbevolen om de rechten van consumenten, zoals het recht om informatie op te vragen, slagkrachtig en ruimhartig vorm te geven. Bescherm menselijke waardigheidHet Rathenau Instituut roept de overheid en het bedrijfsleven op om een ethische dialoog over spraaktechnologie te starten.Daarbij zou bijzondere aandacht uit moeten gaan naar het beschermen van menselijke waardigheid: het borgen van het recht op menselijk contact en het voorkomen van situaties waarin gebruikers computers en mensen met elkaar verwarren.Daarover zouden de overheid en het bedrijfsleven met elkaar afspraken moeten maken. Zorg dat spraaktechnologie betrouwbaar isSpraaktechnologie kan de samenleving veel bieden, maar moet wel betrouwbaar zijn.Het is zowel aan de overheid als aan het bedrijfsleven om hiertoe de volgende stappen te zetten: treed slagvaardig op tegen desinformatie en voice cloning, verlaag de foutmarge van spraaktechnologie, investeer in technologie die misbruik tegengaat en ontwikkel veiligheidsstandaarden. Investeer in technologisch burgerschapEen verantwoord en effectief gebruik van spraaktechnologie vereist ook kennis en vaardigheden, bijvoorbeeld ten aanzien van het zoeken naar kennis en het instellen van routines, en de informatie die de apparaten verzamelen.Het is daarom nodig burgers te ondersteunen bij de omgang met spraaktechnologie.Dit vereist investeringen in opleidingen en trainingen op het gebied van mediawijsheid.Daarnaast zijn van de overheid, kennisinstellingen en het bedrijfsleven investeringen in onderzoek nodig om de invloed van spraaktechnologie op onze fysieke en mentale gezondheid te analyseren.Ten slotte is er ook een belangrijke rol weggelegd voor burgers.Zij kunnen hun stem laten horen en spraaktechnologie Onze spraak, en onze gesprekken, zijn kostbaar.Met onze taal drukken we uit wie we zijn, en gaan we talrijke waardevolle relaties aan.Niets is meer intiem, en meer eigen, dan onze stem.Daarom is het belangrijk om, gezien de opkomst van spraaktechnologie, nu te onderzoeken welke maatschappelijke en ethische vragen met spraakcomputers verbonden zijn.Wat betekent het gebruik van spraaktechnologie voor onze privacy?Wat gebeurt er als we van kinds af aan leren commando's te geven aan digitale apparaten?Kunnen we spraakcomputers en mensen nog wel uit elkaar houden?Wat zijn de gevolgen als spraakcomputers ons gidsen door de digitale wereld?En hoe zal spraaktechnologie de platformeconomie, en de concurrentiestrijd tussen technologiegiganten als Google en Amazon, beïnvloeden?Deze verkenning zal op deze en andere vragen ingaan.We zullen een overzicht geven van de technologische ontwikkelingen, inventariseren waar spraaktechnologie gebruikt wordt en de maatschappelijke en ethische aspecten in kaart brengen.De verkenning zal laten zien waarom een maatschappelijk en politiek gesprek over spraaktechnologie nodig is, en waar dat gesprek over moet gaan.De verkenning doet aanbevelingen voor de overheid en voor het bedrijfsleven, en identificeert centrale thema's voor het publieke debat.Isaac Asimov voorzag dat intelligente robots regels en grenzen nodig hadden.Hij bedacht daarom drie regels, waarvan de eerste de belangrijkste was: 'Een robot mag een mens geen letsel toebrengen of door niet te handelen toestaan dat een mens letsel oploopt' (Asimov, 2008).Nu een nieuw stukje sciencefiction werkelijkheid wordt, zal ook onze samenleving moeten nadenken over de publieke waarden en normen die de opkomst van spraaktechnologie in goede banen kunnen leiden. AfbakeningDeze verkenning gaat over spraaktechnologie.Hieronder verstaan we technologie die ervoor zorgt dat computers menselijke spraak kunnen herkennen, kunnen interpreteren en ook zelf kunnen spreken -samengevat als spraakherkenning, spraakinterpretatie en spraaksynthese (zie hoofdstuk twee).Een computersysteem dat één of meerdere van deze drie taken kan uitvoeren, noemen we een spraaksysteem.Er zijn op de markt verschillende soorten spraaksystemen beschikbaar.De belangrijkste is de spra
Authors: Hamer, Jurriën, Doesborgh, Serf, Kool, L.
Language: English
Open Access status: green
OpenAlex ID: W3119657551
FWCI:
Cites: 50
Cited by: 1
Related to: 3