AI in de cultuursector: ethische dilemma’s, risico’s en maatschappelijke impact

We onderscheiden drie hoofdthema’s: ethische kwesties bij het trainen van AI-modellen, risico’s van AI-gebruik en grote maatschappelijke vragen. 

1. Ethische vraagstukken bij het trainen van AI-modellen  

Dataverzameling en -gebruik

AI-modellen worden vaak getraind op data die is verzameld zonder expliciete toestemming van de eigenaar of maker. Dat roept vragen op over intellectueel eigendom: Welke teksten, afbeeldingen en video’s mogen worden gebruikt? Moeten makers worden gecompenseerd wanneer hun werk wordt gebruikt? Eerder klaagde The New York Times OpenAI aan vanwege het gebruik van journalistiek werk bij de training van AI-modellen zonder toestemming.

Representatie en bias

De data waarop AI is getraind weerspiegelt maatschappelijke vooroordelen uit het verleden en het heden. Zo maken gezichtsherkenningssystemen meer fouten wanneer bij identificatie van mensen met een donkere huidskleur, wat kan leiden tot onjuiste categorisering of labeling – met alle consequenties van dien.

Milieubelasting

Training van grote AI-modellen vereist enorme rekenkracht en energie, met een flinke CO₂-voetafdruk tot gevolg. Ook de productie van computerchips heeft een aanzienlijke milieu-impact. Weeg de voordelen van AI af tegen de ecologische kosten.

Transparantie bij aanbieders

AI is vaak een ‘black box’: zelfs ontwikkelaars begrijpen niet altijd hoe AI-modellen tot bepaalde uitkomsten komen. De AI Act legt een transparantieverplichting op voor aanbieders. Zij moeten informatie over een AI-model verstrekken en duidelijk maken wanneer het publiek met een AI communiceert. De gevolgen van de ‘black box’ die AI is, kunnen heel ingrijpend zijn, bijvoorbeeld als een AI-model de verkeerde medische behandeling adviseert maar niemand kan uitleggen waarom.

Uitbuiting van arbeiders

Tal van werknemers zijn dag in dag uit bezig om AI-modellen te trainen en te verbeteren. Dat zijn vaak slecht betaalde arbeiders die onder zware omstandigheden werken. In 2023 bleek dat Keniaanse medewerkers voor minder dan 2 dollar per uur extreem schadelijke content moesten beoordelen om taalmodellen veiliger te maken.

2. Risico's bij het gebruik van AI

Hallucinaties en onbetrouwbare uitkomsten

AI kan antwoorden genereren die feitelijk onjuist zijn, ook wel hallucinaties genoemd. Taalmodellen zijn namelijk getraind om op elke vraag antwoord te geven, ook wanneer ze het antwoord niet beschikbaar is. Dit komt steeds minder vaak voor, maar wanneer het gebeurd kunnen de consequenties erg vervelend zijn. Hoewel dit minder vaak voorkomt, kunnen de gevolgen nog steeds vervelend zijn. Een Amerikaanse advocaat dacht veel werk te besparen door met ChatGPT zijn rechtszaak voor te bereiden. Hij gebruikte daarvoor niet-bestaande juridische uitspraken waarna de rechter hem op de vingers tikte.

Vervanging van menselijke arbeid

We automatiseren met AI-systemen steeds meer taken die eerst door mensen werden uitgevoerd. Getty Images heeft rechtszaken aangespannen tegen AI-bedrijven die hun stockfoto’s gebruikten. Illustratoren merken nu al dat hun opdrachten afnemen door de opkomst van AI-gegenereerde afbeeldingen. Ook (stem)acteurs worden soms vervangen door AI-stemmen en digitale klonen.

Privacy

AI-technologieën maakt nieuwe vormen van surveillance mogelijk. Festivals en andere grote evenementen gebruiken slimme camera’s om bezoekersstromen te analyseren en optimaliseren. Dit verhoogt de veiligheid, maar kan ook worden ervaren als een inbreuk op je privacy.

En wat te denken van de informatie die je met een AI-tool deelt? Die wordt opgenomen in een database, ook als het om persoonsgegevens of bedrijfsgevoelige informatie gaat. 

Afhankelijkheid en verlies van vaardigheden

Als AI taken overneemt die mensen voorheen deden, lopen bepaalde kennis, vaardigheden en expertise terug. Door jarenlange ervaring kunnen eindredacteuren een goede krant samenstellen en een pakkende titel voor een artikel bedenken. Wanneer dat wordt uitbesteed aan AI, is het resultaat misschien wel vergelijkbaar, maar bouwt niemand die vaardigheden meer op.

Bewuste verspreiding van desinformatie en manipulatie

Met generatieve AI-tools is het mogelijk om overtuigend nepnieuws te creëren. Denk bijvoorbeeld aan de deepfakevideo van de Oekraïense president Zelensky, waarin hij zogenaamd opriep tot overgave aan Rusland. Ook Amerikanen werden in de luren gelegd: zij werden gebeld door de stem van Joe Biden met de boodschap om niet te gaan stemmen. Lees in dit artikel meer over deepfakes en de AI Act.

Auteurs- en portretrecht

Wie is de eigenaar van content die met AI is genereert? Dat is juridisch gezien een grijs gebied, wat voor een complexe situatie zorgt voor creatieve makers. Zij moeten zelf actie ondernemen om ervoor te zorgen dat hun werk niet wordt opgenomen in taalmodellen. Hoe dat werkt en hoe je als maker met AI-tools kunt werken en toch eigenaarschap krijgt over het (kunst)werk, lees je in dit artikel.

Transparantie over AI-gebruik

De Europese AI Act verplicht transparantie over AI-gebruik. Voordat deze wetgeving van kracht werd, won fotograaf Boris Eldagsen de Sony World Photography Award met deze foto. Hij weigerde de prijs omdat hij de foto met AI maakte. Hij wilde hiermee een statement maken en de discussie starten over de impact van AI in de fotografie.

3. Grote maatschappelijke vragen

Verantwoordelijkheid en aansprakelijkheid

Wie is verantwoordelijk voor eventuele schade die AI veroorzaakt? Bij een dodelijk ongeval met een zelfrijdende Uber-auto in 2018 ontstond onduidelijkheid over wie aansprakelijk was: de veiligheidschauffeur, Uber of de AI-ontwikkelaars? Channel 1 wil de eerste nieuwszender zijn die volledig door AI wordt gemaakt. Wie is aansprakelijk wanneer dat nieuws niet klopt?

Machtsconcentratie

Er zijn flinke investeringen nodig om taalmodellen voor AI-tools te ontwikkelen. Daardoor ligt de macht vooral bij een aantal grote – vaak Amerikaanse – technologiebedrijven, zoals OpenAI, Google, Microsoft en xAI, die samen de Europese markt beheersen. Wat betekent het als een beperkt aantal organisaties de ontwikkelingen in AI bepalen?

Menselijke autonomie

AI-systemen nemen steeds meer beslissingen voor ons. Wat betekent dat voor onze menselijke autonomie? Welke keuzes mag AI maken en welke niet? Het Cambridge Analytica-schandaal liet zien hoe de data en algoritmes van sociale media ons stemgedrag kunnen beïnvloeden.