Feminist machines, biased datasets & AI

Technologieën zoals kunstmatige intelligentie en data zijn niet neutraal.

Creative Coding Utrecht en Het Utrechts Archief organiseerden een lezingenavond over subjectieve datasets en Artificial Intelligence (AI). Het auditorium aan de Hamburgerstraat was gevuld met zo’n 70 geïnteresseerden. Er waren veel jonge mensen, waaronder studenten aan de Hogeschool voor de Kunsten Utrecht en de Universiteit Leiden. Else Laura was aanwezig namens DEN.

Technologieën zoals kunstmatige intelligentie en data zijn niet neutraal. Peter van der Putten, Caroline Sinders, Rick Companje en Hannah Davis vertellen over het probleem van algoritmische bias en over de kracht van het creëren van opzettelijk subjectieve datasets als artistieke methode.

De geschiedenis van AI in vogelvlucht

Peter van der Putten, docent aan de Universiteit Leiden, geeft een introductie op het onderwerp AI. Hij gaat eerst in vogelvlucht door de geschiedenis van de ‘intelligente machine’.

Hij laat zien dat in 1748 de filosoof Julien Offray de la Mettrie al een verhandeling publiceerde onder de titel “l’Homme Machine”. Offray de la Mettrie onderzocht wat ons menselijk maakt en stelde dat de mens niet wezenlijk van een machine verschilt en dat al ons denken en voelen tot eigenschappen van materie zijn te herleiden.

Ook komt de Britse wiskundige Ada Lovelace, voorbij. Zij wordt beschouwd als de eerste schrijfster van een computerprogramma.  Ze voorspelde dat een analytische machine gebruikt zou kunnen worden om muziek te componeren, afbeeldingen te maken en wetenschap te bedrijven. 

De eveneens Britse Wiskundige Alan Turing bedacht in de jaren dertig van de 20e eeuw een Logical Computing Machine. Dit gedachte-experiment werd later de Turingmachine genoemd. 

Dan komt de steeds slimmere schaakcomputer ter sprake, waarin niet alleen de vaste regels van het schaken en hoe de schaakstukken mogen bewegen toegepast worden, maar ook het logisch denken. Toch is logisch denken ook nog niet genoeg. De machine moet leren, slimmer worden, redelijk leren denken. Zelfs intelligent worden. Dan hebben we het over Machine learning en Learning Networks.

Van der Putten typeert AI als iets waar we bang voor zijn, maar dat ook fascineert. AI als een spiegelbeeld van de mens: het vertelt iets over wie en wat we zijn. Kijken naar jezelf. AI heeft impact op de maatschappij. Science Fiction-achtige beelden van een slimme machine die een nog slimmere machine bouwt, die dan weer een nóg slimmere machine bouwt etc. en met de intelligentie op de loop gaat… Van der Putten zegt dat inmiddels de SF-fantasieën al werkelijkheid zijn geworden. Als voorbeeld noemt hij Facebook waarin gedrag en menselijke eigenschappen voorspeld worden op basis van likes en berichten. Leeftijd, gender en wat past bij jou worden door AI herkend.

Volgens Van der Putten schuilt er echter meer gevaar in stupid machines dan in intelligent systems. AI is wat mensen erin stoppen. Bijvoorbeeld emoties of betekenissen die aan afbeeldingen gekoppeld zijn, worden aangebracht door mensen door te labelen. De verantwoordelijkheid ligt bij de mensen die de systemen bouwen. Zij moeten de machines intelligent maken en patronen aanleren. Daarbij dienen bouwers zich ook bewust te zijn van bias, vooroordelen en subjectiviteit van gegevens.

Dat jonge mensen in hun creatief-technologische opleiding zich hiervan bewust gemaakt worden schept hoop op een bewust gebruik van AI.

Peter van der Putten
Caroline Sinders

Cyberfeminism

Caroline Sinders vertelt ons over Feminist Data Sets. Caroline is kunstenares, onderzoeker en User experience (UX)- en API ontwerpster.

Hoe maken we AI begrijpelijk? Caroline beschrijft AI als zout: het is een ingrediënt dat een maaltijd verandert, maar dat los niet goed te consumeren is. Het kan betrekking hebben op alle menselijke output. Menselijke uitingen in de vorm van tekst, beeld, geluid. Er is niets kouds of onpersoonlijks aan, zegt ze. Allemaal menselijk.

In haar meerjarig kunstproject Feminist Data Set combineert ze lezingen, workshops en oproepen tot het verzamelen van feminist data. Wat zijn feminist data dan? Het kan gaan om kunstwerken, essays, interviews en boeken van of over feminisme of vanuit feministisch perspectief. Het project is een poging om bestaande vooroordelen te lijf te gaan. Het is gebaseerd op het idee dat het wegnemen van vooroordelen binnen machine learning op zichzelf een ‘ding’ is.

Je kunt geneigd zijn aan te nemen dat Artificial Intelligence, door de computer toegepast wordt zonder vooroordelen (een machine heeft immers geen oordeel over informatie) en geen racisme, vrouwendiscriminatie of andere bias kent. Maar de AI is afkomstig van mensen, die wel degelijk subjectief zijn en vooroordelen hebben.

Machine learning

Rick Companje, werkzaam bij Het Utrechts Archief, vertelt hoe ze daar gebruik hebben gemaakt van AI voor het automatisch transcriberen van handgeschreven brieven. AI is een uitkomst voor een archief als HUA, waar vele kilometers handgeschreven documenten bewaard en ontsloten worden. De computer heeft geleerd het 17e eeuwse handschrift van Kasteelvrouwe Margaretha Turnor om te zetten naar digitale tekst. Daarvoor zijn vele vrijwilligers aan het werk gegaan om honderd brieven van de kasteelvrouwe handmatig in de computer te zetten. Op basis van deze informatie heeft de computer zich het handschrift eigen gemaakt, en vervolgens de rest zelfstandig getranscribeerd. Het systeem heeft zelfs automatische keywords gegenereerd om teksten beter doorzoekbaar te maken.

In de expositie Rampjaar 1672-1673 in Het Utrechts Archief wordt meer verteld over de gebruikte technieken.

De bezoekers aan de expositie kunnen de brieven van Margaretha zelf komen bekijken, doorbladeren, en zelf transcriberen. Ook is een een Whatsapp-applicatie waarmee de bezoekers virtueel met haar kunnen communiceren over het leven van toen. Zo ervaart het publiek wat nieuwe computertechnieken kunnen doen met eeuwenoud archiefmateriaal. 

Het Utrechts Archief heeft een filmpje gemaakt waarin dit uitgelegd wordt:

Subjectieve data als inspiratiebron

De laatste spreker van de avond is Hannah Davis. Zij is componiste en kunstenares. Davis gebruikt juist de subjectieve AI data voor haar creativiteit. Ze laat eerst een aantal composities horen die met behulp van AI zijn gecomponeerd.

Ook gebruikt ze subjectieve data zoals menselijke emoties in nieuw gecreëerde afbeeldingen. Dit is op basis van bijvoorbeeld landschapsfoto’s waar mensen hun persoonlijke emoties aan hebben gekoppeld.

Bekijk de presentaties van de sprekers

Contactpersoon: Else Laura Rademaker

Communicatiemedewerker

Neem contact op met Else Laura:


070 314 07 16
Thema's
Deel dit artikel