GreenPT: een duurzaam Nederlands AI platform

Robert Keus is directeur van Brthrs, een onderneming die sociaal maatschappelijke en culturele organisaties helpt met internetoplossingen. Brthrs richt zich sterk op AI, omdat kunstmatige intelligentie in hun visie een belangrijke bijdrage kan leveren aan maatschappelijke uitdagingen. Tegelijkertijd is duidelijk dat het energie- en waterverbruik van AI enorm is en daarmee een bedreiging voor het milieu vormt.

“Ik zie het als een intrinsieke plicht om de CO₂-voetafdruk van AI te verkleinen, vooral omdat deze niet transparant is en enorm groeit." verteld Robert. "Na vragen van onze opdrachtgevers naar ethisch en duurzaam AI-gebruik, ontwikkelden wij GreenPT als oplossing. We richten ons op groene hosting in Europa (met hernieuwbare energie en restwarmte-hergebruik), kleinere taalmodellen die minder energie vragen en tools om gebruikers te begeleiden bij het formuleren van efficiëntere prompts," gaat hij verder. "Ik geloof echt dat technologie maatschappelijke problemen kan oplossen zonder de planeet te belasten: een visie waarin innovatie en duurzaamheid hand in hand gaan."

AI als gamechanger

Robert: “Ik denk dat de algoritmes in de nabije toekomst zo slim worden dat zij kunnen helpen met het oplossen van wereldproblemen. AI modellen kunnen gewoon veel meer data overzien dan een mens. En ze gebruiken logica om al die data samen te voegen en te interpreteren. Daar zie ik veel voordelen in. Daarom wilde ik mij verder in kunstmatige intelligentie verdiepen.”

Hij vervolgt: “Het duurzaamheids- en privacyvraagstuk drong zich al snel op, net als de vraag in hoeverre het gewenst is om in Amerika of China gehoste modellen te gebruiken.” Met zijn bureau Robert ontwikkelde GreenPT als duurzaam, Europees alternatief voor andere AI-modellen.

Energieverbruik verkleinen

Robert vertelt: “Een groot gedeelte van de uitstoot van een technologisch product ligt bij het stroomverbruik van servers. Daarom zijn we als eerste gaan kijken waar we onze applicaties duurzaam kunnen hosten. Dit vergde uitgebreid onderzoek. We zijn in de sustainability rapportages van verschillende hostingbedrijven gedoken en hebben onderzocht waar hun energie vandaan komt, hoe de servers gekoeld worden, wat er met de restwarmte gebeurt en of de servers in Europa staan. Zo zijn we bij twee partijen uitgekomen, die duurzaamheid helemaal op orde hebben: een Frans bedrijf Scaleway (Opent een externe link) en het Nederlands Leafcloud (Home | Leafcloud (Opent een externe link)).

Training AI modellen

Dat GreenPT op groene energie binnen Europa draait maakt het model aanmerkelijk duurzamer dan ChatGPT. De training van het model op basis van omvangrijke datasets heeft echter wel buiten Europa plaatsgevonden, waarbij veel energie is gebruikt.

Robert: “Dat klopt. De grootste verduurzamingkansen zitten aan de die kant. Helaas zijn er op het moment maar een paar partijen in de wereld die AI-modellen trainen en dan heb je het over Amerikaanse Big Techbedrijven en een aantal Chinese partijen. Zij trainen omvangrijke, zogenaamde ‘frontier’ modellen. Sommige van deze modellen worden als open source beschikbaar gesteld voor developers zoals wij. Voor GreenPT maken we dus gebruik van reeds getrainde modellen. We onderzoeken of we met een kleiner model nog duurzamer kunnen zijn, en tegelijkertijd voldoende functionaliteit aan de gebruikers kunnen bieden. In het verkleinen van de Large Language Modellen (LLM’s) zit zeker milieuwinst, ook omdat kleinere modellen sneller zijn."

Auteursrecht op de data

Over auteursrechtelijke problemen met de trainingsdata moet Robert van het hart dat dit buiten zijn macht ligt: “Heel eerlijk gezegd zet ik ook mijn vraagtekens bij hoe de frontier modellen getraind zijn en hoe het staat met het copyright van die data. Jammer genoeg hebben we hier op dit moment weinig invloed op, omdat we niet ons eigen modellen trainen.”

Zelflerend? 

Robert merkt op dat zonder datawetenschappers geen één model zelflerend is. “Je hebt experts nodig die data classificeren om het model mee te trainen. Dat gebeurt nooit in realtime. Data die gebruikers invoeren, worden eerst opgeslagen in een database en pas (veel) later gebruikt om een nieuwe versie te maken. En je moet het zo zien: een model zelf is niet echt intelligent, zoals een mens, maar werkt op basis van voorspelbaarheid.”

GreenPT slaat geen interacties met de gebruiker op om het model te trainen. Robert: “Er wordt wel een chat-geschiedenis opgeslagen voor de gebruiker zelf, maar die wordt niet hergebruikt.”

Wat maakt GreenPT verder duurzamer 

“De exacte CO₂-uitstoot van GreenPT is afhankelijk van de taakcomplexiteit,” vertelt Robert. “Omdat GreenPT alles in eigen beheer doet, kan binnenkort goed berekend worden hoeveel energie de modellen precies verbruiken. De gebruiker krijgt in de toekomst bovendien inzicht in zijn eigen uitstoot via een energy-tracker. Daarmee kan je per prompt zien hoeveel er is uitgestoten. Dit helpt bij de bewustwording.”

Ook wordt gewerkt aan een tool om gebruikers te helpen bij het vooraf optimaliseren van prompts. “Mensen zijn niet vanzelf goed in prompting. Onervaren gebruikers hebben vaak veel stappen nodig om tot een kloppend antwoord te komen met behulp van AI. Door de gebruiker te helpen zijn vraag te optimaliseren, kunnen we het aantal stappen tot een bruikbaar resultaat verkleinen. Met die optimalisatietool zijn we druk bezig.”

Verder wijst Robert erop dat niet voor elke vraag een AI-model de beste vorm is. “Sommige feitelijke informatie kun je beter via een gewone internetzoekmachine vinden. Daarom bieden we in GreenPT ook de simpele optie ‘Zoeken op het web’. Voor vragen als ‘Waar is Poppodium 013’ of ‘Wat is de DEN academie’ kun je namelijk beter een zoekmachine dan een AI-model gebruiken. Dan krijg je bovendien actuelere resultaten en het kost minder energie.”