Ik heb niets tegen AI. Dat wil ik meteen even duidelijk maken.
Ik ben echt enthousiast over wat er allemaal mogelijk is. Ik heb zelfs een groot deel van mijn kerstvakantie besteed aan het bouwen van mijn eigen AI-server. En ik zie zeker het potentieel van AI om de dingen te doen die ik niet wil doen.
Maar het gaat niet per se om productiviteit. Het moet mensen niet vervangen. Het moet de klusjes doen die ik moet doen, maar waar ik geen plezier in heb. Ik wil dat het de afwas doet, niet dat het liedjes voor me schrijft.
Het is een spanning die ik aan beide kanten van dit debat voel. Voordat ik CTO werd, bouwde ik een carrière op als bekroonde songwriter en muzikant. Mijn muziek is, net als die van talloze andere artiesten, vrijwel zeker door AI-bedrijven ‘gescraped’ om hun modellen te trainen – zonder toestemming, zonder vergoeding.
Op filosofisch en ethisch vlak vind ik het vreselijk. Ik vind het vreselijk dat mijn kunst zonder mijn toestemming is gebruikt voor doeleinden waar ik het niet mee eens ben.
Deze spanning tussen het echte nut van AI en de grote problemen die eraan kleven, is de reden waarom ik onlangs een intern document voor CultureSuite heb geschreven waarin ik de ethische, milieu- en veiligheidsimplicaties van AI-toepassing onder de loep neem. Het was bedoeld om een gesprek binnen het bedrijf op gang te brengen. Maar aangezien deze kwesties in onze sector zelden openlijk worden besproken, hebben we besloten onze gedachten breder te delen.
Eén ding is goed om meteen duidelijk te maken: als de meeste mensen in deze context over ‘AI’ praten, bedoelen we eigenlijk generatieve grote taalmodellen (LLM’s) – tools zoals ChatGPT of Claude die tekst, code, afbeeldingen en meer genereren. Niet alle AI is hetzelfde, en de problemen die ik beschrijf, zijn grotendeels specifiek voor LLM’s en de infrastructuur erachter.
De verborgen kosten
De problemen met LLM’s reiken veel verder dan auteursrecht. Neem bijvoorbeeld de milieu-impact. Eén enkele vraag aan een model als ChatGPT verbruikt ongeveer evenveel energie als nodig is om een smartphone volledig op te laden. En dat is maar één vraag. Voor een sector die zich steeds meer zorgen maakt over duurzaamheid, zou dit tot nadenken moeten stemmen.
Bij CultureSuite gebruiken we bewust geen AWS (de clouddiensten van Amazon). We werken samen met Exonet, een lokaal hostingbedrijf. Ons doel is om te proberen te herinvesteren in onze lokale gemeenschappen. Een van de dingen die ik zo leuk vind aan CultureSuite is dat we kritisch zijn ten opzichte van onze partners. Maar bij AI leek dat in het begin gewoon niet te gebeuren.
Dan zijn er nog de menselijke kosten. Uit onderzoek is gebleken dat grote AI-aanbieders een beroep hebben gedaan op werknemers in Kenia, de Filippijnen en India – die soms minder dan 2 dollar per uur betaald kregen – om traumatische inhoud te beoordelen en trainingsgegevens te labelen. Velen hebben melding gemaakt van psychische schade en ontoereikende ondersteuning.
En de modellen zelf zitten vol ingebouwde vooroordelen. Onderzoek heeft aangetoond dat AI-systemen kunnen discrimineren op basis van dialect, vrouwen onevenredig vaak associëren met huishoudelijke taken en schadelijke stereotypen versterken. Voor een sector die diversiteit en vertegenwoordiging hoog in het vaandel heeft staan, brengt het kritiekloos gebruik van deze tools het risico met zich mee dat juist die waarden worden ondermijnd.
De hype versus de realiteit
Ik ben sceptisch over de hoogdravende beloften rond AI. De trend op dit moment is dat de allernieuwste modellen in feite proberen één model te maken dat alles kan. En wat er dan gebeurt, is dat het niets echt goed doet. Het is heel goed in doen alsof het klopt. Het is heel goed in je ervan te overtuigen dat het om de een of andere reden wel klopt. En het is heel goed in het strelen van het ego van zijn gebruikers om zijn beperkingen te verbergen.
Uit onderzoeken naar de productiviteit van ontwikkelaars blijkt dat, in tegenstelling tot wat vaak wordt beweerd, AI-ondersteund coderen juist meer bugs en architecturale problemen oplevert, niet minder. In het begin wordt er weliswaar veel meer code gegenereerd, maar er ontstaan ook veel meer bugs. Uiteindelijk ben je dus veel meer tijd kwijt aan het oplossen van die problemen. Als de gegenereerde code wel acceptabel is, zorgt de hogere productiesnelheid van de code simpelweg voor een nieuwe bottleneck in de code-reviewfase. De algehele productiviteit daalt daardoor uiteindelijk.
Voor culturele organisaties die het al moeilijk hebben, is de verleiding om AI als een wondermiddel te zien begrijpelijk. Maar ik zou je willen waarschuwen om grondig onderzoek niet over te slaan. Je snapt wel waarom het, binnen een ondergefinancierde kunstafdeling, heel verleidelijk is om AI een poster of persbericht te laten maken. Maar ik vind dat we standaard moeten kiezen voor het beschermen van de creatieve mensen die al ons werk mogelijk maken. Want anders, wat voor toekomst bouwen we dan eigenlijk voor onszelf op?
Er is ook een vraag over vaardigheden. Als teams afhankelijk worden van AI voor taken die ze nooit goed hebben geleerd, wat gebeurt er dan als die systemen uitvallen of onbetaalbaar worden? De sector kampt nu al met uitdagingen op het gebied van vaardigheidsontwikkeling en opvolgingsplanning. De AI-snelkoppelingen van vandaag kunnen ervoor zorgen dat we morgen nog dieper vastzitten in een vaardigheidskloof.
Wat we hieraan doen
CultureSuite zwaait AI niet vaarwel. Maar we gaan wel heel bewust om met hoe we het gebruiken.
We werken aan een bedrijfsbreed AI-beleid, dat we samen met medewerkers uit het hele bedrijf vormgeven. Het doel is niet om bepaalde tools te verbieden, maar om ervoor te zorgen dat iedereen weloverwogen keuzes maakt. Als iemand voor een specifieke taak een krachtig model moet gebruiken, moet hij of zij kunnen uitleggen waarom een kleiner, milieuvriendelijker alternatief niet werkt.
Er wordt een enorm ecosysteem van kleinere, open-source LLM’s ontwikkeld en gratis beschikbaar gesteld. Ik heb hoge verwachtingen van het gebruik van dit soort modellen. Ik gebruik deze modellen nu uitsluitend lokaal, en ze voldoen aan al mijn behoeften die voorheen door ChatGPT of Claude werden vervuld.
We onderzoeken ook samenwerkingen met meer ethische aanbieders. Ik heb onlangs een ontmoeting gehad met GreenPT, een Frans bedrijf dat zijn eigen luchtgekoelde servers host (aanzienlijk milieuvriendelijker dan watergekoelde alternatieven) en zich uitsluitend richt op duurzame, open-source AI. Er is een hele andere wereld van open-source-modellen die je op veel kleinere schaal kunt draaien. Die zijn een stuk goedkoper om te trainen en veel minder schadelijk om te gebruiken.
Het gaat erom aanbieders en modellen te vinden die specifieke taken echt goed kunnen uitvoeren. We moeten de ‘van alles een beetje, maar nergens echt goed in’-aanpak van de grote platforms vermijden.
Wat culturele organisaties kunnen doen
De meeste culturele organisaties hebben geen CTO. Juist daarom vind ik dat leveranciers zoals wij de verantwoordelijkheid hebben om onze ervaringen te delen, zodat de sector het onderzoek niet opnieuw hoeft te doen. Dit is waar ik zou beginnen:
Zoek naar aanbieders van ‘groene AI’
Steeds meer bedrijven ontwikkelen duurzame alternatieven. Ze maken vaak gebruik van open-source-modellen die maar een fractie van de energie verbruiken. Ze halen misschien niet de krantenkoppen, maar ze bestaan wel degelijk.
Let op het beleid inzake het niet bewaren van gegevens
Dit betekent dat de aanbieder je zoekopdrachten niet opslaat of gebruikt om zijn modellen te trainen. Je gegevens worden verwerkt en teruggestuurd, en vervolgens verwijderd. Dit is vooral belangrijk als je met gegevens van klanten of artiesten werkt.
Bedenk waar je gegevens worden opgeslagen
Naleving van de AVG is belangrijk. Sommige aanbieders kunnen garanderen dat je gegevens op Europese servers blijven staan. De grote platforms kunnen je vaak niet vertellen waar je gegevens uiteindelijk terechtkomen.
Stel vragen rechtstreeks aan leveranciers
Als een AI-bedrijf zijn milieupraktijken, arbeidsomstandigheden of gegevensbeleid niet duidelijk kan uitleggen, is dat een rode vlag. Kleinere aanbieders zijn vaak transparanter, omdat ze daadwerkelijk een afspraak met je kunnen maken.
Laat AI niet zomaar met klanten of artiesten in aanraking komen zonder er goed over na te denken
Intern experimenteren is niet zo riskant. Maar overal waar AI in contact komt met je publiek of de creatieve mensen met wie je werkt, moet je voorzichtig te werk gaan. Niemand vindt het leuk om in een chatbot-lus vast te zitten als je menselijke hulp nodig hebt.
Bouw vaardigheden op, geen afhankelijkheden
Gebruik AI als hulpmiddel, niet als steunpilaar. Als je team zonder AI niet zou kunnen functioneren, is dat een zwakke plek.
Ik sluit af met een kleine bekentenis: ik heb AI gebruikt om het interne document waarop dit artikel is gebaseerd te onderzoeken en te schrijven. Dat ik dit aan het einde van een lang, serieus document onthul, was deels een grapje. Ik wist dat lezers zich dat zouden afvragen. Maar het ging ook om transparantie.
Ik vind het gewoon een kwestie van respect om te vermelden wanneer iets met behulp van machines is gemaakt. Dit is een ingewikkeld onderwerp met ingewikkelde gevoelens. Ik doe niet alsof ik alle antwoorden heb.
Niemand kan beweren alles te weten nu AI nog in de kinderschoenen staat. Maar ik vind dat de culturele sector beter verdient dan zich halsoverkop in AI te storten zonder kritische vragen te stellen. Onze kunstenaars, ons publiek en onze planeet verdienen dat wel.
We denken kritisch na over de technologie die we gebruiken. Ook over die van onszelf.
Als je onze aanpak van deze vraagstukken aanspreekt en je op zoek bent naar een digitale partner die jouw website met dezelfde kritische blik bekijkt, dan kun je hier verder lezen.
- Bekijk Culturesuite in actie
Boek een persoonlijke demo om te ontdekken hoe CultureSuite kunst-, cultuur- en entertainmentlocaties helpt hun website te zien als infrastructuur, niet als een project. - Werk met ons samen
We werken samen met technologieleveranciers, ontwerpbureaus en leveranciers in de hele kunst- en cultuursector. Neem contact op. - Ontdek meer
Duik dieper in digitale strategie via onze artikelen, evenementen en webinars, Spotify, ons YouTube-kanaal of onze nieuwsbrief.

