Column: AI en voorzorg
Ik stuitte afgelopen meivakantie online op een wetenschappelijke discussie die er kortgezegd op neerkwam of AI gezien moest worden als dé oplossing voor het klimaatprobleem of dat AI het klimaatprobleem in sneltreinvaart verergert. Na lang nadenken probeerde ik tot een eigen standpunt te komen. Dit bleek veel lastiger dan gedacht, en dat frustreerde me. Want over zulke actuele en grootse vraagstukken wil je toch een eigen een opvatting hebben.
Zo las ik overtuigende artikelen over hoe AI klimaatmaatregelen kan beoordelen dankzij de onderliggende diversiteit aan gegevensbronnen, en zo bijdraagt aan de ontwikkeling van nieuwe methodes en technologieën. Met behulp van AI kan de illegale kap van tropisch regenwoud, maar ook illegale visserij, razendsnel worden gedetecteerd. Door complexe berekeningen te maken, rekening houdend met meer parameters dan het menselijke brein ooit zal aankunnen, slaagt AI erin om vervuilende praktijken op te sporen en industrieën te helpen hun CO2 uitstoot te verminderen.
Maar er is ook die andere kant. Het ontwikkelen en het gebruik van algoritmes kost veel energie en zorgt voor een gigantische hoeveelheid CO2-uitstoot. Dit begint al bij het invoeren van een zoekterm op een zoekmachine, maar is met de komst van open AI, zoals bijvoorbeeld chatbot ChatGP, enorm toegenomen.
Desinformatie
De hoeveelheid data die nodig is om een AI-systeem te trainen, is feite niets anders dan het verwerken van miljoenen bladzijden tekst. Dit in een systeem waarvoor permanent energie slurpende servers in grote datacentra draaien. Daarnaast is er onder wetenschappers vooral ook bezorgdheid dat dankzij AI op grote schaal desinformatie verspreid kan worden; desinformatie die zeer zeker ook gebruikt zal worden om de ernst van klimaatverandering af te zwakken.
Iedereen lijkt doordrongen te zijn van de enorme toepassingsmogelijkheden van AI. In het wetenschappelijke, politieke en maatschappelijke debat zijn twee reacties dominant. Er is een groep die van mening is dat ons leven al zo doorspekt is van AI-toepassingen dat we AI volledig moeten omarmen. Daartegenover is er ook een groep die stelt dat de AI-systemen nu zo geavanceerd worden dat het tijd is nu een pauze in te lassen.
Op dit moment loopt niet alleen de regelgeving maar ook de wetenschap mijlenver achter op de technologie. We zijn afhankelijk van - en worden beïnvloed door - de Big Tech organisaties. De grondlegger van kunstmatige intelligentie, de Brits-Canadese Geoffrey Hinton (ook wel bekend als de ‘AI-Godfather’), uitte begin mei openlijk zijn zorgen over de serieuze dreiging die AI vormt voor onze samenleving. Hinton deed een appèl op de maatschappij- en gedragswetenschappers om gezamenlijk de gevolgen van AI voor mens en samenleving te onderzoeken.
Klimaat en AI
Het klimaatvraagstuk en AI zijn onlosmakelijk met elkaar verbonden. Het is dan ook geen gekke gedachte om het uit het milieurecht afkomstige ‘voorzorgsprincipe’ nu te hanteren. Dat is een belangrijk uitgangspunt in de omgang met de risico’s van nieuwe stoffen, instrumenten of innovaties. In sommige situaties is het (nog) niet mogelijk om vast te stellen wat de aard en/of waarschijnlijkheid en dus impact van een risico is.
Dit principe komt erop neer dat uit voorzorg iets wordt stilgelegd zolang er binnen de wetenschap nog geen zekerheid bestaat over de mogelijke gevolgen. In het geval van twijfel bestaat er nogal eens de neiging om te focussen op de voordelen van een technologie op de korte termijn. Het voorzorgsprincipe dwingt om ook het langetermijnperspectief mee te nemen, net als de belangen van degenen die minder goed worden gehoord, kwetsbaar zijn, of die nog geen stem hebben.
Niet alleen de vragen ‘werkt het?’ en ‘mag het?’, maar juist de vraag ‘moeten we het willen? past bij onze maatschappelijke rol als University of Applied Sciences.
Dat dit in de praktijk onvoldoende gebeurt moge duidelijk zijn. Decennialang zijn er talloze (giftige) stoffen vrijgelaten in ons milieu, waarvan onvoldoende bekend was wat de gevolgen voor mens, dier en milieu op de langere termijn zouden zijn. Denk aan asbest, PFAS en microplastics. Het waren vaak de grote economische belangen van de fabrikanten die door een effectieve lobby beleidsmakers en bestuurders overtuigden het voorzorgsprincipe niet te hanteren. Inmiddels weten we waar dat toe kan leiden.
Ik kom tot de conclusie dat dit voor AI in ieder geval tot een heroverweging moet leiden. Saxion nam in februari al de vlucht naar voren en organiseerde een in-house debat over ‘Leren in tijden van ChatGPT’. Laten we naast de betekenis van AI voor ons onderwijs en onderzoek ook recht doen aan de oproep van Hinton door de binnen Saxion aanwezige denkkracht te bundelen en zo gezamenlijk de kansen en risico’s van AI op de lange termijn door te denken. Niet alleen de vragen ‘werkt het?’ en ‘mag het?’, maar juist de vraag ‘moeten we het willen? past bij onze maatschappelijke rol als University of Applied Sciences.