Power ON is een afstudeerproject waar door middel van storytelling een toekomstalternatief geschetst wordt waarin algoritmen de Nederlandse politiek bedrijven. Op deze manier hopen de ontwerpers een gesprek te openen over de democratie van nu en over die van de toekomst.
Want hoe duurzaam is een menselijke regering ten tijde van technologische vooruitgang? Zijn precisie en consistentie, eigenschappen van algoritmen, niet precies wat ons kabinet nodig heeft? Kunnen slimme systemen een oplossing bieden voor het groeiende politiek wantrouwen?
Een algocratie;
de democratie van de toekomst?
Over de jaren is het vertrouwen in de Nederlandse overheid sterk afgenomen. Keer op keer laten vertegenwoordigers in de politiek steken vallen, wat bij vele Nederlanders de vraag oproept of zij wel geschikt zijn voor het uitvoeren van hun rol.
Maar eerst;
Alogratie
Op internet staan vele definities van het woord algocratie. In principe betekent het begrip "macht via algoritmen", afgeleid van het Oud-Griekse "kratos" (macht) en het Latijnse "algorithmus" (nummerverwerking). Om meer duidelijkheid te creëren, hebben de makers van Power ON hiernaast hun eigen definitie opgesteld.
Een algocratie is een nieuwe regerings-vorm waarin overheidsbeleid op algoritmische basis gevormd wordt. Een combinatie van wetenschappelijke, historische-, internationale - en landelijke data stelt algoritmische systemen in staat een precies en optimaal beleidsvoorstel te ontwikkelen voor de Nederlandse bevolking. Dit gehele proces is geautomatiseerd
en vrij van menselijke interventie.
Binnen het verhaal van Power ON ligt
een focus op het maken van beleid. De controlerende functie van de overheid kan nog steeds bekleed worden door menselijke commissies. Wenselijk zouden deze uit ethici en informatici bestaan. Zo ontstaat er een algocratie waarin algoritme en mens, zij aan zij
excelleren in hun eigen kwaliteiten.
Project
In het project spelen steeds twee belangrijke thema’s een grote rol:
de huidige ontevredenheid onder
de bevolking met betrekking tot de politiek en de opkomst van steeds meer geavanceerde, algoritmische systemen.
Ontevredenheid over de politiek.
Daarnaast zijn ministers nalatig in hun werk. Papierwerk dat rond-slingert, het niet nemen van verantwoordelijkheid voor gemaakte fouten en slechte compensatie voor gedupeerden. ‘Fouten maken mag, maar maak
ze goed’, is de heersende moraal onder burgers.
Als laatste acht een groot gedeelte van de bevolking veel zittende ministers niet geschikt voor hun functie. Zo komen vele ministers en staatssecretarissen uit een ander vakgebied dan waar ze nu het hoofd van zijn. Er zou meer behoefte zijn naar zogeheten vak-ministers. Bovendien lijkt het kabinet enorm veel op het demissionair kabinet Rutte III dat door o.a. de toeslagenaffaire ontslag aangevraagd heeft. De vraag heerst hoe het kan dat de betrokkenen nog steeds belangrijke posities bekleden.
"Wantrouwen en cynisme zijn vanuit een democratisch oogpunt minder wenselijk: het kan ertoe leiden dat mensen afhaken, zich actief tegen de overheid gaan verzetten"
Ontevredenheid kan leiden tot wantrouwen en dit wantrouwen kan weer leiden tot radicalisering
en ondermijning van de rechtsstaat. Het inperken van ontevredenheid is daarom essentieel om onze democratie te kunnen waarborgen.
Wij gebruiken dan ook algoritmen als tool om
te toetsen of de oplossing voor de onvrede ligt in
een technischer, niet-menselijk alternatief.
"Ongeveer een derde van de Nederlandse bevolking geeft de politiek een ruime onvoldoende"
Inconsistentie komt vooral voort uit het niet nakomen van afspraken. Partijen die tijdens de verkiezingen veranderingen beloven, maar in de praktijk deze niet waar kunnen maken. Ministers die zaken steeds anders verwoorden, zich uitspraken niet kunnen herinneren of beweren dat ze iets nooit gezegd of gedaan hebben.
Uit Burgerperspectieven 2022, een in kaart brenging van de mening van en moraal onder Nederlandse burgers, kwam duidelijk naar voren dat er een grote ontevredenheid heerst over het huidig politiek klimaat. Slechts een kleine meerderheid van de ondervraagden gaf het kabinet een voldoende en een derde gaf zelfs een ruime onvoldoende. De oorzaak van deze lage cijfers lijken aan een drietal oorzaken verbonden te zijn: Inconsistentie, nalatigheid en onbekwaamheid.
"Powerful AI systems should be developed only once we are confident that their effects will be positive and their risks will be manageable,"
Democratie Door Data en project Power ON willen de mogelijkheid dat algoritmes beleidsvorming zouden gaan overnemen nu aan de kaak stellen. Zo zijn mensen voorbereid op eventuele ontwikkelingen en kunnen verschillende overheids-instanties alvast veiligheidsprotocollen
en inperkingen ontwikkelen. Zo lopen we hopelijk, wanneer de techniek er dan is, niet achter de feiten aan en heeft het Nederlandse volk alsnog de touwtjes in handen.
"Waarom komt wet- en regelgeving voor technische innovatie altijd pas ná de lancering ervan?"
Dit gevaar is zelfs heel kort geleden verder geïllustreerd door een open brief van een aantal techbedrijven waarin zij verzoeken verdere ontwikkeling op het gebied van kunstmatige intelligentie voor zes maanden stil te leggen. Deze zes maanden worden dan gebruikt om de risico’s van geavanceerde algoritmen, waaronder ChatGPT, beter in kaart te brengen, wetgeving te formuleren en te werken aan verschillende veiligheidsprotocollen.
Invloed
van algoritmes.
Sinds de afgelopen jaren integreren algoritmen zich steeds meer in onze omgeving. Ze zitten in de apparaten die we ooit gebruikten om te bellen, in de streamingsdiensten die onze films aanraden en in verzekeringsdiensten besluiten ze soms voor ons of we toch niet iets meer premie moeten betalen.
Een herkenbaar, recent voorval rondom de rol van machine learning in ons dagelijks leven, is de opkomst van ChatGPT. Deze trend illustreert heel mooi wat er momenteel nog vaak gebeurt met innovatieve technologie, zeker op het gebied van algoritmische intelligentie. Wat we namelijk vaak zien, is dat zo’n tool “ineens” uit de lucht komt vallen.
Dit is natuurlijk niet juist, want informatici zijn al jaren bezig met het coderen, itereren en produceren van deze nieuwe techniek, maar voor “de gewone mens” lijkt het vaak alsof de innovatie er ineens is.Dit resulteerde in het geval van ChatGPT dat veel instanties niet klaar waren voor de enthousiaste inzet van deze tool. Scholen hadden geen specifiek anti-fraudebeleid, de overheid heeft geen enkele wetgeving kunnen maken, problemen als copyright doen zich aan en de kans dat Chat GPT gehele banen over gaat nemen, is ook niet uit te sluiten. Vanuit dit voorbeeld kan concreet het probleem van opkomende algoritmen geformuleerd worden:
Een algocratie is een nieuwe regerings-vorm waarin overheidsbeleid op algoritmische basis gevormd wordt. Een combinatie van wetenschappelijke, historische-, internationale - en landelijke data stelt algoritmische systemen in staat een precies en optimaal beleidsvoorstel te ontwikkelen voor de Nederlandse bevolking. Dit gehele proces is geautomatiseerd
en vrij van menselijke interventie.
Binnen het verhaal van Power ON ligt
een focus op het maken van beleid. De controlerende functie van de overheid kan nog steeds bekleed worden door menselijke commissies. Wenselijk zouden deze uit ethici en informatici bestaan. Zo ontstaat er een algocratie waarin algoritme en mens, zij aan zij
excelleren in hun eigen kwaliteiten.
Maar eerst:
de algocratie.
Op internet staan vele definities van het woord algocratie. In principe betekent het begrip "macht via algoritmen", afgeleid van het Oud-Griekse "kratos" (macht) en het Latijnse "algorithmus" (nummerverwerking). Om meer duidelijkheid te creëren, hebben de makers van Power ON hiernaast hun eigen definitie opgesteld.
© 2023 Oliwia Migas & Esmeralda van Werkhoven