By neel_23 
Dit onderdeel gaat om erachter komen wat er “stuk” is. Door de hele minor heb ik dit op elk gebied moeten doen: ethiek, ICT, rechten, design en economie. Ik heb tijdens deze opdrachten veel moeten doordenken over de gevolgen van technologie op de samenleving.
In de eerste opdracht van de minor genaamd Denken over Tech/Ethiek begon iets wat heel simpel leek al heel snel heel complex te worden. Het maken van een algoritme en het doorlopen van de Tarot Cards of Tech leken vrij simpel, maar opeens werd een opdracht die heel oppervlakkig leek, zo diepgaand. Als laatste gingen wij nog door 5 filosofische raamwerken over het dilemma of nabestaanden toegang mogen tot de digitale gegevens van de overledenen. Daar ging het voor mij opeens heel diep. Ik heb zelf meegemaakt dat iemand kwam te overlijden en dat de familie niet weet hoe zij bij die gegevens kunnen komen. De oplossing ervoor was toch veel complexer. Om buiten je eigen ervaringen te denken is lastiger dan dat je zou denken. Dit was al een hint naar hoe de rest van de minor zou zijn. Uit je comfortzone gaan een doordenken. Doordenken over de meest extreme gevolgen en je niet laten stoppen door de gedachtegang “Ow maar dat zouden zij nooit doen met onze gegevens”. Niet omdat dit de minor is waar je alleen maar aan doom scenario’s gaat denken, maar omdat deze scenario’s echt zijn. Alles waarvan je denkt dat niemand het zou doen uit pure menselijke fatsoenlijkheid, kan je uit de deur gooien.
Zoals Youtuber Wendigoon het het best verwoordde in zijn video ‘That Time the CIA Faked a Vampire Attack to Take Over a Country’: “And remember kids the next time someone says ‘the government wouldn’t do that’ Oh yes they would.”
In de ICT week werd al gauw duidelijk voor mij hoe groot tech is. Er werd ons verteld over de geschiedenis van het internet en wij gingen zelf aan de slag met een presentatie die iets over het internet zou uitleggen. Wij hebben van elkaar geleerd over het Fediversum, social media algoritmes, generatieve AI, zoekmachines en het fysieke internet. In alles zat iets goeds en iets slechts. Het fediversum is een goeie manier om het internet te decentraliseren, want dat isnu stuk aan het internet, maar de learning curve is erg groot. Sociale media algoritmes zijn super handig om jouw type content te vinden, maar het kan zorgen voor filterbubbels. Generatieve AI kan mensen een makkelijke manier bieden om processen te versnellen, maar het neemt veel energie en is niet optimaal in zijn manier van informatie opdoen en gebruiken, waardoor het voor veel verwarring kan zorgen. Zoekmachines hebben dat de problemen van generatieve AI en sociale media algoritmes beiden. Het fysiek internet heb ik samen met mijn medestudent Vincent een presentatie over gehouden. Voor mij was het mindblowing om erachter te komen hoeveel van onze infrastructuur nu draait rondom het internet. De hoeveelheid zendmasten en datacenters die er nodig zijn om mijn digitale ervaring zo te maken zoals die is. En hoeveel daarvan is echt nodig? Al deze dingen die gebouwd zijn voor wat? Zodat ik kan doomscrollen op Tiktok en AI kattenvideo’s kan kijken? Liever een mooie groene planeet zonder internet dan toch.
Voor de rechten week heb ik een betoog geschreven en een debat gevoerd over de mogelijkheid van een AI rechter. Dit heeft ook gezorgd voor veel diepere gedachtegangen dat ik voorheen had gedacht. Ik heb onderzocht wat er precies stuk is AI en waarom het daardoor geen rechter kan spelen, maar ik heb toch in verschillende bronnen gelezen dat er toch getest wordt met de mogelijkheid ervan. Wij hebben de consequenties van geautomatiseerde rechtsvorming gezien tijdens de toeslagenaffaire. Wij weten hoeveel bias en fouten er in AI zit en wij weten ook dat de AI soms zelf dingen bedenkt die niet waar zijn. Toch willen wij het zo graag proberen. Waarom? Omdat wij lui zijn en iemand anders het werk willen laten doen. Voorheen waren dat andere mensen en nu zijn het robots. Het boeit niet eens of zij het goed doen. Zolang wij het maar niet hoeven doen. naar mijn mening is dat het echte stukke aan de samenleving, onze luiheid. Onze minachting naar fatsoen en goedheid uit pure gemakzucht. Zo zag ik dat ook terug komen tijdens de rechtszaak van Bits of freedom tegen Meta die wij mochten bijwonen. Bits of Freedom had een rechtszaak tegen hen gespannen over het feit dat je het algoritme van Instagram niet uit kan zetten. Tijdens de rechtszaak vond ik het oprecht bijna grappig hoe nonchalant Meta reageerde op Bits of Freedom over wat zij fout deden. Zij zeiden “technisch gezien doen wij niks verkeerds” of “dan had Bits of Freedom daar eerder mee moeten komen”. Pure gemakzucht en er was vanuit hen een houding van “ik zal het toch winnen. Ik ben Meta.” Het is zeldzaam wanneer een organisatie pure en oprechte moeite doet vanuit publieke waarden zoals Bits of Freedom. Ik vind het triest dat dat tegenwoordig zeldzaam is en niet de norm.
Voor de economie en design week heb ik samen met mijn groepje bestaande uit Jegor, Baban en Zakaria, een nieuwsplatform ontworpen genaamd Jong & Nieuws. Ons platform moest iets maken wat stuk was aan huidige nieuwsplatforms. Wij hebben ervoor gekozen voor 4 problemen die wij wilden oplossen: het afnemende vertrouwen/interesse in nieuws, de te grote macht die bedrijven erover hebben, jongeren die de langdradigheid ervan niet trekken en de filterbubbels gecreëerd door algoritmes en AI. Wij keken naar alle stakeholders en hun invloed en interesse in ons idee en wij hebben jongeren geïnterviewd. Het kwam allemaal weer terug tot die 4 problemen. Dit hebben wij allemaal in ons design– en economie rapport verwerkt. Ik vond het leuk om iets te bedenken wat als oplossing kon functioneren, maar het maakte mij wel erg depri om te zien wat er allemaal mis was met de nieuwsvoorzieningen van tegenwoordig. Het nieuws zou de waarheid moeten zijn over wat er in de wereld gebeurd. Het moet alle misstanden in de wereld brengen tot de burger zodat zij weten wat er allemaal gebeurd, zodat zij kunnen kiezen wat zij met die informatie doen. Nu wordt het juist gebruikt als middel om controle te hebben over burgers, terwijl nieuws een middel was om controle te geven aan de burger.
Toen kwam blok 2 met de erfgoed opdracht. Wij kregen vanuit de Rijksdienst voor het Cultureel Erfgoed de opdracht om een digitale tool te maken die erfgoedgemeenschappen in kaart zou brengen. Tijdens deze opdracht merkte ik echt dat blok 1 mijn hele manier van denken had veranderd want er kwamen voor mij en mijn teamleden meteen allemaal ethische dilemma’s omhoog. Dunke, Younes en ik dachten meteen aan de gevolgen voor de gemeenschappen en of het hun privacy rechten zou schenden als wij een AI hen laten opsporen. Er waren zoveel ethische dilemma’s waaraan wij dachten. Zodanig zelfs dat de opdrachtgever zelf er niet aan had gedacht. Wij hadden het erover dat alle erfgoedgemeenschappen in kaart brengen hen ook kwetsbaar kan maken. Als zij nu makkelijk gevonden kunnen worden, dan kan dat ook slechte mensen aantrekken die opzoek zijn naar hen. Als er een andere politieke wind waait in Nederland, dan kan dat gemeenschappen in gevaar brengen. Wij hebben deze zorgen meegenomen in ons concept. Wij legden veel macht bij de gemeenschappen zodat niemand over hun grenzen kan gaan. Ondanks al onze doordachte manieren om hun veiligheid te verzekeren kwamen wij tijdens de Tarot Cards of Tech toch bij wat problemen die opgelost moesten worden. Zo zie je maar dat doordenken over de gevolgen van iets nooit stopt. Ook al denk je dat je een pro erin bent geworden.
Deze minor heeft mij veel doen denken over hoe stuk het internet is. Het gedeelte van stuk ging vooral over het inzien dat alle fundamenten van de public stack niet aanwezig zijn binnen het huidige internet en waarom dezen zo belangrijk zijn. Ik heb veel geleerd en daardoor jammer genoeg ook veel angsten gekregen over de toekomst, maar met al mijn nieuwe kennis denk ik de wereld en het internet wel aan te kunnen.