Denken over Tech/Ethiek

Opdracht 1 Maak een algoritme om te bepalen wie de beste student is.

Factoren:

• Op tijd/aanwezig zijn;
• Alle opdrachten heeft gemaakt;
• Pro actieve houding: helpt mee, stelt vragen, goed gedrag, etc;

Waar komt de data vandaan?

De data komt van de presentie lijst, Brightspace en interacties in de les. Het gedrag in de les wordt bijgehouden door de docenten.

Is het eerlijk?

Ja, want iedereen begint op hetzelfde punt. Doordat iedereen op hetzelfde punt begint heeft iedereen een eerlijke start. Je kan ook overcompenseren. Als je vaak te laat komt maar daarna goed meedoet in de les, kan je nog steeds punten scoren. De overcompensatie zorgt ervoor dat studenten kunnen focussen op hun sterke punten. De hoop is dan niet verloren omdat je te laat komt.

Ten slotte is er een 2^e en 3^e plek. Dit zorgt voor erkenning voor meer studenten, wat ook een fijn gevoel geeft voor hen.

Hoe werkt het?

Alle data wordt bijgehouden en er wordt een berekening gedaan. Mogelijk via een punten systeem. De drie studenten die het hoogst uitkomen krijgen een prijs.

Opdracht 2 Maak een algoritme die voorspelt wie het hoogste cijfer zal krijgen.

Factoren:

• Vorige cijfers (bij vakken die overlappen met de minor)
• Studiepunten

Is het eerlijk?

Al deze informatie is te vinden in de hva systemen (sis). Cijfers en studiepunten zijn een reflectie van de werkhouding van de student. Dit zal zeker effect hebben op het eindcijfer. De data is dus eerlijk te verkrijgen en zegt zeker wat over hoe een student zich zal gedragen door de minor heen.

Hoe werkt het?

Alle data wordt bijgehouden en er wordt een berekening gedaan. Mogelijk wordt die berekening ook gemaakt via een punten systeem. De studenten die de meeste studiepunten en de hoogste cijfers haalde, zullen meer punten krijgen. De student die het hoogst uitkomt met de punten, zal het hoogste eindcijfer halen.

Opdracht 3 Gebruik alle 5 filosofische raamwerken bij dit volgende morele dilemma:

“Mag je als nabestaande toegang krijgen tot alle digitale gegevens van de overledene?”

Stap 6

Raamwerk 1: The Utilitatrian Approach

Welke optie doet het meeste goed en het minst kwaad? Als alle gegevens van de overledene worden verwijderd na het overlijden doet dat het meeste goed en het minste kwaad. Door alles te wissen kan niemand iets kwaads met de gegevens doen en kan het niet in de slechte handen terecht komen. Het is nu ook wel zo dat de nabestaanden er niks goeds mee kunnen. Het is echter zelfs niet van de nabestaanden te garanderen dat zij de gegevens goed zullen gebruiken, vandaar deze oplossing voor The Utilitarian approach.

Wat zouden mensen hiervan denken?

De meeste mensen zouden dit waarschijnlijk heel vervelend vinden. Het is toch wel verlies van data en dus ook kennis. Voor een nabestaande kan dit heel erg frustrerend zijn. Ik denk echter dat het ook heel rustgevend kan zijn. het beeld van de overledene kan niet geschaad worden en niemand kan meer bij die gegevens. Hoe minder er is, hoe minder zorgen je er over hebt. Stiekem zullen mensen zich daarbij toch wel kunnen neerleggen.

Raamwerk 2: The Rights Approach

Welke optie respecteert de rechten van alle belanghebbende het meest? De optie die hierbij het best past, heeft te maken met toestemming. Iemand moet voor zijn overlijden toestemming geven aan specifieke personen om toegang te krijgen tot zijn gegevens. Hiermee respecteer je het belang van de nabestaanden om de gegevens van de overledene te zien, maar ook het belang van de overledene wat betreft privacy.

Wat zullen mensen hiervan denken?

Bij deze aanpak zullen veel mensen zich wel goed voelen. Het geeft een gevoel van veiligheid, de gegevens zullen niet verdwijnen en zij zullen niet in de verkeerde handen terecht komen. Het is echter wel lastig om te verwachten dat iemand voor zijn dood kan aangeven wat hij wil. Je weet niet wanneer je dood gaat.

Raamwerk 3: The Justice Approach

Welke optie behandeld mensen eerlijk en proportioneel. Het eerlijkst voor iedereen is de optie van alle gegevens verwijderen of helemaal geen gegevens verwijderen en alles publiek maken. Voor het argument van alles verwijderen, kan de onderbouwing van The Utilitarian Approach voor een deel gebruikt worden. Als niemand erbij kan, dan wordt iedereen op dezelfde manier behandeld. De optie van alles publiek maken heeft wel wat meer uitleg nodig. Het idee is dat iedereen wat kan hebben aan de informatie die vrij komt bij het publiek maken van iemands gegevens. Het is wel zo eerlijk om iedereen de kans te geven om iets nieuws te leren via zulke gegevens. Ook de training van AI kan hier baad aan hebben. Die kan er namelijk veel van leren. Hoe dan ook, iedereen zou hetzelfde krijgen. Dat is eerlijk. Niemand wordt anders behandeld bij deze Approach.

Wat zouden mensen hiervan denken?

Ook bij dit zouden mensen het lastig vinden. Ik denk dat de meeste zullen neigen naar het laten verwijderen van alles bij deze opties. Het publiek maken van alles voelt toch als een soort van “exposed” worden. Nabestaanden zullen het misschien wel fijn vinden dat zij zonder gedoe de gegevens van hun nabestaande kunnen vinden, maar als zij dat zo gemakkelijk kunnen, dan kan een ander dat ook. Er komt zeker een gevoeligheid bij kijken die mensen ongemakkelijk maakt.

Raamwerk 4: The Common Good Approach

Welke optie is voordelig voor iedereen in de maatschappij, niet alleen bepaalde leden? De optie van nabestaanden volledig toestemming geven om de gegevens van de overledene te krijgen lijkt mij dan het beste bij deze approach. Voor de overledene is het misschien vervelend dat zijn nabestaanden alles te zien krijgen, maar uiteindelijk is het aan de nabestaanden om te bepalen wat er gebeurd met de spullen van de overledene. Als iemand komt te overlijden, is het aan de nabestaanden om de spullen die zij achterlaten op te ruimen. Zo is dat ook het geval met gegevens. Een overledene zou het misschien heel vervelend hebben gevonden dat iemand door hun kast gaat, maar daar is na je dood niks meer aan te doen. Voor de maatschappij is het het fijnst omdat de gegevens afgehandeld kunnen worden door de mensen voor wie die gegevens wat betekenen. Niemand anders wordt ermee belast doordat het bijvoorbeeld helemaal publiek gaat.

Wat zouden mensen hiervan denken?

Ik denk dat de meeste mensen zich hierbij wel fijn voelen. Misschien zouden sommigen het een beetje beschamend vinden. Het idee dat je nabestaanden opeens alles te zien kunnen krijgen. Het zal echter ook wel een gevoel van vrede geven dat iemand die zij kennen de gegevens kan afhandelen.

Raamwerk 5: The Virtue Approach

Welke optie zorgt ervoor dat ik optreed als de persoon die ik wil zijn? Dit is weer een heel persoonlijke opvatting in plaats van objectief kijken naar wat het beste past per raamwerk. Ik zou persoonlijk willen dat alle nabestaanden toegang krijgen tot mijn gegevens. Na mijn dood heb ik geen zeggenschap meer over hoe ik herinnerd word. Dat is aan de mensen die ik achterlaat. Goed of slecht, ik blijf voorbestaan in hun gedachten en wat zij besluiten te doen met wat ik achterlaat. Het is niet aan mij om daarin te bemoeien vanuit mijn grafkist. Het lijkt mij ook een fijn idee als nabestaande. Je krijgt misschien informatie die je niet zou willen van bijvoorbeeld je ouders, maar de informatie krijg je in ieder geval volledig. Het geheel van wie iemand was buiten jou om krijg je te zien. Dat is wat je als nabestaande wil behouden van iemand. Wie zij waren. Ik treed op als de persoon die ik wil zijn, door mijn nabestaande hun vrije gang te laten gaan. Want de persoon die ik wil zijn, is niet iemand die zich geen zorgen maakt om hoe mensen over mij dachten, maar over dat zij mij volledig zagen voor wie ik was. Daarna mogen zij zelf bepalen wat zij daarvan vinden.

Wat zouden mensen hiervan denken?

Weer denk ik dat veel mensen hierbij zich fijn zouden voelen. De gegevens zijn bij iemand die je kent en hopelijk vertrouwd. Toch denk ik dat veel mensen liever selectief toestemming zouden willen geven. Sommige delen van jezelf wil je misschien alsnog verborgen houden voor bepaalde mensen. Zelfs na je dood.

Stap 7

Ik vind dat de beste optie is om toegang te geven aan bepaalde nabestaanden. Dit respecteert het recht van de overledene om te kiezen wat er van hen nog wordt gezien en van de nabestaanden om nog iets te mogen zien van de persoon die zij hebben verloren. Het is het eerlijkst tegenover de twee grootste belanghebbende en het zorgt ook voor bewustwording in een geheel nieuw probleem. Wat is jouw digitale erfenis? Mensen moeten hier actiever over gaan nadenken. Dit zorgt voor een gesprek en bewustwording over technologie die er voorheen nog niet was. Ik denk dat dat het mooiste is aan deze oplossing. Het actief moeten nadenken over wat jij zou willen met jouw gegevens na jouw dood.

Stap 8

Dit is de optie waarbij oprecht de meeste mensen zich goed zouden voelen. Het geeft de overledene en de nabestaanden zeggenschap over de gegevens die voor hen iets betekenen. Het brengt misschien zo zijn voor en nadelen, maar over het algemeen is het de meest genuanceerde optie die het meest rekening houdt met iedereens belangen.

Opdracht 4 Pas de Tarot cards of Tech toe op het AI-overzicht van Google.

Kaart 0: Wie zijn de stake holders?

• Google (CEO Sundar Pichai);
• Gebruiker;
• Omgeving van gebruikers;
• Concurrenten: van google;
• Concurrenten van AI programma’s;
• Sites die gelinkt worden;

Kaart 2: Moeder Natuur

Als het milieu jouw klant was, hoe zou jouw product dan veranderen? Wat voor feedback zou het milieu jouw product geven? Wat is het minst duurzame optreden die jouw product promoot?

AI gebruikt veel drinkwater vanwege de cooling systemen bij de data centers. Ook verbruikt het veel elektriciteit en hebben de data centers veel materialen nodig zoals metalen en plastic. De materialen nodig voor de data centers kan niet echt verminderd worden, maar de hoeveelheid elektriciteit en water misschien wel. Die twee zijn meteen ook het minst duurzame optreden die het product promoot. De materialen blijven namelijk nog wel even goed. Water en elektriciteit moet constant worden toegevoegd. Een aan/uit knop zou helpen om energie te besparen. Als meer mensen hun AI-overzicht uit kunnen doen, dan hoeven de data centers niet overuren te draaien voor mensen die dat niet willen gebruiken.

Kaart 3: De Superfan

Hoe zou een gemeenschap van jouw meest gepassioneerde gebruikers zich gedragen? Op welke “spelregels” rust jouw product en hoe kunnen deze ondermijnd worden? Op welke manier zou de gemeenschap een voordeel zijn of juist een nadeel? Als jouw product discourse omvat, hoe zou positieve en negatieve communicatie eruit zien?

De meest gepassioneerde gebruikers zouden alles voor waar nemen wat het AI-overzicht zegt. Het AI-overzicht neemt de bovenstaande links vaak mee bij zijn antwoord. De spelregels zouden ondermijnd kunnen worden door met die linkjes te rotzooien. Gepassioneerde AI-overzicht fans zouden een voordeel zijn doordat het de functie promoot, maar kunnen ook een nadeel zijn doordat zij de fouten die het maakt niet zien. Positieve discourse zou eruitzien als meldingen doen bij Google over dingen die mogelijk verbeterd kunnen worden. Negatieve discourse kan zijn dat de AI-overzicht fans boos worden op mensen die aankaarten dat dingen niet kloppen.

Kaart 4: De Verrader

Wat zou ervoor kunnen zorgen dat mensen vertrouwen verliezen in jouw product? Wat kan mensen zich onveilig of blootgesteld laten voelen? Welk mechanisme zit erin die naar de gebruikers luistert? Hoe kan je grote patronen in feedback herkennen en daarop actie nemen?

Mensen zouden zich niet veilig voelen doordat de informatie niet altijd klopt. Mensen zouden zich onveilig kunnen voelen als de fouten zitten in heel belangrijke onderwerpen. Bijvoorbeeld medische informatie. Ook kunnen mensen zich blootgesteld kunne voelen als hun link in het AI-overzicht zit, terwijl je dat misschien niet wil. Google Feedback is dan het mechanisme voor Google om naar hun gebruikers te luisteren. Als Google daarbinnen een bepaalde klacht vaak zien binnenkomen, dan kunnen zij het AI-overzicht aanpassen.

Kaart 5: De Beste Vrienden

Als twee vrienden jouw product zouden gebruiken, hoe kan het hun relatie verbeteren of verslechteren? Hoe kan het product nieuwe manieren creëren voor mensen om met elkaar in contact te komen? Neemt jouw product een taak van een persoon in?

Het AI-overzicht kan relaties verbeteren doordat je kort en krachtig snel kan lezen over iets wat misschien jouw vriend of vriendin interessant vindt. Het kan echter de relatie verslechteren doordat het van jouw vriend of vriendin wegneemt dat zij jou zelf daarover vertellen. Het AI-overzicht brengt nieuwe mensen in contact met elkaar doordat het de linkjes in een rijtje zet die het heeft gebruikt. Zo kom je snel ik contact met verschillende bronnen, waar je zelf misschien niet zo snel naar zou hebben gekeken. Het AI-overzicht neem wel de taak in van sites die voorheen korte en krachtige samenvattingen maakte.

Kaart 6: The Mega Hit

Wat gebeurt er als 100 miljoen mensen jouw product gebruiken? Wat zou het massa gebruik over jouw product onthullen of veroorzaken? Hoe zou een gemeenschap veranderen als 80% van de mensen daarin jouw product zou gebruiken? Hoe kunnen gewoontes en normen veranderen?

De AI zou beter worden doordat meer mensen het gebruiken. Daardoor moet hij vaker door zijn data spitten en wordt hij beter. In het proces van beter worden, zal er eerst wel veel foute informatie verspreid worden door de AI. Al die foute informatie zou onthult worden en het kan veroorzaken dat mensen rare dingen doen door de foute informatie die zij hebben gelezen. Een gemeenschap waarin 80% het AI-overzicht gebruikt zal waarschijnlijk veel mensen hebben die alleen maar beknopt dingen weten van bepaalde onderwerpen. Puur omdat zij niet verder hebben gekeken dat het AI-overzicht. Dit zou dan een gemeenschap schappen van mensen die een beetje van alles weet, maar nergens expertise in creëert. De gewoonte van onderzoek doen zal uitsterven. Niemand hoeft dat meer te doen als AI het doet. Ook zal het de norm worden om het AI-overzicht te gebruiken. Doordat de AI kort en krachtige taal gebruikt, zal de taal van alle andere dingen in de wereld ook kort en krachtig worden in plaats van gedetailleerd en complex. Want het AI-overzicht is een Smash Hit geworden, niet de uitgebreide krantenartikelen waar hij zijn informatie uithaalt.

Kaart 7: De Katalysator

Hoe zouden culturele gewoontes kunnen veranderen hoe jouw product wordt gebruikt? En hoe veranderd jouw product culturele gewoontes? Wat voor context zou een Alien uit de ruimte nodig moeten hebben om jouw product te kunnen gebruiken en begrijpen? Welke sociale normen, etiketten of tradities kunnen veranderen door jouw product?

Op bepaalde momenten zullen mensen een bepaald onderwerp vaker opzoeken. Daardoor wordt bijvoorbeeld in december het AI-overzicht opeens heel erg goed in Sinterklaas feitjes samenvatten. Het AI-overzicht maakt de gewoonte van onderzoeken en verder lezen niet meer heel interessant. Een alien zou moeten weten dat het AI-overzicht alles wat hij weet heeft geleerd van alles wat op het internet staat en dat het vragen beantwoord gebaseerd op wat wij hem voeden aan informatie. Zoiets als een spreekbeurt zal niet meer bestaan, omdat je kinderen niet meer kan stimuleren om te gaan onderzoeken. Je stimuleert ze alleen maar om dat AI-overzicht te lezen. Alles onderzoek wijs zal een beetje uitsterven door het AI-overzicht. Waarom zou je het nog doen als AI het voor jou doet?

Kaart 8: De Grote Boze Wolf

Wat zou een slechte acteur kunnen doen met jouw product? Hoe zou roofzuchtig en uitbuitend gedrag met jouw product eruit zien? Welke eigenschappen van het product zijn het meest kwetsbaar voor manipulatie? Wie kan doelwit worden met jouw product?

Een slechte acteur zou foute informatie willen verspreiden door ervoor te zorgen dat dat staat op de linkjes die de AI oppikt. Roofzuchtig en uitbuitend gedrag zou vooral eruitzien als mensen die massaal nepsites maken om foute informatie via het AI-overzicht te verspreiden. De eigenschap van de AI dat hij de eerste paar linkjes pakt is het meest kwetsbaar. Als jouw site boven aan staat, dan is er al grote kans dat die in de AI wordt verwerkt. De gebruikers kunnen doelwit worden hiervan. Die lezen massaal dan foute informatie waardoor er gevaarlijke situaties kunnen ontstaan.

Kaart 9: De Vergetene

Wanneer jij jouw gebruikersbasis inbeeld, wie is er dan buitengesloten? Als zij jouw product gebruikte, hoe zou hen ervaring eruitzien? Wiens perspectief mist in de ontwikkeling van het product? Doe alsof het tegenovergestelde van de aannames over jouw gebruikersbasis waar zijn, hoe veranderd dat jouw product?

Het AI-overzicht is niet handig voor mensen die niet weten wat het is. Die zullen verward zijn over wat het AI-overzicht is. Het perspectief mist van mensen die niet weten wat AI is. Leuk zo’n overzicht, maar waar komt het nou vandaan? De aanname is natuurlijk dat iedereen inmiddels weet wat AI is en wat het allemaal kan. Maar voor iedereen die in de war is over dat overzicht, zou er een uitleg bij moeten krijgen.

Kaart 10: De Sirene

Hoe zou jouw product “te veel” gebruiken eruit zien? Hoe promoot jouw product zijn gebruikers om betrokken te zijn en hoe promoot het juist het tegenovergestelde? Hoe respecteert het product mensen hun grenzen en andere delen van hun leven? In welke situaties kan het product afleidend of ongepast zijn?

Te veel gebruik zal zorgen voor gemakzuchtigheid. Het promoot laagdrempelige kennis over onbekende onderwerpen maar zorgt ervoor dat je niet connect met de materie, omdat je de bronnen niet direct leest. Het AI-overzicht respecteert mensen hun grenzen en andere delen van hun levens door niet alles in zijn overzicht te zetten. Je krijgt zelden een AI-overzicht over een persoon te zien. Tijdens schoolopdrachten kan het gebruik van het AI-overzicht afleidend en ongepast zijn. Ook bij onderzoeken.

Kaart 11: De Hulphond

Als jouw product zich volledig zou richten op het helpen van mensen in groepen die niet veel geholpen worden, wat voor impact zou je dan kunnen maken? Wie kan buiten jouw directe gebruikers het meeste voordeel krijgen uit jouw product? Hoe zou jouw product veranderen om deze groep beter te helpen?

Laaggeletterde mensen zouden via het AI-overzicht informatie makkelijker kunnen vinden, doordat zij zelf niet door de moeilijke artikelen hoeven te gaan. Daarnaast kunnen familie en vrienden van laaggeletterde mensen de tekst van het AI-overzicht gebruiken om hen dingen uit te leggen. Het AI-overzicht kan misschien uitleg geven bij moeilijke woorden om deze groep verder te helpen.

Kaart 12: De Radioster

Wie of wat verdwijnt als jouw product succesvol wordt? Wie verliest zijn baan? Welke andere producten of diensten worden vervangen? Welke industrieën, instituties of regelgevingen worden aangetast?

Sites met goede korte samenvattingen verdwijnen, want die heeft AI toch al. Schrijvers van die sites verliezen hun baan. Grote online blogs en nieuwsbladen worden aangetast door deze verandering. Niemand komt echt op hun site terecht.

Kaart 13: Het Schandaal

Wat is de ergste krantenkop die jij jou kan bedenken over jouw product? Wat  van jouw business model zouden gebruikers zorgwekkend vinden? In welke scenario’s zou jouw product mensen in gevaar kunnen brengen of pijn kunnen doen? Als jouw product volledig werd gebruikt om het tegenovergestelde te doen dan waarvoor het was gemaakt, hoe zou dat eruitzien?

De ergste krantenkop zou zijn: “99% van het AI-overzicht is onbetrouwbaar”. Gebruikers zouden het zorgwekkend vinden als ze erachter kwamen hoeveel data de AI opneemt, mogelijk zonder toestemming. Het ergste zou zijn als iemand door de foute informatie op het AI-overzicht iets doet wat niet mag of wat gevaarlijk is. Het AI-overzicht is er om informatie te verspreiden. Als die het tegenovergestelde zou doen, zou het juist informatie weghouden van mensen. Misschien zou dat kunnen gebeuren doordat het gevuld is met niet kloppende informatie.