“Ga in gesprek met je kinderen over de ethische en sociale normen voor kunstmatige intelligentie.” Dat is de conclusie van een onderzoek door kinderrechtenorganisatie KidsRights. AI oftewel zelfdenkende computers zijn een hot item met chatbots die je schoolwerkstukken kunnen maken en nog veel meer. Hoe denken kinderen daar eigenlijk over? Hoe moet je ze hierin digitaal opvoeden?
Hoe kinderen met anderen omgaan, hoe ze die vaardigheid ontwikkelen, dat wordt gebruikt als inspiratiebron voor het maken en verbeteren van mensgerichte AI (oftewel Kunstmatige of Artificiële Intelligentie). Kinderen worden alleen niet (of heel weinig) bij dit productontwikkelproces betrokken. En ook niet bij gesprekken over AI-systemen ‘in de maatschappij’.
Is het ethisch en sociaal om AI te gebruiken?
Toen ik opgroeide keken we Star Trek en was AI in de vorm van het karakter Data nog wel schattig en lief. De serie besprak door de dingen die dit karakter meemaakte de ethische kanten en morelen kanten van omgaan met kunstmatige intelligentie, ook de gevaren (denk aan The Borg) werden in beeld gebracht. Een recentere tv-serie die veel minder science fiction is, maar eigenlijk eng realistisch is Person of Interest. Waarbij het eigenlijk… compleet uit de hand loopt en helemaal misgaat, ondanks de in eerste instantie eerbare goede bedoelingen van het team van ‘crime fighters’.
Als we nu het nieuws over dit onderwerp volgen, gaat het vooral om bijzaken als twitter trollen, nepnieuws, werkstukken geschreven door een bot en of door AI samengestelde kunstwerken nu wel of geen inbreuk maken op de rechten van originele kunstenaars. De gevaarlijke (cybercrime) kant wordt meestal buiten beschouwing gelaten, hoewel *kuch, toeslagenaffaire* ook onze eigen overheid bepaalde mensen op basis van geprogrammeerde kenmerken in de problemen brengt waar ze door gebrek aan menselijke interventies niet meer uitkomen. Datahandel schijnt sowieso veel mensen te benadelen op basis van de gedragingen van bijvoorbeeld de vorige bewoner van jouw huis.
Internet kwam er pas toen ik eindexamen VWO deed, dus dit soort ’toestanden’ zijn recente ontwikkelingen en daarmee voor jongere mensen veel relevanter. Het DesignLab van de Universiteit Twente (in Enschede) en kinderrechtenorganisatie KidsRights (in Amsterdam) deden in Nederland uniek onderzoek naar dit onderwerp onder alleen kinderen en jongeren. Het doel hiervan? Ze wilden weten welke ethische (is het netjes en verantwoord?) en sociale waarden kinderen belangrijk vinden bij interacties met AI-systemen. Zowel nu als in de toekomst. Ze hopen kinderen zo meer bij de discussie te betrekken, want zij zijn diegenen die ermee te maken krijgen naarmate het verder ontwikkeld wordt.
Kinderen hebben een beter moreel kompas
Hoofdonderzoeker Karolina La Fors van DesignLab: “De ontwikkelingen op het gebied van AI gaan zo snel, dat we niet moeten vergeten ook naar de ethische beperkingen te kijken en wat het betekent voor kinderen. Kinderen dragen ethische standaarden aan waar volwassenen niet aan denken.” Wat ze hiermee bedoelt, is dat kinderen een sterker moreel kompas hebben en andere associaties: kinderen denken ‘out of the box’.
Voorzitter Marc Dullaert van KidsRights roept de Nederlandse overheid op kinderen en jongeren te betrekken bij het opstellen van ethische normen voor mensgerichte AI: “Nu lijkt alles wat technisch mogelijk is ons te overkomen, ook de schadelijke effecten. Kinderen en jongeren zijn hierbij uiterst kwetsbaar. We moeten ze daarom beschermen en betrekken en ons door hen laten inspireren. Met dit onderzoek lezen kinderen en jongeren de overheid de les.”
Nieuwe inzichten door onderzoek
Het onderzoek onder 374 kinderen in de leeftijd tussen de 4 en 16 jaar (de meeste kinderen waren tussen de 6 en 13 jaar) levert nieuwe, verrassend interessante inzichten op. Die zijn van groot belang voor de ontwikkeling van AI-systemen.
De onderzoekers vroegen de kinderen bijvoorbeeld naar positieve en negatieve ervaringen met AI-systemen in hun dagelijks leven. Denk aan het overnemen van diverse maatschappelijke rollen zoals een kassamedewerker of politie agent.
Op de vraag of kinderen geholpen willen worden door een robotverkoper in winkels antwoordt 55,3% van wel en 41% van niet. De meerderheid denkt dat robots hier beter presteren dan mensen.
Op de vraag of een politieagent een robot mag zijn is 54,8% tegen en 41,5% voor. De groep die tegen is denkt dat robotagenten hun veiligheid kunnen bedreigen.
Een robothuisarts vinden de meeste kinderen een slecht idee: 61,3%, ten opzichte van 35,3% die dat wel willen. “Ik zou me veiliger voelen bij een normaal mens als huisarts,” zegt een jongen van 11 jaar uit Dordrecht.
‘Kan een robot je vriendje zijn?’
Kinderen vinden menselijke eigenschappen en waarden belangrijk. Deze mogen niet verloren gaan door de ontwikkeling van AI-systemen. AI moet in dienst staan van de mens! Die menselijke check is belangrijk, zeker voor kinderen. Zo zien ze AI wel zitten als oplossing voor een maatschappelijk relevant probleem, bijvoorbeeld een robot die kinderen helpt met dyslexie. Maar een robot wordt niet als vriend gezien, met name door het gemis van menselijke geletterdheid, troost, humor en empathie.
“Als een robot gemaakt is om mijn vriend te zijn, zou hij alleen van mij leren. Hoe kan ik dan weten hoe ik anderen gelukkig maak of wat verdriet is? Hoe kan ik leren en mij aanpassen, als ik alleen van een robotvriend leer wat ik aan het doen ben?” aldus een meisje van 8 jaar uit Enschede.
Gedachten van kinderen vertaald in ethische en sociale waarden:
1. Menselijke geletterdheid – ‘Robots missen menselijke eigenschappen’
2. Emotionele intelligentie – ‘Robots hebben geen emoties’
3. Liefde en vriendelijkheid – ‘Robots geven geen liefde’
4. Authenticiteit – ‘Robots hebben geen eigen mening’
5. Menselijke zorg en bescherming – ‘Robots kunnen niet troosten’
6. Autonomie – ‘Robots mogen niet de wereld overnemen’
7. AI in dienstbaarheid – ‘Robots moeten mij helpen’
8. Uitbundigheid – ‘Robots moeten met mij kunnen spelen’
Een algemeen gesprek over dit onderwerp helpt
Daar waar veel kinderen (70,6%) voor het onderzoek de term AI niet kenden, wist uiteindelijk iedereen dat zij dagelijks met veel verschillende AI-systemen te maken hebben. Voorbeelden van slimme systemen waar kinderen AI in herkennen, zijn computers, smart tv’s, thermostaten, smartphones, slimme deurbellen en robotgrasmaaiers en -stofzuigers. Het tweede waar kinderen AI in herkennen of mee associëren zijn bepaalde merken, denk aan Google, Playstation, Youtube, TikTok, Netflix, Apple Watch, NS ov-chipkaart of de bestelzuil van de McDonald’s.
Dat zijn enkele resultaten uit het onderzoeksrapport AI-register van kinderen in Nederland: het bewustzijn, ethische en maatschappelijke waarden en ideeën van kinderen over AI-systemen. De onderzoekers vertellen wel dat er nog veel onduidelijk is over de gevolgen van AI-systemen op de ontwikkeling van kinderen. Een brede en vroegtijdige dialoog helpt hierbij, dus zo algemeen mogelijk het gesprek aan gaan.
Kinderen vragen wat ze al weten en wat hun ideeën zijn over AI, is cruciaal in de ontwikkeling naar meer mensgerichte AI-systemen én voor de discussie wat het betekent mensgericht te zijn. Zeker in een wereld waar technische ontwikkelingen als chatGPT, GPT Force en internet of things (iOT) al niet meer weg te denken zijn. Het complete rapport staat op: www.KidsRights.org
Hoe ga je thuis het gesprek aan?
Tja, en hoe ga je dan thuis het gesprek aan? Misschien goed om eens samen te bekijken welke slimme apparaten je in huis hebt? Zo hebben wij automatische gordijnen, een slim deurslot, streamingcastjes en smart tv’s, smartphones… best wat dingen, maar de lampen en wasmachine kan ik niet van een afstand bedienen. Een deurbel met camera staat ook nog op de wensenlijst.
Moet je aankloppen bij een klantenservice? Laat je kind meekijken wanneer je gefrustreerd raakt wegens een gesprek met een chatbot. En hoe is dat bijvoorbeeld voor een opa of oma die moeite hebben met de techniek? Wat is het gevolg van al die automatisering voor mensen met een visuele handicap of (zoals mijn kind bijvoorbeeld) dyslexie? Waar robots regeren, daalt de klantvriendelijkheid tot ver onder het vriespunt…
Of kijk samen een film of serie waarin dit onderwerp aan de orde komt en bespreek met je kind wat jullie hier nu eigenlijk van vinden. Wij waren vroeger in de ban van de Terminator, The Knight Rider en Transformers. Wat zijn anno 2023 mooie kijktips om met je kind het gesprek over kunstmatige intelligentie aan te gaan?
Ik vind het in ieder geval een interessant onderwerp, want de ontwikkelingen gaan op dit moment al regelmatig over het randje, is mijn idee. Denk aan de afperstelefoontjes waarin AI de stem van jouw dierbare nabootst, waar we nu door opgeschrikt worden.
Lees ook:
- Digitale opvoeding, hoe doe je dat?
- Spelen met je zelfgebouwde robot
- Coderen voor kinderen is hot!
- Zorgen om de online veiligheid van je kind?
- Les aan groep 6: over YouTubers en veilig online zijn
Wat vind jij? Hoe ga jij erover in gesprek met je kinderen?
