Joeri Casteleyn is verontwaardigd over de manier waarop Smartschool aan de haal gaat met de gegevens van onze kinderen en begrijpt niet waarom niemand doet er wat aan doet. In een opiniebijdrage voor De Standaard reageert hij op het nieuws dat Smartschool artificiële intelligentie zal loslaten op de gegevens van de kinderen en op die manier leerproblemen en leerachterstand wil opsporen.
“Zo moet het dus gevoeld hebben, wakker worden in de voormalige DDR. Of rondlopen in 1984 van George Orwell. Iemand gaat aan de slag met de privédata van je kinderen, laat daar wat algoritmes op los op waar nooit een debat over werd gevoerd, en vervolgens geeft men je kind een label. En dat label krijgen jij en je kind niet noodzakelijk te zien, dat gaat naar ‘iemand’ van de school.”
“Niet alleen is dat een complete aanfluiting van elk recht op privacy, het toont ook aan hoe gevaarlijk het is om dit soort tools – en de opvoeding van onze kinderen – in handen te geven van dergelijke whizzkids. Voor hen zijn er data, data en data. En algoritmes om erop los te laten. En daar zal de wereld zoveel beter van worden. En de mens in dit verhaal? Die is een producent en ontvanger van data. Niet meer dan dat.”
Het stuit Casteleyn – en aan de reacties te merken, velen met hem – tegen de borst: een privébedrijf dat in het geheim aan de slag gaat met de gegevens van onze kinderen en daarbij elke vorm van inspraak achterwege laat. Neen, dan moet het anders. Met een tool waar de gegevens van onze kinderen in de toekomst veilig zijn. En waar de algoritmes – als die gebruikt worden – minstens onderhevig zijn aan maatschappelijk debat en overlegd worden met het brede onderwijsveld, met de ouders en met de leerlingen.
[…] ⏹ Lees ook “Beste Smartschool, je bent flagrant gebuisd” […]
Over het algemeen wel eens met de houding tov het initiatief van Smartschool. Ik vraag me af of er meer studenten die dreigen de boot te missen boven komen drijven dan een periodieke klassenraad?
Daarnaast ook wel de bedenking of je wel AI (zo’n brede term) moet gebruiken voor het opvolgen van 3 parameters. Is dat het voeden aan een online tool, of is het toepassen van lang bestaande en degelijke machine learning technieken?
Tenslotte: hoe wordt het gebruikt? Het is niet de bedoeling dat het determinerend is, maar eerder indicatief en ondersteunend voor bv. klassenraden. Ik wil geen toeslagenaffaire zien (zie Nederland) waar een algoritme de eindbeslissing bepaalt!
Er is inderdaad weinig AI te bespeuren in de plannen. Het lijkt meer op een goedkoop promopraatje voor Smartschool dan dat het effectief ook iets zal opleveren. Toch niet meer dan wat een beetje oplettende leerkracht en school ook al zou moeten oppikken.
Het zegt vooral veel over de mindset van dit soort bedrijven. Zoals de manier waarop ze met data omspringen, alsof ze zomaar naar eigen goeddunken over mogen beslissen waarvoor die worden ingezet. Of de idee dat een algoritme beter is in het duiden van gedrag dan een mens van vlees en bloed.
Maar vooral ook de vraag of dit wel de richting is waarin we willen evolueren. In de woorden van Bart Eeckhout in De Morgen: “Millimeter per millimeter verschuift de naald van de samenleving van vrijheid naar discipline.” Voor mij is dat niet de richting waarin ik wil gaan of de samenleving waarin ik wil leven.