AI en (e-)leren: de ethische vraagstukken
Dat we met ChatGPT een blik vol AI-mogelijkheden opentrekken, is duidelijk. Ook al bestaan er al veel langer AI-toepassingen, ChatGPT zet nu toch de wereld – en dan vooral die van het onderwijs – op zijn kop. Naast de schijnbaar eindeloze mogelijkheden voor het onderwijs, rijzen er uiteraard ook grote vraagtekens op. Wie met data werkt, begeeft zich namelijk op glad ijs. Want is dat wel allemaal ethisch verantwoord? En hoe zit het met de – nog ontbrekende – bronvermelding bij AI?
AI, of Artificiële intelligentie, is de verzamelnaam voor algoritmes die, net als mensen, kunnen denken en bijleren. Daarvoor gebruiken ze data die digitaal voorhanden is: teksten, afbeeldingen, geluidsfragmenten, video… Alles kan. Tot voor kort was AI voor de meeste mensen nog sciencefiction, maar daar bracht ChatGPT verandering in.
AI en de datakwestie
AI heeft dus data nodig om te kunnen functioneren. En daar wringt al een eerste ethisch schoentje. Als je bijvoorbeeld data van je cursisten gebruikt voor AI-gebaseerde learning analytics, wie is daar dan de eigenaar van? De cursist, de docent, het opleidingscentrum? En mag je die data wel zomaar gebruiken?
Bij data denken we aan GDPR, en daarbij staat toestemming centraal. Dat klinkt vanzelfsprekend, maar het is bij AI een ethisch en juridisch kluwen. Mag je bijvoorbeeld de learning analytics van cursisten wel gebruiken om voorspellingen te doen?
Daarnaast is het nog de vraag hoe betrouwbaar de gebruikte data zijn. Niet alles wat je online vindt, is waar - laat staan betrouwbaar. AI legt nu bloot dat het internet wordt gedomineerd door info over en van westerse, witte mannen, wat de output biased kan maken. Daar moet je je als gebruiker wel bewust van zijn. Achter AI zit een berg data, maar achter die data zitten mensen. En niet al die mensen hebben goede bedoelingen. Kijk dus met argusogen naar die data: zit er discriminatie in? Kan het systeem racistisch worden? AI is heel technisch, maar moet zeker ook vanuit menswetenschappelijk perspectief bekeken worden.
De ethische valkuilen van AI
AI-tools kunnen het werk van cursisten en docenten verlichten, hen assisteren en ondersteunen. Het menselijke aspect, het menselijk contact ook, mogen we hierbij nooit uit het oog verliezen.
Zo was er een Engelse universiteit die een chatbot inzette om veelgestelde vragen te beantwoorden. Slim, want er moest geen administratief medewerker honderd keer op dezelfde vraag antwoorden. Dat is goed, zo lang het gaat over de openingsuren van de bieb of deadlines voor activiteiten. Maar met vragen over faalangst, mentale klachten en angstaanvallen wist de chatbot geen blijf, die wimpelde hij af. Dat kan een serieuze klap zijn voor de vraagsteller. Denk ook aan het recente nieuws over de man die uit het leven stapte nadat een chatbot hem had bevestigd dat dat een goed idee was. Dergelijke systemen moeten getraind worden om je door te verwijzen naar de juiste hulpverlening.
De verantwoordelijkheid om ethisch om te gaan met AI ligt bij verschillende instanties. Internationaal zal er een beleid moeten komen rond datagebruik, copyright, het gebrek aan diversiteit in de data. Maar onderwijsinstellingen zullen zelf moeten nadenken over hun plagiaatbeleid en blijven hameren op het belang van bronvermelding.
Bronvermelding: de zwarte vlek van AI?
AI-systemen met tekst geven voorlopig geen bronnen weer. AI is als een zwarte doos: niet simpel om te achterhalen van waar de gebruikte elementen komen en dus ook onmogelijk te achterhalen of er copyrightmateriaal is gebruikt. Ook vervelend voor plagiaatdetectiesoftware, trouwens.
Vraag je aan ChatGPT om bronnen aan de tekst toe te voegen, dan doet hij dat. Alleen: die bronnen zijn vormelijk correct, maar compleet uit de lucht gegrepen. Juridisch niets waard, dus.
Op termijn kan het niet anders dan dat er bronvermelding aan AI wordt toegevoegd, een goede zaak, ook voor het onderwijs. Al blijft het moeilijk. Gebruik je AI als enige bron, dan loop je belangrijke leerkansen mis: onderzoeks- en schrijfvaardigheden bijvoorbeeld. Een tekst die volledig door ChatGPT geschreven is, wordt als plagiaat beschouwd. Het begrip ‘derden’ hoeft dus niet enkel op menselijke derden te wijzen.
Ook al kan AI zeker een ‘menselijke’ tekst genereren, uiteindelijk valt hij toch door de mand. Voorlopig nog. Er zal vooral op vlak van creativiteit altijd iets niet pluis aanvoelen. En er zullen ook gewoon fouten in zitten. Er is voor AI een mooiere toekomst weggelegd als ondersteunende software. Zie het als de spellingcorrector: daarbij beslis je zelf wat je met de suggesties doet, omdat je weet dat die niet altijd klopt. Beschouw ChatGPT dus ook als de slimme tante die een tekst een laatste keer naleest en feedback geeft.
Goede sensibilisering over het gebruik van AI als ChatGPT is de eerste stap voor het onderwijs.
Iedereen dus terug naar mondelinge examens, of met pen en papier? Zo’n vaart loopt het niet, als docenten op hun hoede blijven en gesensibiliseerd en geïnformeerd worden. Het belangrijkste is om kritisch te zijn en blijven. Een vreemde passage in een opdracht? Dan moeten er ChatGPT-belletjes gaan rinkelen. Plagiaatdetectiesoftware ontwikkelt mee – AI zal AI onder controle houden.
Het is vooral belangrijk om als docent creatieve opdrachten te geven die de cursist verplichten kritisch en grondig na te denken en zijn of haar talenten te gebruiken. Toen Wikipedia online ging, stond de onderwijswereld ook op z’n kop – en dat viel al bij al nog mee, toch?
Bron: Podcast AI AI AI, met gast Leen Sevens, onderwijstechnoloog voor de groep humane wetenschappen aan de KU Leuven.
