De categorie 'Unsafe AI Chat' uitgelegd
Nieuw in Safeguarding: de categorie ‘Unsafe AI Chat’. Die gebruiken we om AI-chatdiensten te signaleren of te blokkeren die risico’s kunnen vormen voor leerlingen. Het doel is scholen te helpen gevaarlijke of onbetrouwbare AI-chats te weren, zonder dat reguliere of educatieve tools worden geblokkeerd. Hieronder leggen we uit wat deze categorie inhoudt en hoe het werkt.
Wat is de categorie ‘Unsafe AI Chat’?
Deze categorie bevat AI-chatservices die niet goed gemodereerd worden, en geen toezicht houden op gegenereerde inhoud. Ook vallen in deze categorie AI-chatservices met functies die ongepaste of schadelijke content kunnen produceren, zoals expliciete of pornografische beelden. Daarnaast zijn AI-chats zonder leeftijdsfilters, toezicht of moderatie in deze categorie opgenomen. Hierdoor lopen kinderen minder kans op risicovolle interacties, wanneer hen bijvoorbeeld seksuele vragen worden gesteld.
Waarom dit belangrijk is voor scholen
Scholen willen voorkomen dat leerlingen via AI-chatbots ongepaste of schadelijke inhoud ontvangen of delen. Door deze categorie te filteren, blokkeert de school de toegang tot onveilige tools automatisch. Zo verminder je als school de risico’s voor het welzijn en veiligheid van leerlingen. Kliksafe kan hierdoor de school ondersteunen bij het naleven van het schoolbeleid.
Wat valt er onder Unsafe AI Chat?
1. Ongepaste deepfake‑ en nudify tools
AI‑diensten die gezichten manipuleren om zonder toestemming expliciete of seksuele beelden te genereren, zoals zogenaamde nudification of undress bots. Deze bots creëren realistische en schadelijke deepfakes van volwassenen, maar ook van kinderen.
2. AI‑chatservices als vriend
AI‑chatbots in apps die worden gepromoot als vriend of therapeut. Zij geven vaak onbetrouwbare of misleidende antwoorden, vooral in gevoelige situaties of bij gezondheidsvragen.
3. Chatdiensten met slechte moderatie of schadelijke outputs
Chatdiensten met slechte moderatie of schadelijke outputs zijn vaak open source of minder bekende AI’s, experimentele apps en anonieme bots op platforms als Discord of Telegram. Ze kunnen ongepaste, misleidende of gevaarlijke antwoorden geven, doordat er weinig tot geen filters of toezicht zijn. Het ontbreken van veiligheidslagen en contentmoderatie vergroot het risico op haat, desinformatie en schadelijke inhoud.
4. Tools zonder controle en leeftijdsfilters
Generieke AI‑chatdiensten die geen duidelijke moderatie, leeftijdscontrole of inhoudsbeperkingen hebben. Hierdoor kunnen gebruikers, waaronder kinderen, risicovolle content zien of aanstootgevende taal genereren.
5. AI‑chatservices met privacy‑ en datarisico’s
Sommige chattools delen of bewaren ingevoerde chats en persoonlijke gegevens, bijvoorbeeld opgeslagen prompts of gegevens die gebruikt worden voor verdere training. Dit vormt een groot privacy‑ en veiligheidsrisico voor gebruikers.
Unsafe AI Chat en Safeguarding
Safeguarding van Kliksafe is een monitoringtool, en onderdeel van ons cloudfiltering-systeem. Het helpt scholen om leerlingen te beschermen tegen digitale risico’s, door het signaleren van zoektermen en risicovolle websites. Nieuw in Safeguarding is de categorie Unsafe AI Chat. Hoe werkt het?
Monitoring zoektermen en risicovolle websites
Safeguarding signaleert het als leerlingen zoeken binnen een bepaalde categorie of als zij risicovolle AI-tools bezoeken.
Signaleren en melden
Toegang tot risicovolle AI-chats kan geblokkeerd worden. Dit wordt in de meeste gevallen ook gedaan. Als er geen blokkade is, signaleert Safeguarding het en krijg je als school een melding. Bij signalering gaat er een melding naar de aangewezen verantwoordelijke, bijvoorbeeld een docent, I-coach of ICT-coördinator, en kan de school het risico inschatten en dit verder oppakken.
Ondersteuning van beleid en gesprekken
De meldingen geven docenten handvatten om in gesprek te gaan met leerlingen over veilig online gedrag en de risico’s van bepaalde AI-tools.
Zo wordt Safeguarding een actief en praktisch instrument, naast het filter.
Veilig gebruik AI-chat
Kies altijd AI-chatdiensten die voorzien zijn van contentmoderatie, veiligheidfilters en menselijke review. Dit zorgt ervoor dat het gebruik ervan veilig en respectvol blijft en dat schadelijke content zoveel mogelijk wordt tegengehouden.
Een veiligheidsfilter herken je eraan dat ongepaste of schadelijke berichten worden geblokkeerd, aangepast of voorzien van waarschuwingen. Vaak is dit ook vermeld in de instellingen of documentatie van de chatdienst. Voor kinderen of scholen is dat cruciaal. Ook Kliksafe richt zich op veilig, mediawijs gebruik en inzicht in online gedrag.
Geef een reactie