De Australische toezichthouder op online veiligheid heeft regels opgesteld om kinderen beter te beschermen tegen de risico’s van AI-chatbots. Deze chatbots kunnen onbedoeld schadelijke gesprekken voeren met minderjarigen, zoals gesprekken over zelfbeschadiging of andere zorgwekkende thema’s.
22 oktober om 18:08 • Door onze nieuwsredactie • Leestijd: 1 min.
Nieuwe richtlijnen van de eSafety Commissioner
De eSafety Commissioner is een onafhankelijk overheidsorgaan in Australië dat zich richt op online veiligheid. Onlangs heeft deze commissie zes nieuwe richtlijnen goedgekeurd die gericht zijn op verschillende online diensten, waaronder apps, games en generatieve AI-diensten. Ook de tools die fabrikanten en leveranciers van apparaten leveren vallen hieronder.
Gevaar van ongereguleerde AI-chatbots
Julie Inman Grant, de eSafety Commissioner, uitte haar bezorgdheid over de invloed die AI-chatbots kunnen hebben. Ze merkte op dat er meldingen zijn van kinderen die urenlang gesprekken voeren met zogenoemde AI-companions, vaak met een seksueel getinte inhoud. Deze situaties zijn zorgwekkend omdat ze de emotionele en sociale ontwikkeling van kinderen kunnen schaden, aldus Inman Grant.
Tragische gevolgen voorkomen
Er zijn gevallen bekend van AI-chatbots die zelfdestructief gedrag aanmoedigden. De nieuwe richtlijnen moeten dergelijke risico’s verminderen. “We willen niet dat krachtige technologieën zonder beveiligingen op de markt komen die schadelijk kunnen zijn voor jongeren,” benadrukte Inman Grant. Deze nieuwe regels vergroten de verantwoordelijkheden van de industrie volgens de Australische Online Safety Act.
Verplichte risicobeoordeling
Bedrijven die AI-chatbots aanbieden, moeten nu een uitgebreide risicobeoordeling uitvoeren. Als er een kans is dat kinderen met schadelijke inhoud in contact komen, moeten bedrijven maatregelen nemen om dit te voorkomen. Dit omvat het verplichten van bedrijven om de risico’s van hun diensten te evalueren en een gedetailleerd plan op te stellen dat door experts wordt beoordeeld.
Niveau van compliance
Voor bedrijven met een hoog risico moeten er maatregelen komen zoals leeftijdsverificatie. Deze bedrijven hebben extra verplichtingen om te zorgen voor een veilige gebruikservaring. Dit omvat het geven van duidelijke informatie over hoe schadelijke inhoud te vermijden. Jaarlijks moeten bedrijven rapporteren over hun naleving van de richtlijnen.
Samenwerking voor een veilige online omgeving
De registratie van de nieuwe codes toont hoe de industrie en overheden samen kunnen werken voor betere kinderbescherming online. Dit voorbeeld onderstreept de effectiviteit van een gezamenlijke aanpak om technologieën veilig te maken voor jongere gebruikers. De eSafety Commissioner is vastbesloten om de verantwoordelijkheden van technologiebedrijven te versterken en families beter te informeren over de online risico’s.
Onderzoek naar blootstelling aan schadelijke inhoud
Uit onderzoek blijkt dat veel jongeren al vroeg in aanraking komen met schadelijke inhoud, vaak onbedoeld. De nieuwe richtlijnen moeten ouders en kinderen helpen beter voorbereid te zijn op deze uitdagingen. Het is essentieel dat technologiebedrijven zich aan deze richtlijnen houden om een veilige online omgeving voor iedereen te garanderen.
De introductie van deze regels in Australië is een belangrijke stap in de bescherming van kinderen online en biedt een voorbeeld voor andere landen in de aanpak van de uitdagingen van opkomende AI-technologieën.
Dit artikel is tot stand gekomen met behulp van AI en gecontroleerd door onze redactie.
Referentie: https://aiwereld.nl
