De AI-chatbot van Reddit heeft controverse veroorzaakt door gebruikers het gevaarlijke advies te geven om heroïne en kratom te proberen voor pijnbestrijding. Dit incident benadrukt de risico’s van AI-systemen zonder toezicht en roept vragen op over de ethische verantwoordelijkheid in hun toepassing.
7 oktober om 09:11 • Door onze nieuwsredactie • Leestijd: 1 min.
Hoe gebeurde dit?
Het probleem ontstond toen een gebruiker op de mobiele app van Reddit een zorgwekkend advies tegenkwam op r/FamilyMedicine, een subreddit over medische onderwerpen. Hier stelde Reddit Answers, een AI-gestuurd systeem dat ontworpen is om automatisch relevante antwoorden te geven, een artikel voor met als titel “Approaches to pain management without opioids”. Deze aanbeveling suggereerde het gebruik van kratom en zelfs heroïne als opties, wat tot bezorgdheid leidde binnen de Reddit-gemeenschap.
Wat is kratom?
Kratom is een kruidenextract gemaakt van de bladeren van de Mitragyna speciosa-boom, die voornamelijk in Zuidoost-Azië groeit. Hoewel kratom niet als een gecontroleerde stof geldt volgens de Amerikaanse Drug Enforcement Administration (DEA), is het gebruik ervan in sommige Amerikaanse staten verboden. Het heeft een reputatie als alternatief geneesmiddel, maar gezondheidsinstanties zoals de Federal Drug Administration (FDA) waarschuwen tegen de risico’s, zoals levertoxiciteit en verslaving. Ook de Mayo Clinic beschouwt kratom als onveilig en ineffectief.
De bredere gevolgen van AI-adviezen
Dit voorval met Reddit’s AI toont een groter probleem aan met AI-systemen: ze kunnen adviezen geven die schadelijk zijn. Onderzoek van UC Berkeley legt bloot dat AI-chatbots soms raad geven die de waarden en gedragingen van gebruikers beïnvloeden. Hoewel veel AI-systemen doorgaans informatie geven die overeenkomt met de publieke opinie, kunnen individuele adviezen ronduit verkeerd en gevaarlijk zijn. Dit maakt duidelijk waarom toezicht op kunstmatige intelligentie noodzakelijk is, vooral bij medische adviezen.
Reddit’s juridische stappen tegen AI-bedrijven
N naast de problematische adviezen heeft Reddit juridische stappen ondernomen tegen bedrijven die AI gebruiken. In oktober diende Reddit een rechtszaak in tegen Perplexity AI en andere ondernemingen voor het zonder toestemming scrapen, dat wil zeggen automatisch gegevens verzamelen, van gebruikersinformatie voor commerciële doeleinden. Dit benadrukt het belang van juiste data-ethiek binnen AI-bedrijven.
Conclusie
De aanbeveling van de Reddit AI-chatbot om heroïne te proberen roept belangrijke vragen op over de governance van AI-systemen. AI-governance betekent regels en structuren die de werking en invloed van AI controleren. Het is essentieel dat er goed toezicht komt op hoe AI-toepassingen worden ingezet, zeker als het gaat om gevoelige onderwerpen zoals gezondheid. Dit incident benadrukt de noodzaak van verantwoordelijkheid en transparantie in het gebruik van AI, om te voorkomen dat gebruikers mogelijk gevaarlijk advies krijgen.
Dit artikel is tot stand gekomen met behulp van AI en gecontroleerd door onze redactie.
Referentie: https://drimble.nl
