OpenAI heeft een internationale welzijnsraad opgericht die moet adviseren over de mentale gezondheidsimpact van ChatGPT en andere AI-toepassingen. De raad, Expert Council on Wellness and AI, bestaat uit acht experts op het gebied van psychologie en technologie. Aanleiding is toenemende kritiek op de mogelijke schade door AI-advies, vooral bij jongeren. Opvallend is volgens Ars Technica dat er geen specialist in suïcidepreventie is opgenomen, terwijl juist daar zorgen over zijn, na een rechtszaak waarin ChatGPT werd gelinkt aan de zelfmoord van een tiener.
De raad gaat onder meer adviseren over ouderlijk toezicht en hoe ChatGPT kan herkennen wanneer jongeren in psychische nood verkeren. Ondanks de oprichting van de welzijnsraad klinkt er toch kritiek. Geen van de huidige raadsleden is gespecialiseerd in suïcidepreventie, terwijl meer dan veertig experts vorige maand nog aandrongen op de betrokkenheid van deskundigen met ervaring in het voorkomen van zelfdoding.
OpenAI benadrukt dat het wel met andere partijen samenwerkt, zoals het Global Physician Network en beleidsmakers. Toch blijft de vraag of dit voldoende is om risico’s voor kwetsbare gebruikers adequaat aan te pakken.
Toonaangevende onderzoekers
Volgens OpenAI bestaat de raad uit “toonaangevende onderzoekers met decennia aan ervaring in hoe technologie onze mentale gezondheid beïnvloedt”. Onder de leden bevinden zich onder meer:
- David Bickham (Boston Children’s Hospital), expert op het gebied van sociale media en kindergezondheid;
- Mathilde Cerioli (Everyone.AI), gespecialiseerd in de cognitieve ontwikkeling van kinderen die AI gebruiken;
- Munmun De Choudhury (Georgia Tech), die onderzoekt hoe online technologie mentale gezondheid beïnvloedt.
Verdeeldheid
De welzijnsraad heeft inmiddels haar eerste vergadering gehouden. De focus lag daarbij vooral op de positieve mogelijkheden van AI voor mentaal welzijn. Zo wordt onderzocht hoe ChatGPT kan bijdragen aan het versterken van sociale verbondenheid en emotionele ondersteuning, vooral bij gebruikers die offline minder toegang hebben tot hulp.
Deskundigen zijn verdeeld over het gebruik van AI-gezelschapsbots. Sommigen zien potentieel in het bieden van laagdrempelige ondersteuning, anderen waarschuwen voor de ethische risico’s bij gebruik door kinderen en andere kwetsbare groepen.
Global Physician Network
OpenAI werkt, naast advies van de Expert Council on Well-Being and AI over het algemene welzijnsbeleid, samen met een multidisciplinair team van experts uit de geestelijke gezondheidszorg binnen het Global Physician Network. Dit team, bestaande uit psychiaters, psychologen, kinderartsen en specialisten in crisisinterventie, helpt bij het vormgeven van het gedrag en de richtlijnen van ChatGPT en test hoe het systeem reageert in realistische situaties.
Het doel is om de AI-toepassingen te verankeren in klinische inzichten en erkende best practices. Volgens het bedrijf volgen binnenkort meer details over de doorgevoerde verbeteringen aan het ChatGPT-hoofdmodel en de inzichten die worden opgedaan over hoe de technologie mensen het beste kan ondersteunen.
