Het aantal apps en AI-chatbots voor mentale ondersteuning groeit snel, maar lang niet alle digitale hulpmiddelen zijn ontwikkeld voor klinische geestelijke gezondheidszorg. Dat roept vragen op over de veiligheid, effectiviteit en bescherming van gevoelige persoonsgegevens. Om zowel gebruikers als ontwikkelaars meer houvast te bieden, heeft APA Labs, onderdeel van de American Psychological Association (APA), het Digital Badge Program gelanceerd. Dit beoordelingsprogramma helpt ontwikkelaars hun toepassingen te verbeteren en maakt voor gebruikers inzichtelijk hoe betrouwbaar een mentale zorgapp is.
Volgens APA Labs spelen digitale toepassingen een steeds grotere rol in de geestelijke gezondheidszorg. Juist daarom is het belangrijk dat deze technologieën voldoen aan duidelijke kwaliteits- en veiligheidseisen. Het nieuwe programma moet ontwikkelaars ondersteunen bij het ontwikkelen van betrouwbare en verantwoord inzetbare digitale zorgoplossingen.
Concrete verbeterpunten
Een belangrijk kenmerk van het Digital Badge Program is dat de beoordeling niet alleen gericht is op certificering, maar ook op kwaliteitsverbetering. Tijdens een eerste evaluatie worden mentale zorgapps beoordeeld op verschillende domeinen, waaronder regelgeving en veiligheid, gegevensbescherming en privacy, en gebruiksvriendelijkheid en toegankelijkheid.
Na deze beoordeling ontvangen ontwikkelaars een uitgebreide analyse waarin precies wordt aangegeven hoe hun applicatie scoort en waar verbeteringen mogelijk zijn. Daarbij kan het bijvoorbeeld gaan om verborgen risico's in open-source AI-modellen, tekortkomingen in de bescherming van persoonsgegevens of andere technische en organisatorische aandachtspunten.
Op basis van deze feedback kunnen ontwikkelaars hun applicatie aanpassen voordat een definitieve beoordeling plaatsvindt. Toepassingen die voldoen aan de criteria ontvangen vervolgens een bronzen, zilveren of gouden Digital Badge en worden opgenomen in de openbaar toegankelijke Digital Badge Solutions Library. Volgens Tanya Carlson, managing director van APA Labs, staat samenwerking met ontwikkelaars centraal. "Our goal is to have the best possible products. We are supportive of them taking our feedback, improving the product, and then earning that higher badge."
Wetenschap en ethiek als uitgangspunt
Met het keurmerk wil APA Labs een duidelijk onderscheid maken tussen digitale toepassingen die verantwoord zijn ontwikkeld en apps waarvan de kwaliteit minder goed is onderbouwd. Nu steeds meer mensen AI-systemen gebruiken voor mentale ondersteuning, moet het programma ontwikkelaars stimuleren om technologie vanaf het begin volgens wetenschappelijke inzichten en ethische principes te ontwikkelen.
Daarnaast wil APA Labs bestaande kennislacunes bij ontwikkelaars verkleinen door heldere verwachtingen te formuleren over de verantwoorde inzet van kunstmatige intelligentie binnen de geestelijke gezondheidszorg. Volgens Carlson biedt technologie grote kansen om hardnekkige knelpunten in de toegankelijkheid van de geestelijke gezondheidszorg aan te pakken. "We have a tremendous opportunity to leverage technology to address some of the persistent barriers to care," zegt zij. "Leading with science and leading with the expectation of ethical implementation will allow us to ensure that these tools are built in the right way."
Met het Digital Badge Program hoopt APA Labs bij te dragen aan een transparantere markt voor digitale mentale zorg, waarin zowel gebruikers als ontwikkelaars beter kunnen beoordelen welke toepassingen veilig, betrouwbaar en klinisch verantwoord zijn.
Ggzappwijzer
In 2021 schreven we over de Ggzappwijzer, een initiatief van de Nederlandse ggz en MIND, biedt onafhankelijke informatie over de kwaliteit van meer dan vijftig apps voor mentale gezondheid. De website helpt zowel zorgverleners als cliënten bij het kiezen van betrouwbare digitale hulpmiddelen door apps te beoordelen op meer dan honderd criteria, waaronder veiligheid, privacy, gebruiksvriendelijkheid, wetenschappelijke onderbouwing en betrokkenheid van ggz-professionals bij de ontwikkeling. De geselecteerde apps variëren van toepassingen voor ontspanning en slaap tot ondersteuning bij angstklachten en dagstructuur.
De beoordelingen zijn gebaseerd op analyses van het Britse beoordelingsplatform Orcha, aangevuld met de ervaringen van Nederlandse zorgprofessionals en ervaringsdeskundigen. Volgens de initiatiefnemers ondersteunt Ggzappwijzer de groeiende inzet van e-health in de ggz en helpt het gebruikers om in het grote aanbod van mentale gezondheidsapps verantwoorde keuzes te maken, zowel voor preventie als tijdens behandeling en herstel.
