China is nu een van ‘s werelds meest digitaal geavanceerde samenlevingen en is hard op weg om wereldleider te worden op het gebied van kunstmatige intelligentie. Ondanks het grote verschil in politieke systemen kan Europa veel leren van deze 'innovatietijger’, ook op het gebied van gezondheidszorg, zegt professor Genia Kostka, hoogleraar Chinese politiek aan de Freie Universität Berlin.
In het afgelopen decennium is China uitgegroeid tot een van de meest digitaal onderlegde samenlevingen. Welke belangrijke beleids-, culturele of institutionele factoren hebben deze digitale versnelling mogelijk gemaakt?
Er zijn veel factoren die de digitale transformatie van China aansturen, maar ik wil er drie belangrijke uitlichten.
Ten eerste is China een eenpartijstaat onder leiding van de Communistische Partij, die strategieën en plannen heeft ontwikkeld die expliciet gericht zijn op digitale groei. Men is ervan overtuigd dat digitalisering en innovatie essentieel zijn voor het verbeteren van de kwaliteit van de economische ontwikkeling.
Ten tweede heeft de regering niet alleen de nadruk gelegd op digitale ontwikkeling, maar ook op verspreiding. Het is niet voldoende om baanbrekend onderzoek te doen; technologie moet worden toegepast en op grote schaal worden gebruikt om tastbare voordelen op te leveren. Het land heeft enorme bedragen geïnvesteerd in 3G-, 4G- en 5G-technologieën, elektrische voertuigen en datacenters. Deze groei werd vaak gefinancierd met schulden, maar dat is noodzakelijk als je een voortrekkersrol wilt spelen op technologisch gebied.
En ten derde heeft China deze strategieën ondersteund met aanzienlijke financiering. Zo was er al in de jaren 2000 een middellange- en langetermijnplan voor wetenschappelijke en technologische ontwikkeling. Later kwam in 2015 de strategie Made in China 2025, waarin belangrijke hightechindustrieën werden geïdentificeerd en duidelijke doelstellingen voor industriële upgrading werden vastgesteld. Deze doelstellingen werden doorgegeven aan lokale overheden, waardoor afstemming op alle niveaus werd gewaarborgd.
Sindsdien hebben we meerdere initiatieven gezien: het AI-plan van 2017, de dual circulation-strategie en het laatste vijfjarenplan, waarin technologie een van de meest genoemde prioriteiten is.
Zoals u ziet, zijn duidelijke doelstellingen, concrete stimulansen en aanzienlijke financiële steun de ingrediënten van deze ongekende, snelle digitale transformatie.
De Chinese bevolking lijkt de digitalisering met verrassend veel vertrouwen en optimisme te hebben omarmd. Dit wordt deels gedreven door een politieke agenda, maar dat is niet het enige. Hoe valt deze hoge mate van publieke acceptatie van AI-technologieën en digitale innovatie te verklaren?
Er heerst inderdaad meer technologisch optimisme in China en in een groot deel van Azië. Dit kan deels politiek en cultureel zijn, maar het is ook pragmatisch. In mijn vergelijkend onderzoek naar technologieën zoals contacttraceringsapps, gezichtsherkenning en sociale kredietsystemen in China, de VS, het VK en Duitsland, ontdekte ik dat Chinese burgers zich weliswaar bewust zijn van de risico's – met name op het gebied van privacy – maar dat ze de voordelen benadrukken. Ze hechten waarde aan efficiëntie en gemak: bijvoorbeeld boodschappen betalen of pensioenen innen met gezichtsherkenning. De waargenomen voordelen wegen vaak zwaarder dan de potentiële risico's, wat experimenteren en acceptatie stimuleert.
Laten we eens nader ingaan op het vergelijkende onderzoek dat u hebt gedaan. Welke lessen kunnen Europese beleidsmakers trekken uit de ervaringen van China met het opbouwen van digitale infrastructuur en het verkrijgen van publieke acceptatie voor opkomende technologieën?
Een van de lessen is dat men niet bang hoeft te zijn voor een meer top-downbenadering bij het opbouwen van infrastructuur. Digitale transformatie vereist aanzienlijke overheidsinvesteringen, zelfs als dat betekent dat er schulden moeten worden aangegaan. China heeft precies dat gedaan.
De overheid heeft ook sterke prikkels gecreëerd voor zowel publieke als private actoren, van fiscale subsidies en belastingvoordelen tot financiering voor technologiebedrijven. Tegelijkertijd bleef zij toezicht houden door middel van regelgeving, om ervoor te zorgen dat particuliere bedrijven zich aan de nationale doelstellingen hielden.
Europa functioneert natuurlijk binnen een heel ander systeem, dus het kan het Chinese model niet rechtstreeks kopiëren. Maar Europa kan wel meer investeren in digitale infrastructuur en het debat over technologie in evenwicht brengen. Te vaak ligt de nadruk op risico's in plaats van op kansen, op regelgeving in plaats van op experimenten en implementatie. Vergeet niet dat er in China veel propaganda wordt gevoerd om de voordelen van technologie te promoten. Dat willen we in Europa niet, maar we kunnen wel de voordelen van digitale technologieën voor de samenleving promoten. Als mensen niet weten wat AI of blockchain is, is het geen wonder dat ze zich onzeker voelen. Een beter geïnformeerde en evenwichtige publieke dialoog over risico's en voordelen zou de acceptatie helpen vergroten.
Peking heeft duidelijk gemaakt dat het wereldwijd leiderschap wil verwerven op het gebied van AI. Hoe dicht is China bij het bereiken van dat doel en hoe verschilt zijn strategie van die van de VS en Europa?
China maakt snel een inhaalslag, hoewel het leiderschap afhangt van de technologieën waarnaar je kijkt. De VS hebben nog steeds een voorsprong op het gebied van grensverleggend onderzoek, maar China maakt snel vorderingen, met name op het gebied van verspreiding en toepassing.
Het Amerikaanse exportverbod op geavanceerde chips heeft China voor een uitdaging gesteld, maar Peking heeft hierop gereageerd door fors te investeren in de ontwikkeling van binnenlandse chips. Hoewel de Chinese grote taalmodellen nog niet op hetzelfde niveau staan als de Amerikaanse, dichten ze de kloof en zijn veel ervan open source.
Sommigen beweren dat het toekomstige leiderschap op het gebied van AI minder zal afhangen van wie de volgende doorbraak bereikt, en meer van wie een bredere verspreiding realiseert. Vanuit dat perspectief biedt de brede acceptatie van AI in China langetermijnvoordelen. In werkelijkheid lopen zowel de VS als China op verschillende manieren voorop, ook al zijn sommigen, waaronder Jensen Huang, CEO van NVIDIA, van mening dat China de race aan het winnen is.
U hebt ook onderzocht hoe digitale technologieën worden geïntegreerd in het lokale bestuur in China. Wat hebt u ontdekt?
We hebben duizenden digitale initiatieven op lokaal niveau geanalyseerd. Elke lokale overheid exploiteert nu digitale platforms voor administratieve diensten, van autoregistratie tot huwelijksvergunningen, zodat burgers zelden persoonlijk naar kantoren hoeven te gaan.
AI en digitale tools worden ook gebruikt in milieubeheer, verkeersmonitoring en burgerparticipatie. Burgers kunnen bijvoorbeeld via een app melding maken van vervuilde rivieren en andere problemen. In Peking is er een digitale hotline, 12345, waar inwoners klachten kunnen indienen, hun zorgen kunnen uiten of alles kunnen delen waar ze ontevreden over zijn. AI filtert deze berichten op urgentie en burgers krijgen antwoord. Er zijn digitale identiteitskaarten en gezichtsherkenningssystemen om de samenleving te monitoren. Digitalisering is nu in bijna elk beleidsterrein ingebed.
Tijdens de COVID-19-pandemie heeft China snel digitale hulpmiddelen ingezet, zoals apps voor social distancing. Hoe wordt AI vandaag de dag gebruikt om uitdagingen in de gezondheidszorg aan te pakken, zoals een tekort aan artsen, een vergrijzende bevolking en toegang tot medische diensten op het platteland?
U noemde zojuist drie belangrijke uitdagingen waar China ook mee te maken heeft: een vergrijzende samenleving, een tekort aan talent en onderontwikkelde gezondheidszorg op het platteland. Daarom experimenteert het land met AI om de gezondheidszorg te verbeteren, onder meer door de diagnostische capaciteit te vergroten, triage te automatiseren en klinische beslissingen te ondersteunen.
Zo werkte de Tsinghua-universiteit samen met een ziekenhuis in Peking om een “agent hospital”-systeem te ontwikkelen met digitale opnames, diagnostiek en mobiele verpleegposten. Een ander voorbeeld is Ping An, een van de grootste verzekeringsmaatschappijen van China, die een AI-medische avatar heeft gelanceerd die 24/7 consulten aanbiedt. Volgens de meest recente gegevens heeft de Ping An Good Doctor-app al meer dan 400 miljoen geregistreerde gebruikers.
Een ander voorbeeld is een AI-ondersteund echodiagnostisch systeem dat in meer dan 100 zorginstellingen is geïmplementeerd. Er is ook een systeem voor digitale opnames in de ziekenhuizen en “mobiele verpleegposten” die verpleegkundigen in contact brengen met thuispatiënten. Deze projecten schalen snel op zodra ze effectief zijn gebleken, maar ook omdat China geen strenge wetgeving heeft op het gebied van privacybescherming. Sinds 2021 is er een nieuwe wet op persoonsgegevens, de PIPL (Personal Information Protection Law of the People's Republic of China), die toestemming vereist voor het verzamelen van medische en biometrische gegevens. Maar de bureaucratische hindernissen zijn lager dan in Europa, waar naleving van de AVG experimenten vertraagt. Ten slotte is het veel gemakkelijker om een oplossing op te schalen in een bevolking van meer dan 1,4 miljard mensen dan in Europa. Het grootste land van Europa, Duitsland, heeft “slechts” 84 miljoen inwoners.
Zijn Chinese patiënten zich bewust van of bezorgd over algoritmische besluitvorming in de gezondheidszorg?
Er zijn discussies over algoritmische vooringenomenheid en ethiek, maar die zijn niet zo prominent aanwezig als in het Westen. Over het algemeen is het vertrouwen in de overheid en medische instellingen groter, dus is er minder weerstand.
Interessant is dat ouderen in China nu meer digitaal onderlegd zijn, deels omdat het gebruik van contacttraceringsapps tijdens de pandemie verplicht was. De overheid biedt trainingen aan en heeft “ouderenvriendelijke” app-versies ontworpen. Dit betekent dat proefprojecten op het gebied van digitale gezondheidszorg een bredere doelgroep kunnen bereiken dan in Europa. Over het algemeen blijven mensen vrij veel vertrouwen hebben in medische AI, ook al is hun begrip van hoe het werkt beperkt.
Uw laatste onderzoek richt zich op de emotionele relaties van mensen met AI-chatbots. Wat waren uw meest verrassende bevindingen?
Een opvallende bevinding is de mate waarin gebruikers emotioneel gehecht raken. In onze enquête in vier landen beschouwde 48% van de chatbotgebruikers chatbots als hun vrienden, en 35% zei dat ze ze misten na een paar dagen zonder gebruik.
Mensen waarderen het niet-oordelende karakter van chatbots. Ze kunnen vrijuit vragen stellen of hun gevoelens delen. Paradoxaal genoeg ervaren ze ook een gevoel van privacy, omdat ze zich veilig voelen om zich aan een machine toe te vertrouwen. Praten met chatbots biedt vaak emotionele steun.
Interessant is dat mensen met grotere sociale netwerken eerder gehecht raakten aan chatbots. We hadden het tegenovergestelde verwacht, namelijk dat eenzame mensen er meer op zouden vertrouwen. Maar het lijkt erop dat mensen die al sociaal actief zijn, via AI op zoek zijn naar extra interactie.
Dat is fascinerend. Het houdt ook verband met de gezondheidszorg. Veel onderzoeken tonen aan dat patiënten door AI gegenereerde antwoorden als empathischer ervaren dan die van artsen. Wat betekent dit volgens u voor onze toekomstige interacties met AI?
We moeten erkennen dat chatbots, in ieder geval op korte termijn, een aantal van dezelfde sociale functies kunnen vervullen als menselijke gesprekken. Mensen zien ze als veilige ruimtes waar zonder oordeel naar hen wordt geluisterd.
Maar we moeten ook rekening houden met de langetermijneffecten. Chatbots worden gemaakt door bedrijven die profiteren van gebruikersbetrokkenheid en die gebruikers kunnen manipuleren, al dan niet opzettelijk. In China wordt bepaalde inhoud gecensureerd. Vooringenomenheid en nauwkeurigheid zijn ook ernstige punten van zorg.
AI kan meningen vormen en zelfs de politiek beïnvloeden. Uit ons onderzoek blijkt dat gebruikers vaak de voorkeur geven aan chatbots die in hun eigen land zijn ontwikkeld, wat suggereert dat deze technologieën politiek gewicht in de schaal leggen. Regelgeving zal daarom van cruciaal belang zijn.
We hebben voorbeelden gezien, zoals de Replika-app, waarbij gebruikers emotioneel afhankelijk zijn geworden. Regelgeving lijkt inderdaad dringend noodzakelijk. Denkt u dat we kunnen leren van de aanpak van China?
Absoluut. China reguleert veel aspecten van AI al strenger, bijvoorbeeld door deepfakes die politici belachelijk maken te verbieden en online communicatie te controleren. Er valt veel te leren, zowel positief als negatief.
Omdat verspreiding en experimenten in China zo snel gaan, is het een geschikt proefterrein. Door deze ontwikkelingen te bestuderen, kunnen andere landen anticiperen op uitdagingen en fouten vermijden.
Je bent vaak in China geweest. Wat heeft de meeste indruk op je gemaakt wat betreft de digitalisering en het gebruik van AI?
De eerste indruk is dat technologie elk aspect van het leven beheerst. Maar als je vraagt naar de positieve kanten, dan is ik het meest onder de indruk van hoe diep de digitalisering in het dagelijks leven is doorgedrongen en hoe inclusief veel inspanningen zijn.
De overheid leidt ouderen actief op en ontwerpt technologieën die voor iedereen toegankelijk zijn.
Die inclusiviteit is opmerkelijk. Natuurlijk zijn er ook problemen: datalekken, onvoldoende aandacht voor privacy en andere risico's. Maar over het algemeen is de systematische inspanning om digitale hulpmiddelen voor iedereen toegankelijk te maken indrukwekkend.
