Programma

Nieuws

7 oktober 2017

Google’s AI-onderdeel DeepMind krijgt ethische commissie

DeepMind, het onderdeel dat binnen Google verantwoordelijk is voor kunstmatige intelligentie (AI), heeft de oprichting van een ethische commissie bekend gemaakt. De commissie heeft onder meer als doel het bewustzijn van de impact van AI op het maatschappelijk leven onder de aandacht te brengen.

Tags

Deel dit artikel

De zogeheten DeepMind Ethics and Society is geformeerd uit 24 DeepMind-werknemers en een zestal externe adviseur afkomstig van academische en charitatieve instellingen. De externe adviseurs zijn niet alleen belangrijk vanwege hun expertise, maar meer nog vanwege hun verschillende manieren van denken en hun visie, schrijft Sean Legassick, Co-lead, Ethics & Society, in een blogpost.

“We geloven in de ongelofelijke voordelen die AI de maatschappij kan brengen, maar alleen wanneer wordt voldaan aan de hoogste ethische standaarden. Technologie is niet waardeneutraal en technologen moeten de sociale en ethische verantwoordelijkheid van hun werk dragen”, zegt Legassick. De zes externe ‘Fellows’ worden door hem omschreven als ‘gerespecteerde en onafhankelijke denkers’.

Groei zorgt voor verantwoordelijkheid

De DeepMind Ethics and Society is overigens geen vervanging of verlengstuk van de AI Ehtics Board die DeepMind was beloofd nadat Google het bedrijf in 2014 overnam. De AI Ethics Board werd pas begin 2016 operationeel, maar onduidelijk bleef altijd welke rol de organisatie precies vervulde.

De DeepMind Ethics and Society verschilt tevens van het Independent Review Panel, een onafhankelijk orgaan dat specifieke onderdelen van DeepMind reviewt, in dit geval DeepMind Health, de unit binnen DeepMind die digitale oplossingen ontwikkelt om de patiëntzorg te verbeteren. Aan de basis van DeepMind Health staat Hark Health, dat in februari 2016 door Google werd ingelijfd.

Als onderdeel van het Alphabet-conglomeraat opereert DeepMind vrijwel zelfstandig en profiteert het bedrijf de laatste jaren van de toegenomen interesse in AI. Onlangs werd bekend dat het Britse DeepMind in het VK zijn investeringen in het aantrekken van gekwalificeerd personeel vorig jaar had verdriedubbeld.

DeepMind omstreden in VK

Er is DeepMind veel aan gelegen om zijn imago op het gebied van ethiek op te poetsen. Het bedrijf werkt in het VK nauw samen met de Britse gezondheidsdienst NHS waarvoor het oplossingen en diensten ontwikkeld.

Hiertoe behoort onder meer Streams, een app die gebruikt wordt door professionals in de gezondheidszorg. Het laat een alarm afgaan wanneer de vitale functies of de bloeddruk van een patiënt abnormaliteiten vertonen. Artsen kunnen dan snel ingrijpen voor het probleem escaleert. Tevens voert DeepMind voor de NHS grote projecten uit waarin AI een grote rol speelt.

De relatie tussen DeepMind en de NHS is niet geheel onomstreden. Onlangs nog schreef  Dame Fiona Caldicott, een hoge functionaris binnen de Britse zorgautoriteit National Data Guardian, dat DeepMind op basis van onjuiste rechtvaardiging toegang heeft gehad tot de medische dossiers van 1,6 miljoen Britse patiënten.

In maart van dit jaar stelde ook de  academische studie van de University of Cambridge vraagtekens bij de samenwerking tussen DeepMind en de NHS. Het onderzoek wees bijvoorbeeld uit dat DeepMind toegang heeft tot persoonlijke medische data waaronder bloedtests en diagnoses die terug gaan tot een periode van vijf jaar. De onderzoekers van de University of Cambridge concluderen dat de overeenkomst uit 2015 stoelde op een wankele basis zonder dat precies duidelijk was wat precies de kaders waren.

Tags

Deel dit artikel

Mis niks en ontvang de spannendste ontwikkelingen