DeepMind en de NHS sloten in 2015 een overeenkomst met betrekking tot het delen van data. De samenwerking bleef niet geheel onomstreden omdat DeepMind volgens het contract verregaande toegang kreeg tot medische data van zo’n 1,6 miljoen Britse patiënten.
Caldicott stuurde haar observaties afgelopen februari in een brief aan Stephen Powis, de medisch directeur van London’s Royal Free Hospital Trust. Royal Free startte in 2015 in samenwerking met DeepMind de ontwikkeling van een app die artsen kan vertellen wanneer patiënten een risico lopen op nierfalen.
Een jaar later echter zette het wetenschappelijk magazine New Scientist vraagtekens bij de manier waarop DeepMind de data voor de ontwikkeling van de app had verzameld. Er zou met name onduidelijkheid zijn over op welke gronden patiënten werden overgehaald om hun data te delen. Volgens Royal Free en DeepMind gaven patiënten toestemming omdat hierdoor de behandeling zou verbeteren, een gegeven dat de wettelijke basis legt voor zogeheten ‘direct care’.
Mocht de uitkomst negatief voor Royal Free uitpakken, dan kan het ziekenhuis mogelijk sancties tegemoet zien. Ook zou opnieuw worden bekeken tot op welke hoogte ziekenhuizen zouden mogen samenwerken met technologiebedrijven. DeepMind laat weten niet in strijd met de wet- en regelgeving te hebben gehandeld en dat medische data niet is gebruikt voor commerciële doeleinden.
Afgelopen maart kwam er in een onderzoek ook al kritiek naar buiten op de relatie tussen Deepmind en de NHS. Google en de NHS lieten destijds in een gezamenlijke verklaring ook weten dat het onderzoek de werkwijze van de NHS met betrekking tot de verwerking van data verkeerd interpreteert.
Caldicott stuurde haar observaties afgelopen februari in een brief aan Stephen Powis, de medisch directeur van London’s Royal Free Hospital Trust. Royal Free startte in 2015 in samenwerking met DeepMind de ontwikkeling van een app die artsen kan vertellen wanneer patiënten een risico lopen op nierfalen.
Een jaar later echter zette het wetenschappelijk magazine New Scientist vraagtekens bij de manier waarop DeepMind de data voor de ontwikkeling van de app had verzameld. Er zou met name onduidelijkheid zijn over op welke gronden patiënten werden overgehaald om hun data te delen. Volgens Royal Free en DeepMind gaven patiënten toestemming omdat hierdoor de behandeling zou verbeteren, een gegeven dat de wettelijke basis legt voor zogeheten ‘direct care’.
Onderzoek naar handelen Royal Free, DeepMind
Caldicott stelt nu dat de verzamelde data niet zozeer werd gebruikt voor het verbeteren van de app in het belang van patiëntenzorg, maar eerder voor het technisch goed laten functioneren van de app. Hoewel de National Data Guardian geen regulerende macht heeft, heeft de organisatie zijn zorgen wel neergelegd bij de Information Commissioner's Office (ICO), dat op zijn beurt een onderzoek startte naar het handelen van Royal Free en DeepMind. Het onderzoek bevindt zich momenteel in de afrondende fase.Mocht de uitkomst negatief voor Royal Free uitpakken, dan kan het ziekenhuis mogelijk sancties tegemoet zien. Ook zou opnieuw worden bekeken tot op welke hoogte ziekenhuizen zouden mogen samenwerken met technologiebedrijven. DeepMind laat weten niet in strijd met de wet- en regelgeving te hebben gehandeld en dat medische data niet is gebruikt voor commerciële doeleinden.
Afgelopen maart kwam er in een onderzoek ook al kritiek naar buiten op de relatie tussen Deepmind en de NHS. Google en de NHS lieten destijds in een gezamenlijke verklaring ook weten dat het onderzoek de werkwijze van de NHS met betrekking tot de verwerking van data verkeerd interpreteert.
