Na mijn artikels over levensgevaarlijke softwarebugs in auto’s had ik besloten een artikel te schrijven over levensgevaarlijke softwarebugs in medische apparatuur. Naast auto-/motorjournalist heb ik namelijk 34 jaar in de gezondheidszorg gewerkt waar ik door een tip van een oude bekende op het spoor kwam van softwareproblemen in alledaagse medische apparaten die zowel in ziekenhuizen, klinieken als de ambulante zorg gebruikt worden. Na het nodige speurwerk op het internet kwam ik erachter dat in de gezondheidszorg, net als in de auto-industrie, vele doden vallen en dat daar, buiten de Amerikaanse FDA (nvdr, Food and Drug Administration), gek genoeg geen enkele ruchtbaarheid aan wordt gegeven. Erger nog, het wordt niet eens gemeld bij de Inspectie voor Gezondheidszorg & Jeugd (IGJ – nvdr, onderdeel van het Nederlands ministerie voor Gezondheidszorg). Ik kwam er slechts achter door een chirurg die in de serie Topdokters van RTL te zien was.

De stille en ongrijpbare moordenaar

Die oude bekende had mij verteld dat hij een trolley met infuuspompen op de gang van een verpleegafdeling van het Leids Universitair Medisch Centrum (LUMC) had zien staan met daarop een briefje met de tekst, ‘Terug naar de fabrikant vanwege softwareproblemen’. Het bleef in mijn hoofd hangen en na mijn eerdere verhalen over gelijkaardige problemen in de auto-industrie besloot ik een artikel over medische apparaten te gaan schrijven. Gezien mijn ervaring binnen de gezondheidszorg is het ook nog eens een onderwerp dat in mijn straatje past.

Op het moment dat ik dit plan had opgevat, sprak ik – toeval bestaat niet – een chirurg van het LUMC die ik op de man af vroeg of hij wel eens een infuuspomp raar had zien doen zoals bijvoorbeeld in één keer de inhoud leegspuiten in een patiënt. De chirurg vertelde mij dat hij dat inderdaad een keer met eigen ogen had gezien en dat hij blij was dat er toen een onschuldig middel in het infuus zat. Als er namelijk kalium, dat wordt gebruikt bij patiënten met een hypokalaemie, in had gezeten, dan was die patiënt dood geweest, zei hij tegen mij.

Toen ik hem vroeg of hij daar melding van gemaakt, antwoordde hij dat hij het niet had gemeld bij het de directie van het Academisch Ziekenhuis, noch bij de IGJ. Ik zei niets maar vond het wel uitermate vreemd, want je bent als werknemer én werkgever altijd verplicht om een dergelijke calamiteit te melden. Zeker een chirurg zou dit toch moeten weten lijkt mij. Maar goed, mijn eerste stap in de wereld van softwarebugs in medische apparaten was gezet.

De eerste zoekopdracht die ik op het internet intypte voor dit artikel was ‘software bugs infusion pumps’. Tot m’n grote verbazing stuitte ik meteen op een artikel van de FDA waarin stond dat er meer dan 500 doden zijn gevallen door softwarebugs in infuuspompen. Dan moesten er toch zeker ook doden zijn gevallen in Europa? Want daar worden per slot van rekening de infuuspompen van deze Amerikaanse fabrikant massaal verkocht. Maar waarom lees ik daar dan nooit iets over?

Toen moest ik weer denken aan die chirurg die geen melding had gemaakt van die op hol geslagen infuuspomp. Als niemand in de gezondheidszorg dat doet, dan bestaat het probleem ook niet. Meteen dacht ik ook, ‘Als die chirurg dit niet heeft gemeld bij de directie van het ziekenhuis en de IGJ, wat heeft hij dan nog allemaal niet gemeld?’

Geschiedenis en aanpak van de medische softwarebug

De eerste fatale softwarebug in de geschiedenis van de gezondheidszorg die ik kon vinden was meteen een huiveringwekkende, want ze bleek voor veel patiënten fataal. Het ging om de Therac-25, een computergestuurd bestralingsapparaat voor de behandeling van kankerpatiënten dat door een ongelofelijk bizarre bug soms tot een wel honderd maal hogere stralingsdosis op een patiënt los liet. De honderd maal hogere stralingsdosis resulteerde in zeer ernstige en zichtbare brandwonden, waardoor ze snel werd ontdekt. Doordat steeds meer medische apparatuur door middel van software wordt gestuurd (de dosering van een infuuspomp werkte vroeger met tandwieltjes) is ook de kans op een bug sterk toegenomen en daarmee dus ook de kans om als patiënt aan de gevolgen daarvan te overlijden.

Laat veel van die softwarebugs nou net in apparatuur zitten waarvan je niet altijd kunt bewijzen dat de patiënt een natuurlijke dood is gestorven, dan wel is overleden ten gevolge van een bug (bijvoorbeeld een infuuspomp of een mobiel beademingsapparaat). In tegenstelling tot een vliegtuig hebben medische apparaten net als auto’s geen zwarte doos en kun je dus lastig bewijzen waaraan een patiënt precies is overleden. Om die reden is Julian M. Goldman, een Amerikaanse anesthesist, een bedrijf begonnen dat medische apparaten via een zogenaamde ‘OpenICE – medical device interoperability platform’ met elkaar verbindt.

Het mooie van deze technologie is dat het ‘open source’ is en dat het over ‘black box recording applications’ (dat wil zeggen: data logging) beschikt, waardoor je dus achteraf fouten op kunt sporen. Waarom gebeurt er op dit gebied niets in Europa? Ik vermoed omdat we in Europa geen overkoepelende organisatie zoals de FDA hebben. Er is daardoor zowel op nationaal als Europees niveau geen enkele impuls voor een dergelijk platform. De enige in Europa die ik op dit gebied serieus neem zijn de schrijvers van het wetenschappelijke artikel ‘Computer Bugs in Hospitals: A New Killer’: professors Martyn Thomas (Professor of Information Technology) en Harold Thimbleby (professor emeritus in geometrie) uit Engeland. Zij houden zich al decennia bezig met dit onderwerp maar zijn vooralsnog twee roependen in de woestijn.

Wat nu?

Na dit gelezen te hebben, kun je toch niet anders dan jezelf afvragen hoe het zo ver is kunnen komen. Misschien moet ik terug gaan naar de tijd dat de directeur nog in hetzelfde pand zat als de werknemers, iedereen van elkaar wist wat de ander deed en elektronica nog slechts schaars toegepast werd in medische apparatuur, auto’s en vliegtuigen. Toen was er bovendien nog sprake van echte betrokkenheid bij het product en waren een directeur (eigenaar van het bedrijf, doch opgewerkt vanaf de werkvloer) en een werknemer nog multidisciplinair. Bij huidige fabrikanten van medische apparatuur, auto’s en vliegtuigen (denk aan de problemen met de Boeing 737 MAX) zijn alle afdelingen opgesplitst en weet de designafdeling niet wat de software-ingenieurs doen, of de productievloer niet wat de testafdeling doet.

Als een product klaar is, moet het uitgebreid getest worden en juist daar zit ‘m vaak het probleem. Alles moet tegenwoordig sneller dan snel waardoor er vaak geen tijd of geld is voor testen. De ’turnover’ van een medisch apparaat of een nieuw automodel of vliegtuig is korter dan ooit. Ik weet zelf uit de praktijk hoe belangrijk met name het testen van software is. Toen ik op een IVF-kliniek werkte was er een nieuw computerprogramma in gebruik genomen zonder dat dit uitgebreid getest was. Dat kostte volgens de directie veel geld, heb ik later van een leidinggevende gehoord. In dat programma moesten de andere medisch analisten en ik onder andere opzoeken aan welke vrouw welk donorzaad was gekoppeld. Toen bleek dat het programma het verkeerde zaad aan een verkeerde vrouw had gekoppeld. En dat was maar één van de vele honderden vrouwen, dus hoe vaak was het nog mis gegaan? Niemand die het wist. Gelukkig hadden we het oude computerprogramma nog draaien zodat een catastrofe kon worden voorkomen.

Hier waren gelukkig geen mensenlevens (nou ja, hooguit werd een verkeerd mensje geboren) mee gemoeid maar in een auto- of vliegtuigfabriek, of een operatiekamer kan het niét uitgebreid testen van software wél fatale gevolgen hebben. Eén van de belangrijkste wijzigingen die multinationals door moeten voeren is dat ze geen psychopathische CEO’s meer aanstellen. Die zijn slechts uit op drie dingen en die zijn geld, macht en status. En dat ten koste van alles en iedereen. Ze hebben geen enkele empathie met hun werknemers, de geproduceerde producten of hun dagelijkse omgeving. Het wordt hoog tijd dat er weer menselijke mensen aan de top van deze grote bedrijven komen. Datzelfde geldt uiteraard ook voor de politiek.

Julian M. Goldman

De softwarebug