Google test medische AI-chatbot in ziekenhuizen

Google test medische AI-chatbot in ziekenhuizen

Vorig artikel Volgend artikel

Doktoren zijn er inmiddels wel aan gewend: patiënten die eerst googlen, zodat ze “goed geïnformeerd” naar het spreekuur gaan. Tegelijkertijd weten we ook dat wanneer we alleen al onze teen stoten we op het internet uit kunnen komen op ‘ik heb nog maar een week te leven’. Zeg tegen ChatGPT dat je hoofdpijn hebt en vraag wat het kan zijn, en ChatGPT zal beginnen met ‘Ik ben geen dokter, maar..’ en dan toch een antwoord geven. Of dokters daar heel blij mee zijn, dat moeten we nog maar zien. Tegelijkertijd blijken doktoren zelf ook AI-chatbots te gebruiken om te ondersteunen bij hun werk, zeker in de Mayo Clinic, waar Google een medische chatbot test.

ChatGPT medisch advies

Med-PaLM 2

Het gaat uiteraard niet om ChatGPT, want dat is ten eerste niet van Google en ten tweede niet medisch, maar Googles eigen Med-PaLM 2 wordt gebruikt om vragen over medische informatie te beantwoorden. The Wall Street Journal schrijft dat Google dat sinds april test bij de Mayo Clinic. PaLM 2 is voor Bard (Googles ChatGPT) de achterliggende taal en de speciale medische versie moet dus medici helpen bij het uitvoeren van hun werk. Of eigenlijk is het uiteindelijk allemaal om de patiënt te doen: zeker in landen waarin er minder toegang is tot medische professionals, zou zo’n chatbot soelaas moeten bieden.

Med-PaLM 2 is getraind op demo’s van medische experts en Google wil er vooral mee bereiken dat mensen medische vragen kunnen stellen aan de AI, zonder dat die van het ‘ik ben geen dokter’-niveau is dat we nu kennen. Echter heeft het nog wel een weg te gaan: in mei liet Google weten dat Med-PaLM 2 nog met allerlei kinderziektes te maken heeft. Aan de ene kant is dat geen ramp: dat is immers niet anders dan de rest, die het ook vaak bij het verkeerde einde heeft. Aan de andere kant is dat niet zo erg als je een gemiddelde vraag stelt, maar als het medisch wordt, dan spelen we met grotere risico’s. Google is er misschien daarom wat stil over.

'Niet voor mijn familie'

Tegelijkertijd zijn AI-chatbots voortdurend in ontwikkeling en leren ze steeds meer, waardoor ze op den duur beter zouden moeten worden. Wel is er nog een uitdaging op het gebied van privacy: voelen mensen zich wel oke met het idee dat een AI-chatbot persoonlijke dingen te horen krijgen? De data zou versleuteld zijn en Google zou er geen toegang toe hebben, maar dat zal niet iedereen vertrouwen, net als bij de Fitbit-overname. Med-PaLM 2 heeft nog een lange weg te gaan dus, op zowel het gebied van imago als kennis, al hangen die twee wel samen.

In ieder geval zegt WSJ dat Google-topman Greg Corrado meent dat hij niet zo zou willen dat Med-PaLM 2 op dit moment deel zou uitmaken van de gezondheidsadviezen van zijn eigen familie. Wel zou het een plek kunnen hebben in de gezondheidszorg op plekken waar extra hulp hard nodig is, stelt hij. Je kunt je afvragen wat hij daar precies mee bedoelt: als het immers niet goed genoeg is voor je eigen familie, dan voor niemand anders, toch? Hoewel: op plekken waar anders helemaal geen medische hulp is, kan iets toch beter zijn dan niets. Als dat iets tenminste zegt dat het geen antwoord kan geven wanneer hij het antwoord niet weet, in plaats van dat het toch met een advies geeft dat dan onzin blijkt te zijn, zoals we vaak zien bij ChatGPT.

Laura Jenny

Is ze niet aan het tikken, dan reist ze rond in de wondere wereld van entertainment of op een toffe plek in de echte wereld. Mario is de man van haar leven,...