DMTS landsmøde 2021 AI skal kunne forklares Professor Ole Hejlesen fortalte på landsmødet om, hvordan AI-baseret beslutningsstøtte kan forbedre behandlingen af blandt andet KOL-patienter. Vel at mærke på en transparent måde, så man kan se, hvordan systemet når frem til de konkrete anbefalinger. Af Søren Bang Hansen Et gammelt ordsprog siger, at hvis det ikke kan forklares, kan det ikke for- svares. Det gælder også kunstig intel- ligens - især inden for sundhedsvæsenet, hvor forkerte konklusioner kan få fatale konsekvenser. Derfor har AAU-professor Ole Hejlesen i årevis arbejdet på et opgør med såkaldt »black box AI«, hvor man ikke kan se, hvad der foregår inde i den »sorte kasse« mellem input og output. Herunder hvad der måtte blive begået af fejl derinde i mørket. Som eksempel på, hvor galt det kan gå, fortæller han om et ældre AI-system, der tilsyneladende var fantastisk effektivt til at skelne mellem ondartede og godartede modermærker. Stor var begejstringen - indtil det viste sig, at alle de ondartede modermærker var fotograferet på overlæ- gens kontor med grønne vægge. - Der var et lille grønligt skær i de bille- der, hvor modermærket var ondartet. Det var et rent tilfælde, at det blev opdaget. Den slags fejl vil ske igen og igen, hvis ikke man bruger explainable AI, pointe- rer Ole Hejlesen. Hjælper KOL-patienter I Aalborg anvendes de transparente AI-modeller i behandlingen af KOL- patienter. Patienternes data proppes ind i en prædiktionsalgoritme, som skal for- udsige, om der vil ske en forværring af patientens tilstand de næste dage - og på den baggrund give input til den kliniske beslutning, om der skal gives medicin eller ej. Udfordringen er, at der altid vil være nogle, som er fejlklassificerede. Ole Hej- Ole Hejlesen åbner låget til »den sorte boks« - så vi kan kigge den kunstige intelligens over skulderen. (Foto: Haslefoto.dk). lesen illustrerer problemet med en gra- fik, hvor de medicinkrævende patienter (røde krydser) fortrinsvis ligger øverst til venstre, mens resten (grønne cirkler) samler sig nederst til højre. Når man forsøger at adskille de to grupper med en linje, vil der typisk være nogle inde mod midten, der havner på den forkerte side. 16 | December 2021 |
Download PDF fil
Se arkivet med udgivelser af Medicoteknik her
TechMedias mange andre fagblade kan læses her