Komunikaty PR

Sztuczna inteligencja pomoże radiologom. Ale czy jesteśmy gotowi na jej pomyłki?

2019-05-20  |  10:09
Biuro prasowe

Postęp, jaki nastąpił w dziedzinie przetwarzania obrazów z wykorzystaniem technologii uczenia maszynowego (ang. machine learning) wzbudza ogromny podziw. Wystarczy choćby pobieżnie przejrzeć medialne newsy, by trafić na nagłówki o sztucznej inteligencji, która generuje twarze nieistniejących osób lub tworzy animacje na podstawie tylko jednego zdjęcia. Doniesienia ze środowiska medycznego napawają jednak mniejszym optymizmem, pisze Anton Dolgikh, Head of AI w DataArt.

Autorzy artykułów na temat przetwarzania obrazów medycznych wielokrotnie zaznaczają, że w ostatnich latach liczba badań radiologicznych przypadających na jednego pacjenta znacznie wzrosła, a tym samym zwiększyła się odpowiedzialność ciążąca na radiologach. W zaistniałej sytuacji z pomocą mogą nam przyjść czujni i nieomylni asystenci. Ale czy jesteśmy gotowi na komputerowych radiologów? Co więcej, czy jesteśmy przygotowani na ich pomyłki?

Niezaprzeczalnym faktem jest, że nawał pracy, z jakim muszą się zmagać radiolodzy jest coraz większy. A im więcej pracy, tym większe prawdopodobieństwo popełnienia błędu – czy jeden człowiek jest w stanie przeanalizować kilkaset zdjęć podczas jednej zmiany? Zawód radiologa nie jest dla osób, które łatwo się poddają. Żeby wyszkolić dobrego fachowca potrzeba kilkunastu lat kształcenia po ukończeniu szkoły średniej i być może kolejne tyle, żeby stać się w tej dziedzinie ekspertem. Samo wyszkolenie większej liczby radiologów nie jest rozwiązaniem pozwalającym ograniczyć popełniane przez nich błędy.

W tym kontekście zastosowanie sztucznej inteligencji może stanowić ważną alternatywę. Jej wyraźną zaletą jest to, że nie mają dla niej znaczenia pora dnia ani liczba pacjentów, jak również nie są jej potrzebne przerwy w pracy. Dodatkowo, tak samo jak radiolodzy, systemy te stale się uczą na podstawie nowych przypadków.

Tyle teoria. A w praktyce…

Niestety, długa lista korzyści nie zapobiega wszystkim czyhającym niebezpieczeństwom. Pierwszym z nich jest sprawdzenie automatycznej radiologii w warunkach klinicznych. W jaki sposób można sprawdzić taki system? Mamy ogromne doświadczenie w opracowywaniu systemów do podejmowania decyzji w elektrowniach jądrowych lub samolotach. Ale zasadnicza różnica między samolotem a człowiekiem polega na tym, że w dalszym ciągu w bardzo niewielkim stopniu poznaliśmy mechanizmy odpowiadające za funkcje życiowe, podczas gdy samolot podlega prawom fizyki, które opanowaliśmy całkiem nieźle.

W medycynie nie istnieje czarna skrzynka, która magicznie rozwiązuje problemy. Oprócz samego rozwiązania, należy również zrozumieć sposób, w jaki je uzyskaliśmy. Potrzeba ta doprowadziła do powstania terminu “wytłumaczalna sztuczna inteligencja” (z ang. explainable AI) w odniesieniu do AI w medycynie.  

Trudno zrozumieć logikę, która rządzi mechanizmami sterującymi przetwarzaniem obrazów – a więc sieciami neuronowymi. Można jedynie przewidzieć ich zachowanie. Ale czy możemy stwierdzić, ile obrazów potrzeba, aby nauczyć daną sieć neuronową działania z określoną dokładnością? Odpowiedź brzmi: nie. Na to pytanie możemy znaleźć odpowiedź wyłącznie empirycznie. Z kolei czy możemy określić w jaki sposób jakość zbioru danych może wpłynąć na zdolność przewidywania sieci neuronowych? Tak. Wiemy o tym, że zbiór danych należy oznaczyć z wyjątkową precyzją i właśnie dlatego w zbiorach danych medycznych zawierających obrazy nowotworów muszą znaleźć się wyniki biopsji. Ale w sytuacji, gdy zdania radiologów pokrywają się ze sobą w jedynie 60 procentach przypadków, w jaki sposób stworzyć niezawodny system oznaczania obrazów służący do nauki sztucznej inteligencji?

Według podziału zaproponowanego przez Kima i Mansfielda możemy zidentyfikować 12 rodzajów błędów popełnianych przez radiologów. Większość z nich dotyczy błędów poznawczych, które są nierozerwalnie związane z ludzką naturą. A co z powszechnymi brakami w stanie wiedzy? Skuteczność sztucznej inteligencji zależy od jakości danych. Może sobie również nie poradzić przy analizowaniu rzadkich przypadków, których nie obejmowały zbiory danych szkoleniowych.

Wykorzystanie systemów do podejmowania decyzji prowadzi do tendencyjności poznawczej, co z kolei pociąga za sobą dwa typy błędów: błąd działania i błąd pominięcia. Może się zdarzyć, że lekarz radiolog przy podejmowaniu decyzji będzie kierował się podpowiedzią systemu wbrew własnej wiedzy i doświadczeniu. Z drugiej strony błędna decyzja lekarza może wynikać ze zignorowania przez niego informacji przygotowanej przez maszynę. Czy pacjent przyjąłby z pokorą pomyłkę radiologa, wiedząc, że jest ona wynikiem działania sztucznej inteligencji? Czy w ten sposób ograniczylibyśmy prawdopodobieństwo roszczeń zgłaszanych z tytułu błędów lekarskich? Radiolodzy mają prawo do zmęczenia i działania pod wpływem emocji, podczas gdy – zgodnie z przekonaniem każdego laika – sztuczna inteligencja jest pozbawiona takich słabostek przy rozpoznawaniu przypadków medycznych.

Ale czy nadzwyczajne możliwości oferowane przez sztuczną inteligencję nie sprawią, że pacjenci będą jeszcze mniej wyrozumiali dla popełnianych przez nią błędów? Ważnym jest, aby wykształcić u pacjentów zdolność nieco bardziej realistycznego pojmowania sztucznej inteligencji stosowanej w radiologii i pomóc im w większym stopniu zrozumieć popełniane przez nią błędy. Jeśli tylko komputerowi radiolodzy mają jakąkolwiek przyszłość, opracowanie przejrzystego i wyczerpującego materiału szkoleniowego może pomóc w zwiększeniu wskaźnika akceptacji błędów popełnianych w radiologii przez sztuczną inteligencję.

Aby sztuczna inteligencja mogła funkcjonować na takim samym poziomie, jak radiolodzy, branża medyczna potrzebuje wizjonera – osoby lub firmy, która będzie w stanie pokazać, w jaki sposób sprawnie zastosować sztuczną inteligencję w procesach radiologicznych, jak uniknąć pułapek wynikających z błędów poznawczych i jak utorować w praktyce klinicznej drogę dalszemu postępowi w dziedzinie przetwarzania obrazów.

A co najważniejsze, nie wolno nam w żadnym wypadku zapominać o tym, że przetwarzanie obrazów medycznych nie jest ani częścią dziedziny nauki o danych (z ang. data science), ani uczenia maszynowego - to po prostu medycyna.

Anton Dolgikh, AI consultant in Healthcare and Life Sciences, DataArt

Newseria nie ponosi odpowiedzialności za treści oraz inne materiały (np. infografiki, zdjęcia) przekazywane w „Biurze Prasowym”, których autorami są zarejestrowani użytkownicy tacy jak agencje PR, firmy czy instytucje państwowe.
Ostatnio dodane
komunikaty PR z wybranej przez Ciebie kategorii
Medycyna Dwa leki podane razem efektywniej niszczą komórki nowotworowe Biuro prasowe
2020-09-18 | 12:00

Dwa leki podane razem efektywniej niszczą komórki nowotworowe

Naukowcy z Narodowego Instytutu Leków i Uniwersytetu Warszawskiego odkryli, że jednoczesne podanie dwóch substancji organicznych stosowanych w terapiach onkologicznych skutkuje
Medycyna Nowość w klasie Etisoft Personal Protection: mini przyłbica
2020-09-17 | 11:00

Nowość w klasie Etisoft Personal Protection: mini przyłbica

Mini przyłbica to doskonała alternatywa dla maseczek lub pełnych przyłbic. Stanowi duże ułatwienie dla pracowników gastronomii, zakładów fryzjerskich, lecz także osób,
Medycyna Nowoczesna technologia w walce z koronawirusem
2020-09-15 | 15:19

Nowoczesna technologia w walce z koronawirusem

Nowoczesna technologia chroniąca przed koronawirusem wkracza do Polski. Jej efektem są pierwsze na świecie samoodkażające się maseczki. Ich wyjątkowość polega na tym, że wykorzystana do

Więcej ważnych informacji

Jedynka Newserii

Jedynka Newserii

Telekomunikacja

Rząd zmienia ustawę o cyberbezpieczeństwie. Zdaniem ekspertów może to negatywnie wpłynąć na wdrażanie w Polsce sieci 5G

Projekt zmian w ustawie o Krajowym Systemie Cyberbezpieczeństwa wprowadza duże zmiany w sektorze telekomunikacyjnym i będzie mieć istotny wpływ na wdrażanie w Polsce sieci 5G. Zawarte w nich przepisy budzą wątpliwości rynkowych graczy, którzy wskazują na luki i niezgodność z innymi aktami prawnymi. Kontrowersyjny jest także tryb procedowania projektu. Trafił on do publicznych konsultacji 8 września, a na przesyłanie opinii resort cyfryzacji dał stowarzyszeniom branżowym, przedsiębiorcom i instytutom naukowym tylko 14 dni. Termin ekspresowych konsultacji upływa na początku przyszłego tygodnia. Eksperci zauważają, że termin powinien być przynajmniej dwukrotnie dłuższy.

Jak korzystać z materiałów Newserii?

Ważne informacje dla dziennikarzy i mediów

Wszystkie materiały publikowane w serwisach agencji informacyjnej Newseria przeznaczone są do bezpłatnej dystrybucji poprzez serwisy internetowe, stacje radiowe i telewizje, wydawców prasy oraz aplikacje pełniące funkcję agregatorów newsów. 

Szczegóły dotyczące warunków współpracy znajdują się tutaj.

Internet

Polskie miasta stają się coraz bardziej smart. Inteligentne ławki ładują telefony energią słoneczną, a wiaty autobusowe zdalnie zarządzają rozkładami jazdy

Rosną inwestycje w zieloną energię. Na świecie powstały już np. statek z solarnymi żaglami, fotowoltaiczna autostrada, a nawet owadobójcza lampa z panelem fotowoltaicznym. Także miasta stawiają na energię słoneczną. W Los Angeles już ponad połowa infrastruktury miejskiej jest zasilana słońcem, począwszy od parkomatów po oświetlenie drogowe. Podobnie może być także w Polsce. Polska firma oferuje inteligentne solarne ławki generujące energię, którą można wykorzystać do zasilania smartfonów czy tabletów. Rocznie jedna ławka może doładować nawet 15 tys. telefonów.

 

Medycyna

Coraz więcej polskich patentów związanych z ochroną przed koronawirusem. W Urzędzie Patentowym RP już ok. 100 zgłoszeń dotyczy COVID-19

Od rozpoczęcia pandemii liczba zgłoszeń wynalazków w Urzędzie Patentowym wzrosła o ponad 5 proc. – Obecnie ponad 100 jest bezpośrednio związanych z ochroną przed COVID-19 – mówi Edyta Demby-Siwek, prezes Urzędu Patentowego RP. W Polsce pojawiły się już np. urządzenia dezynfekujące, które samoistnie i pod ciśnieniem rozpylają mgiełkę, od razu pokrywającą całą powierzchnię dłoni. Powstały też bramy dezynfekujące oparte na działaniu światła UVC czy namiot barierowy.