– Sztuczna inteligencja musi być kontrolowalna i wyjaśnialna, jeśli ma zrobić rewolucję w medycynie. Lekarz wspierający się jej sugestiami, powinien rozumieć, skąd się one wzięły – uważają naukowcy z Politechniki Warszawskiej, którzy wybierają się na prestiżową konferencję naukową w ICLR Singapurze (24–26.04). Opowiedzą tam o podejściu do obszaru wyjaśnialnej AI, które zastosowali w swoim narzędziu Xlungs pomagającym diagnozować choroby płuc.

Konferencja naukowa International Conference on Learning Representations (ICLR) to jedno z najważniejszych na świecie spotkań naukowców i ekspertów z obszaru uczenia maszynowego, sztucznej inteligencji i uczenia głębokiego (deep learning).

Xlungs – polska AI, która wspiera analizę badań tomografii komputerowej klatki piersiowej

Zagadnienia, których dotyczy praca polskich naukowców, nie są wyłącznie przedmiotem akademickiej dyskusji. Zespół badawczy MI².AI z Wydziału Matematyki i Nauk Informacyjnych Politechniki Warszawskiej, przedstawiane rozwiązanie stosuje już we własnym projekcie Xlungs. Dzięki współpracy z Polską Grupą Raka Płuca naukowcy wykorzystali 40 tys. obrazów tomografii komputerowej płuc do tworzenia modelu sztucznej inteligencji, który będzie mógł wspierać lekarzy w szybszym i skuteczniejszym diagnozowaniu chorób. Narzędzie to można zintegrować z już wykorzystywanymi w leczeniu systemami, gdyż współpracuje z powszechnie przyjętymi standardami dokumentacji medycznej.

W swojej pracy zatytułowanej „Rethinking Visual Counterfactual Explanations Through Region Constraint” (Przedefiniowanie wizualnych wyjaśnień kontrfaktycznych poprzez regionalne ograniczenie), która zostanie zaprezentowana w Singapurze, zespół badaczy z Politechniki Warszawskiej wprowadza nowatorską metodę, która pozwala lepiej zrozumieć, jak sztuczna inteligencja podejmuje decyzje podczas analizy obrazów. Zamiast generować ogólne sugestie dotyczące całego obrazu, jak to ma miejsce w tradycyjnych wyjaśnieniach kontrfaktycznych, ich metoda koncentruje się na wybranych fragmentach obrazu.

Dzięki temu lekarze mogą łatwiej zrozumieć, które konkretne zmiany w analizowanym obrazie wpłynęłyby na inną decyzję modelu AI. To podejście może być szczególnie pomocne w medycynie, gdzie precyzyjna interpretacja obrazów ma kluczowe znaczenie dla postawienia diagnozy.

Dlaczego wyjaśnialna AI jest potrzebna w medycynie?

– W praktyce podczas analizy danych pacjentów może dochodzić do sytuacji, w których to model zobaczy na obrazie z tomografii komputerowej klatki piersiowej potencjalnie groźną zmianę i sygnalizuje to. Wówczas osoba prowadząca badanie powinna mieć dostęp do informacji, co naprowadziło sztuczną inteligencję do takiego wniosku – wyjaśnia prof. Przemysław Biecek, kierownik projektu i lider zespołu MI2.AI oraz współautor pracy zakwalifikowanej n konfernecję ICLR.

Tego właśnie dotyczy zagadnienie wyjaśnialności (Explainable AI – XAI), które przeciwstawiane jest koncepcji modelu sztucznej inteligencji jako czarnej skrzynki, z której otrzymujemy gotowe rozwiązanie, ale nie wiemy, za pomocą jakiego wnioskowania AI do niego doszła i czy przypadkiem nie jest ono błędne.

Coraz więcej krajów wymaga, aby narzędzia AI, które wspierają decyzje diagnostów były transparentne. W Unii Europejskiej wymóg wyjaśnialności wprowadził AI Act, który wszedł w życie na początku tego roku. Modele AI stosowane w medycynie mogą zostać uznane za systemy wysokiego ryzyka, więc wymaga się od nich wyjaśnialności.

– Wyjaśnialność AI jest szczególnie ważna w medycynie, gdzie interpretacja zdjęcia z tomografii komputerowej decyduje o rodzaju zalecanej terapii. Lekarze, ale także ich pacjenci potrzebują przekonania, że mogą polegać na narzędziach, które wykorzystują do wspierania diagnozy i rozumieją, jak one dochodzą do danych wniosków. Lekarz nie zaufa czarnej skrzynce. Musi mieć możliwość zweryfikowania, czy taka sugestia ma sens – zauważa dr hab. inż. Marcin Luckner, kierownik prac deweloperskich w projekcie Xlungs.

Xlungs to projekt naukowy wykorzystujący sztuczną inteligencję do monitorowania i analizy zmian chorobowych w klatce piersiowej. Jego zadaniem jest wspieranie lekarzy – głównie pulmonologów i radiologów – przy analizie badań tomografii komputerowej. Rozwiązanie opracował zespół naukowców z Politechniki Warszawskiej, weryfikując dane wspólnie z radiologami zatrudnionymi w projekcie. Stworzyli oni unikalny model sztucznej inteligencji, który wydobywa kluczowe informacje z historycznych obrazów CT, automatyzuje proces opisywania wyników i skraca czas ich analizy. Projekt jest finansowany przez Narodowe Centrum Badań i Rozwoju w ramach programu INFOSTRATEG I.

MI².AI to zespół badawczy zajmujący się data science i uczeniem maszynowym. Tworzą go pracownicy naukowi i doktoranci dwóch wiodących wydziałów matematyki i informatyki w Polsce: MIM Uniwersytetu Warszawskiego i MiNI Politechniki Warszawskiej. Zajmuje się prowadzeniem badań naukowych z dziedziny sztucznej inteligencji jak również praktycznym zastosowaniem ich efektów oraz popularyzacją wiedzy z obszaru swojej ekspertyzy.

Artykuł AI która tłumaczy swoje decyzje – podejście polskich naukowców do analizy obrazów płuc docenione za granicą pochodzi z serwisu Świat Lekarza.

Narzędzie, które odwzoruje kluczowe cechy ludzkich organów po to, aby można było nad nimi pracować w laboratorium, planują stworzyć laureatki grantu na prototyp, badaczki z Politechniki Warszawskiej.

– Badaczki proponują narzędzie, które pozwoli uzyskać taki stopień zaawansowania badań in vitro, którego nie można osiągnąć przy stosowaniu obecnie znanych metod hodowli komórkowych. Projekt nosi nazwę CellSphereMultiFlow – informuje uczelnia na swojej stronie.

Naukowczynie uważają, że dzięki ich pomysłowi będzie można w większym stopniu prawidłowo oceniać rzeczywistą odpowiedź organizmu na lek. Ich narzędzie mogłoby umożliwić taką ocenę poza organizmem ludzkim w warunkach laboratoryjnych. Wiąże się to ze zmniejszeniem kosztów badań przedklinicznych, liczby wykorzystywanych odczynników oraz ograniczeniem badań prowadzonych na zwierzętach.

Narzędzie CellSphereMultiFlow zostanie wykonane z materiału nadającego się do produkcji na większą skalę. W projekcie powstanie pełna technologia jego wytwarzania obejmująca opis kolejnych kroków, w tym wymaganych procesów poprodukcyjnych.

– Do produkcji narzędzi CellSphereMultiFlow stosujemy metodę miękkiej litografii. Technologia ta jest sprawdzona i powtarzalna, nie wliczając czynnika ludzkiego, jednak jest trudna do zastosowania w skali produkcyjnej. Z tego względu pracujemy nad inną technologią oraz doborem odpowiednich materiałów – polimerów, które pozwolą na szybszą i efektywniejszą produkcję narzędzi. Prowadzone badania posłużą przyszłemu wdrożeniu i komercjalizacji – wyjaśnia cytowana w komunikacie dr inż. Agnieszka Żuchowska z Wydziału Chemicznego PW, kierowniczka projektu i pomysłodawczyni geometrii narzędzia.

Przy projekcie pracują również dr inż. Patrycja Baranowska i dr hab. inż. Elżbieta Jastrzębska, prof. PW. Dr Żuchowska odpowiada za przeprowadzenie badań biologicznych, dr Baranowska za dopracowanie technologii produkcji, a zadaniem prof. Jastrzębskiej jest przeprowadzenie badań biozgodności materiałów z normami.

Zespół planuje uzyskać wstępne analizy będące krokiem do uzyskania certyfikacji materiału, z którego zostanie wytworzone narzędzie CellSphereMultiFlow, co umożliwi jego zastosowanie w badaniach biologicznych. Badaczki przeprowadzą m.in. analizy przepuszczalności dla gazów, określą wartość i rodzaj przepływów oraz żywotności komórek. Na projekt otrzymały 150 tys. złotych ze środków programu „Inicjatywa doskonałości – uczelnia badawcza”. (PAP)

Nauka w Polsce
kol/ bar/

Artykuł Powstaje narzędzie do odwzorowania ludzkich organów pochodzi z serwisu Świat Lekarza.

System xLungs ma pomóc w diagnostyce chorób płuc, w tym monitorowaniu nowotworów w obrębie klatki piersiowej. Naukowcy z Politechniki Warszawskiej pracują nad wykorzystaniem AI do analizy wyników tomografii komputerowej i rentgena płuc.

Narzędzie będzie można zintegrować z systemami już wykorzystywanymi przez lekarzy, m.in. pulmonologów i radiologów.

NAJWIĘKSZA NA ŚWIECIE BAZA BADAŃ TOMOGRAFICZNYCH KLATKI PIERSIOWEJ

Jak informuje uczelnia na stronie internetowej, naukowcy z Wydziału Matematyki i Nauk Informacyjnych PW wykorzystują możliwości sztucznej inteligencji, aby ułatwić proces interpretacji badań tomografii komputerowej (TK), która bywa wyzwaniem nawet dla doświadczonych radiologów i dostępnych algorytmów.

Projektem „Godna zaufania sztuczna inteligencja wspierająca identyfikację zmian chorobowych w płucach na bazie danych obrazowych” kieruje lider zespołu MI2.AI prof. Przemysław Biecek. Multidyscyplinarny zespół ekspertów składa się za specjalistów od inżynierii oprogramowania, sztucznej inteligencji, wyjaśnialnego uczenia maszynowego, wizualizacji danych czy radiologii. Naukowcy współpracują z Polską Grupą Raka Płuca oraz Dziecięcym Szpitalem Klinicznym w Warszawie.

„Trenowanie modeli AI to gigantyczne wyzwanie, nie tylko organizacyjne, ale też inżynierskie. Dane mają olbrzymią objętość – w postaci spakowanej 40 TB. Do wytrenowania modelu potrzebna jest olbrzymia moc obliczeniowa” – mówi prof. Przemysław Biecek cytowany w komunikacie PW.

Kierownik projektu badawczego uściśla, że dotąd wykorzystano ponad 180 tysięcy godzin prac zaawansowanych procesów obliczeniowych typu karty A100, pojedyncze badanie to trójwymiarowa macierz o wymiarach 500x500x300 pikseli. Zaznacza, że skala przedsięwzięcia jest unikalna.

„Opracowywany zbiór danych PLIST będzie największą publicznie dostępną bazą danych badań CT klatki piersiowej na świecie. Pierwsza wersja modeli została już opracowana i przetestowana, obecnie szukamy kolejnych partnerów medycznych do współpracy nad testowaniem, wdrażaniem i dalszym rozwojem systemu” – zapowiada prof. Biecek.

JAK AI POMOŻE W DIAGNOZIE RAKA PŁUC

Jak wyjaśniają naukowcy, w diagnostyce chorób płuc kluczową rolę pełnią badania obrazowe. W analizie danych opisowych, towarzyszących badaniom tomografii komputerowej klatki piersiowej, pomocne są również modele językowe, takie jak m.in. GPT. Potrafią one wyciągać uporządkowane informacje z dostępnych historycznych opisów badań TK. Takie informacje można następnie wykorzystać w trenowaniu modeli rozpoznających określone zmiany chorobowe, np. w postaci guza czy rozedmy.

Integracja modeli dla wizji komputerowej z modelami tekstowymi pozwala zautomatyzować proces ręcznego opisywania wyników. Dzięki interfejsowi użytkownika lekarz radiolog będzie mógł prowadzić konwersację z modułem sztucznej inteligencji.

Moduł ten skróci czas analizy obrazu potrzebny do wykrycia zmian i uczyni proces oceny obrazu bardziej przejrzystym. System został opracowany tak, aby umożliwić rozbudowę modelu bazowego o moduły wykrywające szeroką gamę cech. Moduł AI dostarczy także wyjaśnień obrazowych i tekstowych, które pozwolą na prześledzenie ścieżki decyzyjnej stojącej za konkretną diagnozą, a także zostanie zweryfikowany pod kątem efektywnej współpracy z radiologiem.

OTWARTA DROGA DO PRAKTYKI KLINICZNEJ

W porozumieniu z lekarzami zostały opracowane trzy unikalne zbiory danych, które będą udostępnione też innym zespołom badawczym pracującym nad modelami dla diagnostyki chorób klatki piersiowej.

Projekt xLungs finansuje Narodowe Centrum Badań i Rozwoju w ramach konkursu INFOSTRATEG I. Na początku lipca Komitet Sterujący NCBR pozytywnie ocenił wysiłki naukowców z PW, w związku z czym mogą oni przejść do wdrożenia projektu badawczego. Prace potrwają do końca czerwca 2025 roku.

„Projekt Infostrateg pozwolił na powołanie unikalnego, bardzo różnorodnego zespołu badawczego. Mamy czołowych ekspertów w zakresie radiologii i pulmonologii, którzy doradzają nam od strony medycznej. Mamy świetnych inżynierów oprogramowania, którzy rozwijają narzędzia informatyczne, modelarzy tworzących modele SI oraz specjalistów od wyjaśniania modeli, którzy dbają o to, by model nie uczył się błędnych zależności. Wyniki prac tego zespołu przedstawiane są na czołowych konferencjach informatycznych takich jak ECCV, ECAI, MICCAI. Na obecnym etapie planujemy jak najbardziej zbliżyć te opracowane innowacyjne modele do praktyki klinicznej” – podsumowuje prof. Biecek. (PAP)

Karolina Duszczyk
kol/ bar/
Źródło: naukawpolsce.pl

Artykuł Sztuczna inteligencja wesprze lekarzy w badaniach płuc pochodzi z serwisu Świat Lekarza.