Naukowcy z amerykańskiej uczelni publicznej Virginia Tech odkryli, że sztuczna inteligencja jest zawodna, jeśli chodzi o przewidywanie ewentualnej śmierci pacjenta. Badanie, które zostało opublikowane w czasopiśmie „Communications Medicine” ujawnia, że 66 proc. poważnych obrażeń w szpitalach pozostałoby niezauważonych, gdyby wdrożono obecnie istniejące modele AI.
AI nie potrafi przewidzieć pogorszenia stanu zdrowia
Szpitale coraz częściej korzystają z narzędzi wykorzystujących uczenie maszynowe. Według branżowego pisma „Health Affairs” aż 65 procent amerykańskich szpitali korzysta z modeli predykcyjnych wspomaganych przez sztuczną inteligencję, najczęściej w celu ustalenia przewidywania zmian stanu zdrowia hospitalizowanych pacjentów.
Czytaj więcej
Dwunożne 150-kilogramowe roboty napędzane sztuczna inteligencją mają odmienić opiekę nad osobami starszymi i chorymi. W Tokio zaprezentowano protot...
Naukowcy przyjrzeli się kilku modelom uczenia maszynowego powszechnie wymienianym w literaturze medycznej do stosowania w przewidywaniu pogorszenia stanu pacjentów i przekazali im publicznie dostępne zestawy danych na temat zdrowia i metryk pacjentów na oddziałach intensywnej terapii lub chorych na raka. Następnie badacze stworzyli przypadki testowe dla modeli, aby przewidzieć potencjalne problemy zdrowotne.
Modele przewidywania śmiertelności w szpitalu były w stanie rozpoznać średnio tylko 34 proc. przypadków - wynika z badania.
Z czym nie radziła sobie sztuczna inteligencja?
Badanie wykazało, że szpitalne modele przewidywania śmiertelności nie generowały alertów dotyczących niskiej częstości oddechów lub stanów hipoglikemii.
Po otrzymaniu przypadków testowych reprezentujących różne poziomy urazów, modele sieci neuronowych dawały niespójne prognozy ryzyka, przypisując wyższe ryzyko śmiertelności przypadkom umiarkowanych urazów, podczas gdy przypisywały nieproporcjonalnie niższe ryzyko ciężkim urazom.
Czytaj więcej
Czy w globalnym wyścigu AI, zdominowanym przez Chiny oraz USA, Stary Kontynent już zupełnie się nie liczy? Branża farmaceutyczna pokazuje, że jest...
Oprócz niedociągnięć w modelach prognozowania śmiertelności przez modele AI, badanie wykazało podobne problemy z reaktywnością pięcioletnich modeli prognozowania raka piersi i płuc.
Co dalej z AI w szpitalach?
Danfeng (Daphne) Yao, autorka badania i profesor informatyki na Virginia Tech podkreśla, że skoro pozwalamy AI podejmować decyzje, to musimy być pewni, że działają one tak jak powinny, opierając się na danych i skutecznie przewidując losy pacjentów na szpitalnych oddziałach. Badanie pokazuje, że „samo szkolenie oparte wyłącznie na danych nie jest wystarczające”.
— Prognozy są cenne tylko wtedy, gdy mogą dokładnie rozpoznawać krytyczne stany pacjenta. Muszą być w stanie identyfikować pacjentów z pogarszającym się stanem zdrowia i niezwłocznie powiadamiać lekarzy — powiedziała profesor. — Nasze badanie wykazało poważne niedociągnięcia w zakresie reakcji obecnych modeli uczenia maszynowego. Większość modeli, które oceniliśmy, nie potrafi rozpoznawać krytycznych zdarzeń zdrowotnych, co stanowi poważny problem — dodała Yao.
