AI zawiodła przy prognozowaniu stanu zdrowia. Zimny prysznic dla szpitali

Z czym nie radziła sobie sztuczna inteligencja?

Badanie wykazało, że szpitalne modele przewidywania śmiertelności nie generowały alertów dotyczących niskiej częstości oddechów lub stanów hipoglikemii.

Po otrzymaniu przypadków testowych reprezentujących różne poziomy urazów, modele sieci neuronowych dawały niespójne prognozy ryzyka, przypisując wyższe ryzyko śmiertelności przypadkom umiarkowanych urazów, podczas gdy przypisywały nieproporcjonalnie niższe ryzyko ciężkim urazom.

Czytaj więcej

Biznes Ludzie Startupy

Teraz to boty szukają leków. Wielka szansa dla Polski

Czy w globalnym wyścigu AI, zdominowanym przez Chiny oraz USA, Stary Kontynent już zupełnie się n...

Oprócz niedociągnięć w modelach prognozowania śmiertelności przez modele AI, badanie wykazało podobne problemy z reaktywnością pięcioletnich modeli prognozowania raka piersi i płuc.

Co dalej z AI w szpitalach?

Danfeng (Daphne) Yao, autorka badania i profesor informatyki na Virginia Tech podkreśla, że skoro pozwalamy AI podejmować decyzje, to musimy być pewni, że działają one tak jak powinny, opierając się na danych i skutecznie przewidując losy pacjentów na szpitalnych oddziałach. Badanie pokazuje, że „samo szkolenie oparte wyłącznie na danych nie jest wystarczające”.

— Prognozy są cenne tylko wtedy, gdy mogą dokładnie rozpoznawać krytyczne stany pacjenta. Muszą być w stanie identyfikować pacjentów z pogarszającym się stanem zdrowia i niezwłocznie powiadamiać lekarzy — powiedziała profesor. — Nasze badanie wykazało poważne niedociągnięcia w zakresie reakcji obecnych modeli uczenia maszynowego. Większość modeli, które oceniliśmy, nie potrafi rozpoznawać krytycznych zdarzeń zdrowotnych, co stanowi poważny problem — dodała Yao.