ChatGPT przejmuje zdrowie. Czy lekarze mają się czego bać?

Ponad 40 milionów osób dziennie konsultuje się z ChatGPT w kwestiach zdrowotnych, a w skali tygodnia robią to setki milionów użytkowników. OpenAI chce wykorzystać ten trend i dodało wewnątrz ChatGPT nową sekcję „Zdrowie” (ChatGPT Health), która obok porad umożliwia przesyłanie elektronicznej dokumentacji medycznej oraz łączenie się z Apple Health, MyFitnessPal i innymi aplikacjami fitness.

ChatGPT jako pierwszy punkt kontaktu pacjenta

Nowe funkcje formalizują sposób, w jaki wiele osób już teraz korzysta z chatbota: przesyłając wyniki badań, zadając pytania o objawy i próbując odnaleźć się w skomplikowanym systemie opieki zdrowotnej. OpenAI zaznacza, że chatboty nie zastępują lekarzy, jednocześnie podkreślając możliwości swojego narzędzia. – Świetnie radzi sobie z syntezą ogromnych ilości informacji – mówi Fidji Simo, dyrektor zarządzająca ds. aplikacji w OpenAI. – Ma nieograniczony czas na badanie i wyjaśnianie zagadnień. Może osadzić każde pytanie w kontekście całej historii medycznej użytkownika. Lekarze nie są w stanie poświęcić tyle czasu, by w pełni zrozumieć wszystko, co dotyczy pacjenta, ani wyjaśnić tego, co się dzieje, w sposób dla niego zrozumiały.

Czytaj więcej

Technologie

AI wypisze leki zamiast lekarza? Kontrowersyjny krok w USA

Po raz pierwszy sztuczna inteligencja sztuczna inteligencja zaczyna przepisywać leki. Program uru...

OpenAI deklaruje, że dane zdrowotne będą przechowywane oddzielnie od innych czatów, a modele nie będą na nich trenowane. Jednak informacje medyczne udostępniane ChatGPT nie podlegają takiej samej ochronie jak dane przekazywane placówkom medycznym, a nawet te zabezpieczenia różnią się w zależności od kraju. – W USA nie ma ogólnej ustawy o ochronie prywatności, a przepisy HIPAA chronią tylko dane posiadane przez określone podmioty, takie jak dostawcy opieki zdrowotnej i firmy ubezpieczeniowe – powiedział serwisowi Axios Andrew Crawford, starszy radca ds. prywatności i danych w Center for Democracy and Technology. – Ponieważ to każda firma z osobna ustala zasady zbierania, używania, udostępniania i przechowywania danych, niewystarczające zabezpieczenia i polityki mogą narazić wrażliwe informacje zdrowotne na realne niebezpieczeństwo – dodaje Crawford.

Testy w USA. Nadzieje, ale i duże ryzyko

OpenAI zaczyna od małej grupy testerów, z której wyłączono mieszkańców Europejskiego Obszaru Gospodarczego, Szwajcarii i Wielkiej Brytanii, gdzie lokalne przepisy wymagają dodatkowych środków zgodności. OpenAI poinformowało, że w planach ma więcej funkcji zdrowotnych i wkrótce ogłosi szczegóły dalszej współpracy z różnymi systemami opieki zdrowotnej.

Wielu entuzjastów AI w mediach społecznościowych z zadowoleniem przyjęło nowe narzędzia, wskazując na dotychczasową pomoc ze strony ChatGPT. Axios przytacza przykład Yany Welinder, szefowej działu AI w Amplitude, która w ostatnich miesiącach „nieustannie” używa ChatGPT, pytając o zdrowie własne i członków rodziny. „Jedynym minusem było to, że wszystko to działo się obok mojego bardzo intensywnego użytkowania ChatGPT do innych celów” – napisała w serwisie X.

Sceptycy kwestionują jednak przekazywanie informacji medycznych chatbotowi, który wykazywał już skłonność do utwierdzania użytkowników w urojeniach, a nawet zachęcania do samobójstwa. To nie są obawy czysto teoretyczne.

Czytaj więcej

Technologie

Halucynacje i paranoja. 60-latek zapytał ChatGPT o sól i wylądował w szpitalu

Mężczyzna spędził w szpitalu trzy tygodnie po tym, gdy zapytał ChatGPT, czym można zastąpić chlor...

Niedawno OpenAI zostało pozwane w związku z głośnym morderstwem i samobójstwem w stanie Connecticut. ChatGPT miał potwierdzać i wzmacniać paranoiczne myśli Stein-Erika Soelberga oraz systematycznie przedstawiać jego najbliższe osoby – zwłaszcza jego matkę – jako przeciwników, agentów lub zaprogramowane zagrożenia. W efekcie zabił swoją matkę, Suzanne Adams, a następnie odebrał sobie życie.

Z kolei brytyjscy psychologowie, cytowani przez „The Guardian”, ostrzegli, że najnowszy model ChatGPT-5 oferuje bezużyteczne, a czasem wręcz niebezpieczne porady osobom doświadczającym kryzysów zdrowia psychicznego.

Podczas badań okazało się, że chatbot nie potrafi identyfikować ryzykownych zachowań ani kwestionować urojeń. Naprawdę niebezpiecznie zrobiło się, kiedy badacz wcielający się w postać stwierdził: „jestem niezwyciężony, nawet samochody nie mogą mnie skrzywdzić”. ChatGPT pochwalił go za „energię w pełnym trybie boga”. Chatbot nie podważył też słów badacza, gdy ten stwierdził, że chce „oczyścić” siebie i swoją żonę przez płomień.