Chatbot AI przeanalizuje wyniki badań użytkownika. Eksperci ostrzegają przed ryzykiem

Przez ostatnie kilka lat branża technologiczna przekonywała ludzi, że chatboty oparte na sztucznej inteligencji działają tym lepiej, im więcej danych im się dostarcza. Kolejnym krokiem jest skłonienie użytkowników do udostępniania najbardziej wrażliwych informacji – własnej dokumentacji medycznej – pisze „The New York Times”.

Microsoft właśnie zaprezentował narzędzie, które pozwoli użytkownikom udostępniać dokumentację z różnych placówek medycznych chatbotowi Copilot. Dane te mogą być następnie połączone z informacjami zbieranymi przez urządzenia monitorujące aktywność fizyczną, takie jak Apple Watch. Po przeanalizowaniu wszystkich danych chatbot stworzy ogólny przegląd problemów zdrowotnych użytkownika.

Czytaj więcej

Technologie

ChatGPT przejmuje zdrowie. Czy lekarze mają się czego bać?

Zanim trafisz do lekarza, coraz częściej trafiasz do chatbota. OpenAI wchodzi w obszar zdrowia, uruchamiając nową funkcję ChatGPT Health. Eksperci...

Microsoft nie jest jedyną firmą, która rozwija takie narzędzia. Także Amazon, OpenAI i Anthropic w tym roku rozpoczęły testy podobnych rozwiązań – odpowiednio Health AI, ChatGPT Health oraz Claude for Healthcare. Niestety chatboty trafiały już na nagłówki gazet z powodu przypadków wywoływania u niektórych użytkowników psychoz, izolacji czy niezdrowych nawyków.

Lekarze przyznają, że opieka zdrowotna wspierana przez AI może mieć pewne zalety – na przykład pomagać ludziom lepiej zrozumieć stan własnego zdrowia. Jednak udostępnianie dokumentacji medycznej firmom technologicznym wiąże się z wieloma zagrożeniami dla prywatności. Chatboty mogą też prowadzić do niepotrzebnych wizyt u lekarza.

Jak działa medyczny chatbot Copilota?

Na stronie internetowej i w aplikacji mobilnej Copilot użytkownicy będą mogli kliknąć zakładkę „Health” i utworzyć profil, odpowiadając na pytania dotyczące wieku i płci. Następnie będą mogli zdecydować, czy chcą udostępnić swoją dokumentację medyczną oraz dane z urządzeń takich jak Apple Watch, Fitbit czy monitor snu Oura.

Użytkownicy będą też mogli zadawać chatbotowi pytania lub opisywać objawy, na przykład: „Ostatnio źle śpię”. Chatbot przeanalizuje dokumentację medyczną i dane z urządzeń noszonych na ciele, aby przedstawić obserwacje, takie jak zmiany w jakości snu od czasu ostatniej wizyty w szpitalu.

Czytaj więcej

Technologie

„AI wzmacniała urojenia”. Pierwszy pozew o zabójstwo z udziałem ChatGPT

Firma OpenAI i jej inwestor Microsoft zostali pozwani w związku z morderstwem i samobójstwem w stanie Connecticut. Chatbot ChatGPT obwiniany jest o...

Chatbot może także przygotować podsumowanie najważniejszych kwestii zdrowotnych, na które warto zwrócić uwagę – takich jak niedobór snu, cukrzyca czy niewielka aktywność fizyczna.

Początkowo Copilot Health będzie dostępny bezpłatnie po jego premierze jeszcze w tym roku. Microsoft zapowiedział jednak, że planuje wprowadzić opłatę abonamentową za korzystanie z tego narzędzia, choć nie podał jej wysokości.

Jak zrozumieć własną dokumentację medyczną?

Dokumentacja medyczna bywa dla pacjentów chaotyczna i trudna do zrozumienia, zwłaszcza gdy korzystają oni z różnych placówek medycznych. Każda z nich ma bowiem własną bazę danych. Sztuczna inteligencja Microsoftu mogłaby pomóc połączyć informacje z wielu placówek medycznych wraz z danymi z urządzeń monitorujących aktywność fizyczną użytkownika.

Według Microsoftu lekarz potrzebowałby nawet kilku godzin, aby ręcznie przeanalizować całą dokumentację medyczną pacjenta oraz dane z urządzeń fitness i przygotować ogólne podsumowanie jego stanu zdrowia. Copilot Health mógłby zrobić to w kilka sekund.

Czytaj więcej

Technologie

„Niebezpieczne porady”. Brytyjscy naukowcy zbadali ChatGPT i alarmują

ChatGPT-5 oferuje bezużyteczne, a czasem wręcz niebezpieczne porady osobom doświadczającym kryzysów zdrowia psychicznego – ostrzegają brytyjscy psy...

Chatboty mogą okazać się atrakcyjnym narzędziem dla Amerykanów, ponieważ wielu z nich nie ma ubezpieczenia medycznego i nie stać ich na częste wizyty u specjalistów. Chatbot AI mógłby być stosunkowo tanim sposobem pomagania ludziom w monitorowaniu zdrowia i wyszukiwaniu informacji o objawach – podobnie jak wyszukiwanie w internecie na stronach takich jak WebMD, która publikuje informacje medyczne. Według danych firmy analitycznej SimilarWeb w 2020 r. witryna webmd.com miała ponad 100 mln wizyt miesięcznie.

Jak chronić swoje dane medyczne?

W ostatnich latach cyberataki wielokrotnie dotykały szpitale i systemy opieki zdrowotnej. Przechowywanie dokumentacji medycznej w jednym miejscu czyni te dane znacznie bardziej atrakcyjnym celem dla cyberprzestępców, zwłaszcza że dane medyczne ofiary ataku mogą ujawniać informacje o chorobach, które dana osoba chciałaby zachować w tajemnicy.

Taka jedna, ogólna baza danych medycznych może być atrakcyjna także dla organów ścigania, które chciałyby uzyskać dostęp do dokumentacji zdrowotnej danej osoby. Wystarczy, że zwrócą się do Microsoftu zamiast do wielu różnych placówek medycznych.

Czytaj więcej

Technologie

AI może doprowadzić do groźnej choroby. Eksperci ostrzegają

Myślał, że stworzył świadomą AI i może zbawić świat – to nie scenariusz filmu, a efekt rozmów z ChatGPT. Interakcje z botem mają wpływ na nasze zdr...

Microsoft zapewnia, że dane zdrowotne użytkowników będą szyfrowane i nie będą wykorzystywane do ulepszania systemów AI ani do wyświetlania reklam targetowanych. Firma twierdzi również, że udostępnia dane organom ścigania wyłącznie w odpowiedzi na prawnie uzasadnione wnioski.

Microsoft podkreśla, że Copilot Health ma pomagać użytkownikom w zrozumieniu własnego zdrowia i przygotowaniu się do wizyty u lekarza – a nie zastępować jego wiedzę. W komunikacie prasowym znalazło się zastrzeżenie, że chatbot „nie jest przeznaczony do diagnozowania, leczenia ani zapobiegania chorobom”.

Czytaj więcej

Technologie

Chatboty zachęcały do zabicia rodziców i samobójstwa. Mroczna strona AI

Dwie rodziny pozwały Character.ai, firmę specjalizującą się w sztucznej inteligencji, której chatbot miał zachęcać dzieci m.in. do samookaleczenia...

Jednak „The New York Times” zwraca uwagę, że naiwnością byłoby sądzić, iż użytkownicy nie będą prosić chatbota mającego dostęp do ich dokumentacji medycznej o diagnozę i porady. Dotychczasowe badania sugerują, że chatboty nie są jeszcze gotowe na taką odpowiedzialność.

Jak mądrze używać chatbotów medycznych?

Chatboty OpenAI i Meta nie radzą sobie lepiej niż zwykła wyszukiwarka internetowa w kierowaniu użytkowników do właściwej diagnozy czy wskazywaniu, co powinni zrobić dalej. Technologia ta niesie też szczególne ryzyko – czasami przedstawia błędne informacje lub diametralnie zmienia odpowiedzi w zależności od niewielkich zmian w sformułowaniu pytania.

Słabości te doprowadziły już do głośnych błędów. Na przykład 60-letni mężczyzna trafił na kilka tygodni na oddział psychiatryczny po tym, jak ChatGPT zasugerował ograniczenie soli poprzez spożywanie bromku sodu, co doprowadziło do paranoi i halucynacji.

Czytaj więcej

Opinie i komentarze

Odpowiedzialne innowacje: Czy sztuczna inteligencja może zastąpić psychoterapeutów?

O kryzysie psychiatrii i trudnej dostępności polskich psychoterapeutów słychać od lat. Czy technologia w postaci czatów psychoterapeutycznych może...

Bromek sodu od drugiej połowy XIX wieku był używany w medycynie jako lek przeciwpadaczkowy, uspokajający i nasenny. Niestety stosowany długotrwale może być toksyczny.

OpenAI twierdzi, że obecna wersja ChatGPT znacznie lepiej odpowiada na pytania dotyczące zdrowia niż model testowany w badaniu, który został już wycofany.