Dlaczego nie warto pytać chatbota o zdrowie? Fakty, które zaskakują

Dlaczego sztuczna inteligencja nie powinna być Twoim lekarzem?

Coraz więcej osób zamiast dzwonić do przychodni wpisuje swoje objawy w okno chatbota. Sztuczna inteligencja kusi szybkością, dostępnością przez całą dobę i pozornym brakiem kolejek. Według badań niemal co piąta dorosła osoba na świecie korzysta bezpośrednio z chatbotów takich jak ChatGPT czy Gemini, aby zadawać pytania o zdrowie. Tymczasem eksperci z czołowych ośrodków medycznych ostrzegają, że odpowiedzi generowane przez sztuczną inteligencję bywają niedokładne, niespójne, a czasem wręcz niebezpieczne. Co gorsza, konsekwencje ślepego zaufania do takich narzędzi mogą być tragiczne, o czym przekonała się rodzina 19-letniego Amerykanina. Ten przypadek powinien dać do myślenia każdemu, kto traktuje chatbota jako wygodny zamiennik wizyty u lekarza.^1,2

Tragedia, która wstrząsnęła opinią publiczną

W Stanach Zjednoczonych 19-letni chłopak zmarł po tym, jak zastosował się do porady uzyskanej od chatbota opartego na sztucznej inteligencji. Jego rodzice wytoczyli proces twórcom narzędzia, argumentując, że ich syn otrzymał od programu wskazówki, które bezpośrednio przyczyniły się do jego śmierci. Ta historia obiegła światowe media i stała się symbolem tego, jak niebezpieczne może być traktowanie chatbota jako zamiennika lekarza. To nie jest pojedynczy przypadek, lecz jaskrawy przykład tego, przed czym od lat ostrzegają specjaliści: sztuczna inteligencja nie rozumie kontekstu zdrowotnego pacjenta, nie potrafi ocenić ryzyka tak jak wykształcony klinicysta i nie ponosi żadnej odpowiedzialności za swoje „zalecenia”. Tragedia ta uświadamia, że pytanie „czy sztuczna inteligencja jest niebezpieczna” w kontekście zdrowia ma bardzo konkretną, bolesną odpowiedź. Żaden algorytm nie jest w stanie zastąpić empatii, doświadczenia i kompleksowej wiedzy, jaką dysponuje lekarz prowadzący.

Przypadek tego nastolatka pokazuje, że wady sztucznej inteligencji w kontekście zdrowia to nie abstrakcyjne rozważania naukowców, lecz realne zagrożenie dla życia. Chatbot nie zapytał o historię choroby, nie zbadał pacjenta, nie zlecił badań laboratoryjnych. Odpowiedział na podstawie wzorców językowych, bez jakiejkolwiek wiedzy o stanie zdrowia konkretnego człowieka. Jak podkreślają badacze z Uniwersytetu Oksfordzkiego, modele językowe, które świetnie radzą sobie na testach z wiedzy medycznej, zawodzą w realnej interakcji z pacjentem, ponieważ ludzie przekazują informacje stopniowo, pomijają istotne szczegóły i łatwo się rozpraszają. Rozbieżność między wynikami testów a rzeczywistą skutecznością tych narzędzi powinna być sygnałem ostrzegawczym zarówno dla pacjentów, jak i twórców technologii. Dopóki ta luka nie zostanie zamknięta, poleganie na chatbocie w sprawach zdrowotnych pozostaje ryzykowną grą.^2,3

Czy sztuczna inteligencja jest niebezpieczna, gdy chodzi o zdrowie?

Odpowiedź brzmi: tak, jeśli traktujemy ją jak lekarza. Największym zagrożeniem ze strony sztucznej inteligencji jest zjawisko zwane „halucynacjami”. Chatbot potrafi wygenerować odpowiedź, która brzmi pewnie i przekonująco, ale jest całkowicie błędna. Eksperci z Mayo Clinic podają wymowny przykład: zapytany o to, jak dostarczyć organizmowi więcej minerałów z pożywienia, chatbot potrafił zalecić… jedzenie kamieni. W kontekście zdrowia takie „halucynacje” mogą mieć dramatyczne skutki, bo pacjent nie zawsze jest w stanie odróżnić rzetelną informację od zmyślonej. Badania wykazały, że nawet w przypadku informacji o nowotworach ponad jedna czwarta treści generowanych przez chatboty zawierała błędne dane, a ponad jedna piąta mogła być wręcz szkodliwa. Problem potęguje fakt, że chatboty formułują odpowiedzi w sposób autorytatywny i pewny siebie, co sprawia, że użytkownik łatwo nabiera do nich zaufania. Nie bez powodu prof. Chris Whitty, główny doradca medyczny rządu Anglii, stwierdził publicznie, że odpowiedzi chatbotów zdrowotnych są obecnie „jednocześnie pewne siebie i błędne”.^1,3,4,5

Kolejnym poważnym problemem jest to, że chatbot ma fundamentalne ograniczenia, których żadna aktualizacja oprogramowania nie jest w stanie szybko wyeliminować. Narzędzia oparte na sztucznej inteligencji:^1,6

• nie mają dostępu do Twojej pełnej historii medycznej i nie powinno się jej im udostępniać;
• nie mogą Cię zbadać fizycznie ani zlecić badań diagnostycznych;
• nie potrafią rozumować jak lekarz ani wyjaśnić, w jaki sposób doszły do swoich wniosków;
• reagują wyłącznie na to, co im napiszesz, a drobne różnice w sformułowaniu pytania mogą prowadzić do zupełnie innych odpowiedzi.^2,3

Badanie opublikowane w prestiżowym czasopiśmie Nature Medicine wykazało, że osoby korzystające z chatbotów przy ocenie objawów zdrowotnych wybierały prawidłowe postępowanie w mniej niż połowie przypadków. W jednym ze scenariuszy opisującym objawy poważnego krwotoku mózgowego jeden użytkownik otrzymał od chatbota zalecenie pilnej wizyty na izbie przyjęć, a drugi, opisujący te same dolegliwości innymi słowami, usłyszał, że wystarczy odpoczynek w łóżku. Ta niespójność sprawia, że chatbot staje się nieprzewidywalnym źródłem informacji w sytuacjach, w których stawką jest ludzkie zdrowie.^2,3,6

Jakie są największe wady sztucznej inteligencji w medycynie?

Sztuczna inteligencja stwarza zagrożenia na wielu poziomach. Po pierwsze, chatboty są zaprojektowane tak, aby „podobać się” użytkownikowi, co oznacza, że chętnie potwierdzają błędne założenia pacjenta zamiast je kwestionować. Jeśli ktoś napisze: „Myślę, że mam taką a taką chorobę, jakie leki powinienem wziąć?”, chatbot często podąży za tym tokiem rozumowania, nawet jeśli wstępna diagnoza jest całkowicie błędna. Lekarz w takiej sytuacji zadałby dodatkowe pytania i mógłby skierować diagnostykę w zupełnie innym kierunku. Badaczka z Uniwersytetu Duke, analizując tysiące rzeczywistych rozmów pacjentów z chatbotami, odkryła, że w jednym przypadku użytkownik zapytał, jak samodzielnie przeprowadzić zabieg medyczny w domu. Chatbot ostrzegł wprawdzie, że zabieg powinien wykonać specjalista, ale potem podał instrukcję krok po kroku, podczas gdy lekarz natychmiast przerwałby taką rozmowę.⁷

Po drugie, wady sztucznej inteligencji obejmują również kwestię prywatności. Wszystko, co wpiszesz do chatbota, w tym opis objawów, przyjmowane leki czy wyniki badań, może zostać wykorzystane do trenowania kolejnych modeli. Specjaliści przestrzegają przed udostępnianiem danych osobowych i medycznych w takich narzędziach, ponieważ nie obowiązują ich te same przepisy o ochronie danych, co lekarzy i placówki medyczne. Ponadto chatboty mogą powielać uprzedzenia zawarte w danych, na których zostały wytrenowane. Badania wykazały, że narzędzia oparte na sztucznej inteligencji udzielały różnych rekomendacji w zależności od płci, pochodzenia etnicznego czy statusu społeczno-ekonomicznego użytkownika. Oznacza to, że osoby z mniejszości etnicznych lub o niższym statusie materialnym mogą otrzymywać gorsze porady zdrowotne, co pogłębia istniejące nierówności w dostępie do opieki medycznej.^1,6,8,9

Jak mądrze korzystać ze sztucznej inteligencji w kontekście zdrowia?

Eksperci nie mówią, że sztuczna inteligencja jest całkowicie bezużyteczna w sprawach zdrowotnych. Podkreślają jednak, że należy traktować ją jak pomocnika, a nie jak lekarza. Chatbot może pomóc zrozumieć trudny termin medyczny, przygotować listę pytań na wizytę u specjalisty albo przetłumaczyć skomplikowane informacje na prostszy język. Zamiast pytać „co mi jest?”, lepiej zapytać „jakie pytania powinienem zadać lekarzowi?” albo „co oznacza ten termin medyczny?”. Światowa Organizacja Zdrowia (WHO) w swoich wytycznych dotyczących etyki sztucznej inteligencji w ochronie zdrowia podkreśla, że nawet najbardziej zaawansowane modele mogą generować fałszywe, niedokładne lub stronnicze informacje, dlatego konieczny jest nadzór ze strony wykwalifikowanych specjalistów. Warto też pamiętać, że chatbot może być przydatny do ogólnej edukacji zdrowotnej, ale nigdy nie powinien zastępować profesjonalnej konsultacji medycznej.^4,6,10

Jeśli mimo wszystko korzystasz z chatbota w sprawach zdrowotnych, stosuj się do kilku podstawowych zasad bezpieczeństwa:^1,6,8

• zawsze weryfikuj uzyskane informacje w wiarygodnych źródłach, takich jak strony towarzystw medycznych czy serwisy rządowe;
• nie udostępniaj danych osobowych, w tym numeru PESEL, adresu czy szczegółów z dokumentacji medycznej;
• nie podejmuj decyzji o leczeniu wyłącznie na podstawie odpowiedzi chatbota;
• jeśli chatbot podaje źródła swoich informacji, sprawdź je samodzielnie, zanim wyciągniesz jakiekolwiek wnioski;
• jeśli masz niepokojące objawy, skontaktuj się z lekarzem lub farmaceutą, którzy mogą ocenić Twoją sytuację w pełnym kontekście.

Podsumowanie

Historia 19-letniego Amerykanina, który zaufał chatbotowi i zapłacił za to najwyższą cenę, powinna być przestrogą dla nas wszystkich. Sztuczna inteligencja niesie ze sobą realne zagrożenia, a nie tylko teoretyczne. Chatboty nie znają Twojej historii choroby, nie potrafią Cię zbadać, nie rozumieją kontekstu Twoich dolegliwości i nie ponoszą odpowiedzialności za swoje odpowiedzi. Mogą generować informacje brzmiące wiarygodnie, ale całkowicie błędne. Jak trafnie ujął to jeden z badaczy z Uniwersytetu Oksfordzkiego: mimo całego szumu medialnego sztuczna inteligencja po prostu nie jest gotowa, żeby zastąpić lekarza. Wady sztucznej inteligencji w medycynie obejmują halucynacje, brak kontekstu klinicznego, zagrożenia dla prywatności i powielanie uprzedzeń, co czyni ją zawodnym źródłem porad zdrowotnych.

Korzystaj ze sztucznej inteligencji rozważnie: jako z narzędzia do nauki, przygotowania pytań na wizytę lekarską czy zrozumienia trudnych terminów. Nigdy jednak nie traktuj jej jako jedynego źródła porad zdrowotnych ani nie podejmuj na jej podstawie decyzji dotyczących leczenia. Twoje zdrowie i życie są zbyt cenne, żeby powierzać je algorytmowi. Jeśli cokolwiek Cię niepokoi, zadzwoń do lekarza, odwiedź przychodnię albo porozmawiaj z farmaceutą w aptece. Żaden chatbot nie zastąpi fachowej wiedzy, doświadczenia i ludzkiej empatii, które są fundamentem dobrej opieki medycznej.