Najbardziej ryzykowna AI w ochronie zdrowia nie musi wyglądać jak robot.
Nie musi mieć nóg, ramion ani kamery.
Może być nieoznaczonym akapitem w dokumentacji medycznej.
Może być streszczeniem historii choroby.
Może być projektem zaleceń dla pacjenta.
Może być automatycznym pomiarem w badaniu obrazowym.
Może być priorytetem nadanym wynikowi.
Może być sugestią, która po cichu wpłynęła na decyzję człowieka.
I właśnie dlatego pytanie nie brzmi tylko: jak szybko może działać AI?
Brzmi ostrzej: dokąd dojdzie w procesie, zanim organizacja zauważy, że miała wpływ na decyzję?
Bo AI nie musi poruszać się fizycznie, żeby wyprzedzać człowieka. Wystarczy, że szybciej analizuje, klasyfikuje, streszcza, porządkuje i podpowiada.
Dowody już są.
W 2025 r. zaawansowana wersja Gemini Deep Think rozwiązała 5 z 6 zadań Międzynarodowej Olimpiady Matematycznej, uzyskując 35 z 42 punktów, czyli wynik na poziomie złotego medalu. To nie znaczy, że AI „myśli jak człowiek”. Znaczy natomiast, że w wybranych zadaniach formalnego rozumowania osiąga poziom dostępny dotąd dla bardzo wąskiej grupy ludzi.
W naukach biologicznych skala jest jeszcze bardziej wymowna. AlphaFold Database zawiera predykcje struktur dla ponad 200 mln białek i była używana przez ponad 3 mln osób w ponad 190 krajach. To pokazuje, że AI nie tylko przyspiesza pracę. Ona zmienia skalę tego, co w ogóle jest wykonalne analitycznie.
W pracy biurowej ta zmiana jest mniej spektakularna, ale masowa. Badanie OpenAI i współautorów pokazuje, że w czerwcu 2025 r. użytkownicy ChatGPT wysyłali około 2,6 mld wiadomości dziennie. W zastosowaniach zawodowych najczęstszą kategorią było pisanie, odpowiadające za około 40% wiadomości związanych z pracą, a około dwie trzecie wiadomości z tej kategorii dotyczyło modyfikowania tekstu użytkownika, nie tworzenia tekstu od zera.
To jest ważne, bo przesuwa dyskusję.
Nie chodzi już tylko o to, czy AI potrafi wygenerować odpowiedź. Chodzi o to, że AI coraz częściej staje się niewidoczną warstwą pracy: redaktorem, analitykiem, korektorem, streszczającym, asystentem decyzyjnym, narzędziem organizacji informacji. A jeżeli ta warstwa jest niewidoczna, organizacja traci kontrolę.
Microsoft i LinkedIn w Work Trend Index 2024 wskazali, że 75% globalnych pracowników wiedzy korzysta z AI w pracy, 78% użytkowników AI przynosi do pracy własne narzędzia, 52% niechętnie przyznaje się do używania AI przy najważniejszych zadaniach, a 53% obawia się, że użycie AI przy ważnej pracy sprawi, że będą wyglądać na łatwiejszych do zastąpienia.
Slack pokazał podobny mechanizm: 48% pracowników biurowych czułoby dyskomfort, mówiąc przełożonemu, że użyli AI do typowych zadań zawodowych. Najczęstsze powody to poczucie, że AI jest „oszukiwaniem”, obawa przed oceną jako mniej kompetentny i obawa przed oceną jako leniwy.
Tak powstaje strefa cienia AI.
Pracownik korzysta, ale nie mówi.
Menedżer podejrzewa, ale nie wie gdzie.
Organizacja deklaruje innowacyjność, ale nie ma mapy realnego użycia.
Dane trafiają do narzędzi, których nikt formalnie nie dopuścił.
Treści wygenerowane lub zmodyfikowane przez AI trafiają do dokumentów bez oznaczenia.
Decyzja wygląda jak decyzja człowieka, choć część procesu została poprowadzona przez model.
Dla organizacji to nie jest tylko problem zgodności z regulacjami. To jest utrata wartości.
Jeżeli AI działa w cieniu, organizacja nie wie, gdzie naprawdę oszczędza czas, gdzie poprawia jakość, gdzie generuje błędy, które procesy warto przeprojektować, jakie narzędzia kupić centralnie, kogo przeszkolić i gdzie rośnie ryzyko prawne, reputacyjne albo cyberbezpieczeństwa.
KPMG i University of Melbourne w globalnym badaniu z 2025 r. wskazali, że 57% pracowników przyznaje się do nietransparentnego użycia AI, 48–49% raportuje wgrywanie do publicznych narzędzi AI wrażliwych informacji firmowych, a 56% deklaruje, że popełniło błędy w pracy w związku z użyciem AI. Dodatkowo 66% pracowników polegało na wyniku AI bez krytycznej oceny.
W ochronie zdrowia te liczby powinny szczególnie niepokoić.
Bo tu „AI w cieniu” nie oznacza tylko szybciej napisanego maila. Może oznaczać wpływ na informację przekazaną pacjentowi, dokumentację medyczną, opis badania, priorytetyzację wyniku, ocenę ryzyka, zalecenie albo decyzję kliniczną.
Dlatego pytanie „czy ujawniać każde użycie AI?” jest źle ustawione.
Nie każde użycie AI ma taki sam ciężar.
Jeżeli AI pomogła poprawić neutralny komunikat organizacyjny, bez danych pacjenta i bez wpływu na treść medyczną, centralne raportowanie takiego faktu byłoby nadmiarowe.
Jeżeli jednak AI streszcza dokumentację pacjenta, przygotowuje projekt zaleceń, wspiera opis badania, analizuje wynik, segmentuje zmianę w obrazie, klasyfikuje ryzyko albo sugeruje decyzję kliniczną — to już nie jest zwykła pomoc redakcyjna.
To jest użycie istotne klinicznie lub organizacyjnie.
I powinno zostawiać ślad. Nie zawsze w P1.
System e-zdrowie P1, zgodnie z opisem Centrum e-Zdrowia, umożliwia gromadzenie, przetwarzanie i udostępnianie zasobów cyfrowych o zdarzeniach medycznych pacjentów oraz indeksów elektronicznej dokumentacji medycznej.
To nie jest naturalne miejsce na każdy prompt, każdy techniczny log i każdą operację algorytmu.
Lepszy jest model warstwowy.
W dokumentacji medycznej powinno być możliwe ustalenie, czy AI miała wpływ na wynik badania, opis, zalecenie albo decyzję kliniczną.
W systemach lokalnych — HIS, EHR, RIS, PACS — powinien zostać audytowalny ślad: jaki system AI został użyty, kiedy, przez kogo, w jakiej wersji, dla jakiego badania lub dokumentu, jaki wynik wygenerował i czy człowiek go zaakceptował, zmienił, odrzucił albo nadpisał.
W organizacji powinien istnieć rejestr narzędzi AI: producent, wersja, przeznaczenie, status wyrobu medycznego, zakres zastosowania, właściciel procesu, zasady aktualizacji, procedura nadzoru, ocena ryzyka i rodzaj danych.
W urządzeniu lub systemie technicznym powinna istnieć identyfikowalność wersji, konfiguracji i wyniku.
Przykład: rezonans magnetyczny z wbudowaną AI.
Jeżeli AI służy do rekonstrukcji obrazu, redukcji szumu albo przyspieszenia akwizycji, nie wpisywałbym każdorazowo pacjentowi do P1: „użyto AI”. To element technologii wykonania badania.
Ale informacja powinna być technicznie odtwarzalna: w aparacie, PACS/RIS, metadanych badania, wersji oprogramowania i dokumentacji urządzenia.
Inaczej wygląda sytuacja, gdy AI wykrywa zmianę, segmentuje guz, mierzy objętość, klasyfikuje ryzyko, oznacza badanie jako pilne albo generuje element opisu.
To nie jest już tylko techniczna poprawa obrazu. To informacja kliniczna.
Wtedy ślad powinien istnieć w lokalnym systemie audytowym, a jeżeli wynik AI został użyty w opisie lub decyzji, powinien być możliwy do odtworzenia w dokumentacji medycznej.
Technicznie ten kierunek jest realny. DICOM Structured Reports przewidują reprezentację wyników pochodzących z obrazowania, w tym pomiarów i adnotacji dla zastosowań AI, machine learning i quantitative imaging.
To jest praktyczne rozróżnienie, którego potrzebujemy.
Nie: „ujawniajmy wszystko”.
Nie: „nie ujawniajmy nic”.
Tylko: ujawniajmy i logujmy to, co ma znaczenie dla pacjenta, dokumentacji, wyniku, decyzji lub odpowiedzialności.
To jest też sedno realnego nadzoru człowieka.
AI Act w art. 14 wskazuje, że systemy wysokiego ryzyka muszą być projektowane tak, aby umożliwiać nadzór człowieka proporcjonalny do ryzyka, autonomii i kontekstu użycia. Człowiek powinien móc monitorować, interpretować i nadpisać działanie systemu oraz być świadomy ryzyka nadmiernego polegania na wyniku AI.
W ochronie zdrowia „human-in-the-loop” nie może oznaczać osoby, która tylko klika „zatwierdź”.
Realny nadzór oznacza, że wiadomo:
- co AI zrobiła,
- na jakich danych pracowała,
- jaki wynik wygenerowała,
- co człowiek zmienił,
- kto podpisał finalny dokument,
- kiedy system należy zatrzymać,
- gdzie został ślad po użyciu AI.
Największą wartość z AI osiągną nie te organizacje, które pozwolą używać jej wszędzie i po cichu.
Osiągną ją te, które potrafią zamienić indywidualne eksperymenty pracowników w kontrolowaną zdolność organizacyjną: z bezpiecznymi narzędziami, jasnymi zasadami, rejestrem systemów, szkoleniem, audytem i odpowiedzialnością.
AI może przyspieszać analizę, dokumentację i organizację pracy.
Ale w medycynie nie może wyprzedzać odpowiedzialności.
Nie każde użycie AI powinno być raportowane centralnie. Każde użycie AI, które wpływa na dane pacjenta, dokumentację medyczną, wynik badania, zalecenie, priorytet lub decyzję kliniczną, powinno zostawiać audytowalny ślad.
Nie zawsze w P1.
Czasem w EDM.
Czasem w opisie badania.
Czasem w PACS/RIS.
Czasem w HIS/EHR.
Czasem w logu urządzenia.
Czasem w rejestrze systemów AI placówki.
Ale gdzieś — zawsze.
Bo w ochronie zdrowia najgorszy scenariusz nie polega na tym, że AI działa szybko.
Najgorszy scenariusz polega na tym, że wpływa na proces medyczny, a po fakcie nikt nie potrafi ustalić: gdzie została użyta, na jakiej podstawie, w jakiej wersji, pod czyim nadzorem i z jakim skutkiem dla pacjenta.
Pytanie do Państwa: gdzie postawilibyście granicę — kiedy użycie AI w ochronie zdrowia powinno być tylko lokalnie logowane, a kiedy powinno być widoczne w dokumentacji medycznej pacjenta?
