AMIE: od rozmowy diagnostycznej do prowadzenia choroby przewlekłej

AMIE, czyli Articulate Medical Intelligence Explorer, to system rozwijany przez Google Research, Google DeepMind i Google Health. Początkowo koncentrował się na zbieraniu wywiadu i prowadzeniu rozmowy diagnostycznej. W randomizowanym, podwójnie zaślepionym badaniu krzyżowym, w którym wykorzystano przeszkolonych aktorów odgrywających rolę pacjentów, AMIE osiągał wyniki co najmniej porównywalne z certyfikowanymi lekarzami podstawowej opieki zdrowotnej w wielu klinicznie istotnych obszarach .

Nowsza wersja systemu ma działać nie tylko podczas jednej konsultacji, lecz także między wizytami. W badaniu wykorzystano możliwości modeli Gemini w zakresie pracy z długim kontekstem oraz architekturę dwóch agentów. Jeden prowadzi rozmowę z pacjentem w empatyczny sposób, drugi analizuje plan leczenia i porównuje go z obszernymi wytycznymi klinicznymi .

W ocenie obejmującej 100 scenariuszy po trzy wizyty, dotyczących m.in. kardiologii, pulmonologii, neurologii, ginekologii i urologii oraz gastroenterologii, rekomendacje AMIE były oceniane jako bardziej precyzyjne w części zadań. W przypadku badań diagnostycznych plany systemu były dokładnym dopasowaniem do oczekiwanej odpowiedzi w 99% przypadków podczas drugiej wizyty i w 100% podczas trzeciej, wobec odpowiednio 84% i 88% u lekarzy. Plany zawierały również odwołania do źródeł, takich jak NICE i BMJ Best Practice .

Nie oznacza to jednak, że AMIE „zastąpiła lekarza”. Badanie opierało się na wirtualnych konsultacjach z udziałem profesjonalnych aktorów, a ocena dotyczyła jakości rozumowania i planów, nie poprawy zdrowia rzeczywistych pacjentów.

MIRA: agent działający w dokumentacji medycznej

MIRA reprezentuje inne podejście. Zamiast skupiać się przede wszystkim na rozmowie, działa w środowisku elektronicznej dokumentacji medycznej. Według opisu zespołu Else Kröner Fresenius Center for Digital Health, grupa kierowana przez Jakoba Nikolasa K athe ra opracowała agenta, który w symulowanym systemie szpitalnym analizował informacje medyczne, zlecał badania i przygotowywał decyzje diagnostyczne oraz terapeutyczne na podstawie rzeczywistych przypadków pacjentów .

W symulacjach retrospektywnych MIRA uzyskała ogólną trafność diagnostyczną na poziomie 87,8%, podczas gdy certyfikowani lekarze osiągnęli 78,1%. Różnica była szczególnie widoczna przy wybranych rozpoznaniach: w przypadku zapalenia trzustki wyniki wyniosły 95,2% wobec 78,6%, a przy zapaleniu wyrostka robaczkowego — 100% wobec 88% .

MIRA zlecała więcej badań krwi niż lekarze — 51% wobec 28% — ale częściowo równoważyła to znacznie mniejszą liczbą zlecanych badań obrazowych . Agent miał dostęp do ponad 85 tysięcy możliwych działań klinicznych. Przetestowano go także za pomocą 880 poleceń zaprojektowanych tak, by wprowadzić system w błąd; nie odnotowano przypadków ujawnienia danych w ramach tej oceny .

To nadal był jednak eksperyment. MIRA nie przyjmowała prawdziwych pacjentów w szpitalu. Informacje o przypadkach przekazywały jej inne agenty AI symulujące zachowanie pacjentów, a ocena miała charakter retrospektywny .

Najważniejsze ograniczenie: symulacja to nie praktyka kliniczna

Największy problem obu projektów jest prosty: żaden z nich nie został jeszcze sprawdzony jako autonomiczny system podczas rutynowego leczenia rzeczywistych pacjentów.

Przegląd badań nad agentami AI w ochronie zdrowia wskazuje na „brak solidnej walidacji klinicznej w warunkach rzeczywistych”. Wiele testów korzysta z uporządkowanych lub syntetycznych danych, które nie oddają typowych problemów prawdziwej dokumentacji: brakujących informacji, nierównowagi danych, błędów pomiarowych i niejednoznacznych wpisów. W rezultacie rzeczywista skuteczność kliniczna takich systemów pozostaje w dużej mierze niepotwierdzona w badaniach prospektywnych .

Do pozostałych ograniczeń należą:

• Brak badania fizykalnego. Systemy oparte na tekście i danych strukturalnych nie mogą samodzielnie zbadać brzucha, osłuchać serca ani ocenić chodu pacjenta. W wielu sytuacjach badanie fizykalne pozostaje kluczowym elementem diagnostyki.
• Brak ciągłego uczenia się. Analiza rozdziału medycznego raportu AI Index wskazuje, że żaden system nie zademonstrował ciągłego uczenia ani długoterminowej pamięci między różnymi spotkaniami z pacjentami .
• Udział aktorów i agentów symulujących pacjentów. Wielowizytowe badanie AMIE wykorzystywało profesjonalnych aktorów, natomiast MIRA była testowana na przypadkach retrospektywnych z udziałem agentów odtwarzających zachowanie pacjentów .
• Ryzyko błędów i ataków. Wśród otwartych problemów wymienia się halucynacje, nieprzejrzyste rozumowanie, błędy współpracy między agentami oraz podatność elektronicznej dokumentacji na naruszenia bezpieczeństwa .

Eksperci studzą entuzjazm

Naukowcy komentujący obie prace określili je jako jakościowy skok względem wcześniejszych generacji medycznej AI. Jednocześnie podkreślali, że wyniki pochodzą z kontrolowanych warunków, a nie z pełnej praktyki klinicznej .

Szczególne znaczenie mają cztery kwestie.

Przejrzystość i zaufanie. Gdy agent generuje diagnozę albo rekomendację terapeutyczną, lekarz powinien móc prześledzić, na jakiej podstawie powstał wniosek. Brak takiej przejrzystości utrudnia weryfikację i ogranicza zaufanie do systemu .

Odpowiedzialność. Jeśli rekomendacja AI doprowadzi do błędu, nie zawsze wiadomo, kto ponosi odpowiedzialność prawną i etyczną: twórca systemu, placówka, która go wdrożyła, czy lekarz nadzorujący. Obecne regulacje, w tym przepisy FDA i unijny AI Act, nie odpowiadają jeszcze w pełni na specyficzne potrzeby autonomicznych agentów medycznych .

Przenoszenie wyników na inne systemy. Model oceniany na danych z jednego ośrodka lub konkretnego zbioru, takiego jak MIMIC-IV, może działać inaczej w innej populacji, przy innych procedurach administracyjnych i w odmiennym systemie ochrony zdrowia .

Ryzyko nadmiernego polegania na AI. Sam fakt, że system brzmi przekonująco, nie powinien zwalniać lekarza z odpowiedzialności za ocenę jego rekomendacji. Właśnie dlatego opracowano g-AMIE — wersję AMIE z zabezpieczeniami, która zbiera wywiad, ale powstrzymuje się od udzielania spersonalizowanych porad medycznych bez odpowiedniego nadzoru .

Czy AMIE i MIRA trafią do szpitali?

AMIE ma już za sobą pierwsze próby walidacji w warunkach bliższych rzeczywistości. Prospektywne, jednoośrodkowe badanie przeprowadzone we współpracy z Beth Israel Deaconess Medical Center sprawdzało, czy system może zebrać informacje przed ambulatoryjną wizytą u lekarza . W odrębnym badaniu w ramach pilnej opieki, obejmującym 100 pacjentów, diagnoza końcowa znalazła się w różnicowaniu AMIE w 90% przypadków, a w pierwszej trójce rozpoznań — w 75%. Lekarze podstawowej opieki zdrowotnej uzyskali jednak lepsze oceny praktyczności i opłacalności proponowanych planów postępowania .

To ważne sygnały, ale nadal są to badania wykonalności, a nie szeroko zakrojone randomizowane próby kliniczne pokazujące poprawę wyników leczenia.

Przed wdrożeniem takich systemów na większą skalę trzeba rozwiązać kilka problemów:

• Regulacje: potrzebne są jasne wymagania dotyczące bezpieczeństwa i skuteczności systemów wspierających diagnozowanie i leczenie.
• Integracja z dokumentacją medyczną: treści wygenerowane przez AI muszą być wyraźnie odróżnione od wpisów lekarza, aby nie zacierać odpowiedzialności klinicznej .
• Nadzór człowieka: systemy powinny działać w ramach określonych zabezpieczeń, z możliwością kontroli i odrzucenia każdej rekomendacji.
• Badanie fizykalne: nawet bardzo sprawna rozmowa i analiza dokumentacji nie zastępują bezpośredniej oceny pacjenta.
• Równość dostępu i jakości: potrzebne są testy na różnorodnych populacjach, zanim będzie można ocenić, czy system działa równie dobrze dla wszystkich pacjentów.

Wniosek: przełom badawczy, nie cyfrowy lekarz

AMIE i MIRA pokazują, jak szybko medyczna AI przechodzi od prostego odpowiadania na pytania do planowania kolejnych etapów opieki. AMIE potrafi analizować wielowizytowe scenariusze i odwoływać się do wytycznych, a MIRA demonstruje możliwość działania w elektronicznej dokumentacji medycznej oraz wykonywania wielu kroków klinicznego procesu w symulowanym środowisku .

Nie należy jednak mylić wysokiego wyniku testu z gotowością do leczenia. Prawdziwa medycyna jest pełna niepełnych danych, presji czasu, ograniczeń zasobów, wyjątków od reguł i odpowiedzialności za konkretnego człowieka. Kolejnym kamieniem milowym powinny być prospektywne badania z udziałem rzeczywistych pacjentów, walidacja w różnych systemach ochrony zdrowia, jasne przepisy oraz dowody na poprawę wyników leczenia — nie tylko na lepszy rezultat w symulacji .

Na dziś AMIE i MIRA są zaawansowanymi prototypami badawczymi. Mogą w przyszłości stać się narzędziami wspierającymi lekarzy, ale nie są zamiennikami lekarza i nie powinny być traktowane jako autonomiczne systemy gotowe do rutynowego stosowania klinicznego.

AMIE: od rozmowy diagnostycznej do prowadzenia choroby przewlekłej

AMIE, czyli Articulate Medical Intelligence Explorer, to system rozwijany przez Google Research, Google DeepMind i Google Health. Początkowo koncentrował się na zbieraniu wywiadu i prowadzeniu rozmowy diagnostycznej. W randomizowanym, podwójnie zaślepionym badaniu krzyżowym, w którym wykorzystano przeszkolonych aktorów odgrywających rolę pacjentów, AMIE osiągał wyniki co najmniej porównywalne z certyfikowanymi lekarzami podstawowej opieki zdrowotnej w wielu klinicznie istotnych obszarach .

Nowsza wersja systemu ma działać nie tylko podczas jednej konsultacji, lecz także między wizytami. W badaniu wykorzystano możliwości modeli Gemini w zakresie pracy z długim kontekstem oraz architekturę dwóch agentów. Jeden prowadzi rozmowę z pacjentem w empatyczny sposób, drugi analizuje plan leczenia i porównuje go z obszernymi wytycznymi klinicznymi .

W ocenie obejmującej 100 scenariuszy po trzy wizyty, dotyczących m.in. kardiologii, pulmonologii, neurologii, ginekologii i urologii oraz gastroenterologii, rekomendacje AMIE były oceniane jako bardziej precyzyjne w części zadań. W przypadku badań diagnostycznych plany systemu były dokładnym dopasowaniem do oczekiwanej odpowiedzi w 99% przypadków podczas drugiej wizyty i w 100% podczas trzeciej, wobec odpowiednio 84% i 88% u lekarzy. Plany zawierały również odwołania do źródeł, takich jak NICE i BMJ Best Practice .

Nie oznacza to jednak, że AMIE „zastąpiła lekarza”. Badanie opierało się na wirtualnych konsultacjach z udziałem profesjonalnych aktorów, a ocena dotyczyła jakości rozumowania i planów, nie poprawy zdrowia rzeczywistych pacjentów.

MIRA: agent działający w dokumentacji medycznej

MIRA reprezentuje inne podejście. Zamiast skupiać się przede wszystkim na rozmowie, działa w środowisku elektronicznej dokumentacji medycznej. Według opisu zespołu Else Kröner Fresenius Center for Digital Health, grupa kierowana przez Jakoba Nikolasa K athe ra opracowała agenta, który w symulowanym systemie szpitalnym analizował informacje medyczne, zlecał badania i przygotowywał decyzje diagnostyczne oraz terapeutyczne na podstawie rzeczywistych przypadków pacjentów .

W symulacjach retrospektywnych MIRA uzyskała ogólną trafność diagnostyczną na poziomie 87,8%, podczas gdy certyfikowani lekarze osiągnęli 78,1%. Różnica była szczególnie widoczna przy wybranych rozpoznaniach: w przypadku zapalenia trzustki wyniki wyniosły 95,2% wobec 78,6%, a przy zapaleniu wyrostka robaczkowego — 100% wobec 88% .

MIRA zlecała więcej badań krwi niż lekarze — 51% wobec 28% — ale częściowo równoważyła to znacznie mniejszą liczbą zlecanych badań obrazowych . Agent miał dostęp do ponad 85 tysięcy możliwych działań klinicznych. Przetestowano go także za pomocą 880 poleceń zaprojektowanych tak, by wprowadzić system w błąd; nie odnotowano przypadków ujawnienia danych w ramach tej oceny .

To nadal był jednak eksperyment. MIRA nie przyjmowała prawdziwych pacjentów w szpitalu. Informacje o przypadkach przekazywały jej inne agenty AI symulujące zachowanie pacjentów, a ocena miała charakter retrospektywny .

Najważniejsze ograniczenie: symulacja to nie praktyka kliniczna

Największy problem obu projektów jest prosty: żaden z nich nie został jeszcze sprawdzony jako autonomiczny system podczas rutynowego leczenia rzeczywistych pacjentów.

Przegląd badań nad agentami AI w ochronie zdrowia wskazuje na „brak solidnej walidacji klinicznej w warunkach rzeczywistych”. Wiele testów korzysta z uporządkowanych lub syntetycznych danych, które nie oddają typowych problemów prawdziwej dokumentacji: brakujących informacji, nierównowagi danych, błędów pomiarowych i niejednoznacznych wpisów. W rezultacie rzeczywista skuteczność kliniczna takich systemów pozostaje w dużej mierze niepotwierdzona w badaniach prospektywnych .

Do pozostałych ograniczeń należą:

• Brak badania fizykalnego. Systemy oparte na tekście i danych strukturalnych nie mogą samodzielnie zbadać brzucha, osłuchać serca ani ocenić chodu pacjenta. W wielu sytuacjach badanie fizykalne pozostaje kluczowym elementem diagnostyki.
• Brak ciągłego uczenia się. Analiza rozdziału medycznego raportu AI Index wskazuje, że żaden system nie zademonstrował ciągłego uczenia ani długoterminowej pamięci między różnymi spotkaniami z pacjentami .
• Udział aktorów i agentów symulujących pacjentów. Wielowizytowe badanie AMIE wykorzystywało profesjonalnych aktorów, natomiast MIRA była testowana na przypadkach retrospektywnych z udziałem agentów odtwarzających zachowanie pacjentów .
• Ryzyko błędów i ataków. Wśród otwartych problemów wymienia się halucynacje, nieprzejrzyste rozumowanie, błędy współpracy między agentami oraz podatność elektronicznej dokumentacji na naruszenia bezpieczeństwa .

Eksperci studzą entuzjazm

Naukowcy komentujący obie prace określili je jako jakościowy skok względem wcześniejszych generacji medycznej AI. Jednocześnie podkreślali, że wyniki pochodzą z kontrolowanych warunków, a nie z pełnej praktyki klinicznej .

Szczególne znaczenie mają cztery kwestie.

Przejrzystość i zaufanie. Gdy agent generuje diagnozę albo rekomendację terapeutyczną, lekarz powinien móc prześledzić, na jakiej podstawie powstał wniosek. Brak takiej przejrzystości utrudnia weryfikację i ogranicza zaufanie do systemu .

Odpowiedzialność. Jeśli rekomendacja AI doprowadzi do błędu, nie zawsze wiadomo, kto ponosi odpowiedzialność prawną i etyczną: twórca systemu, placówka, która go wdrożyła, czy lekarz nadzorujący. Obecne regulacje, w tym przepisy FDA i unijny AI Act, nie odpowiadają jeszcze w pełni na specyficzne potrzeby autonomicznych agentów medycznych .

Przenoszenie wyników na inne systemy. Model oceniany na danych z jednego ośrodka lub konkretnego zbioru, takiego jak MIMIC-IV, może działać inaczej w innej populacji, przy innych procedurach administracyjnych i w odmiennym systemie ochrony zdrowia .

Ryzyko nadmiernego polegania na AI. Sam fakt, że system brzmi przekonująco, nie powinien zwalniać lekarza z odpowiedzialności za ocenę jego rekomendacji. Właśnie dlatego opracowano g-AMIE — wersję AMIE z zabezpieczeniami, która zbiera wywiad, ale powstrzymuje się od udzielania spersonalizowanych porad medycznych bez odpowiedniego nadzoru .

Czy AMIE i MIRA trafią do szpitali?

AMIE ma już za sobą pierwsze próby walidacji w warunkach bliższych rzeczywistości. Prospektywne, jednoośrodkowe badanie przeprowadzone we współpracy z Beth Israel Deaconess Medical Center sprawdzało, czy system może zebrać informacje przed ambulatoryjną wizytą u lekarza . W odrębnym badaniu w ramach pilnej opieki, obejmującym 100 pacjentów, diagnoza końcowa znalazła się w różnicowaniu AMIE w 90% przypadków, a w pierwszej trójce rozpoznań — w 75%. Lekarze podstawowej opieki zdrowotnej uzyskali jednak lepsze oceny praktyczności i opłacalności proponowanych planów postępowania .

To ważne sygnały, ale nadal są to badania wykonalności, a nie szeroko zakrojone randomizowane próby kliniczne pokazujące poprawę wyników leczenia.

Przed wdrożeniem takich systemów na większą skalę trzeba rozwiązać kilka problemów:

• Regulacje: potrzebne są jasne wymagania dotyczące bezpieczeństwa i skuteczności systemów wspierających diagnozowanie i leczenie.
• Integracja z dokumentacją medyczną: treści wygenerowane przez AI muszą być wyraźnie odróżnione od wpisów lekarza, aby nie zacierać odpowiedzialności klinicznej .
• Nadzór człowieka: systemy powinny działać w ramach określonych zabezpieczeń, z możliwością kontroli i odrzucenia każdej rekomendacji.
• Badanie fizykalne: nawet bardzo sprawna rozmowa i analiza dokumentacji nie zastępują bezpośredniej oceny pacjenta.
• Równość dostępu i jakości: potrzebne są testy na różnorodnych populacjach, zanim będzie można ocenić, czy system działa równie dobrze dla wszystkich pacjentów.

Wniosek: przełom badawczy, nie cyfrowy lekarz

AMIE i MIRA pokazują, jak szybko medyczna AI przechodzi od prostego odpowiadania na pytania do planowania kolejnych etapów opieki. AMIE potrafi analizować wielowizytowe scenariusze i odwoływać się do wytycznych, a MIRA demonstruje możliwość działania w elektronicznej dokumentacji medycznej oraz wykonywania wielu kroków klinicznego procesu w symulowanym środowisku .

Nie należy jednak mylić wysokiego wyniku testu z gotowością do leczenia. Prawdziwa medycyna jest pełna niepełnych danych, presji czasu, ograniczeń zasobów, wyjątków od reguł i odpowiedzialności za konkretnego człowieka. Kolejnym kamieniem milowym powinny być prospektywne badania z udziałem rzeczywistych pacjentów, walidacja w różnych systemach ochrony zdrowia, jasne przepisy oraz dowody na poprawę wyników leczenia — nie tylko na lepszy rezultat w symulacji .

Na dziś AMIE i MIRA są zaawansowanymi prototypami badawczymi. Mogą w przyszłości stać się narzędziami wspierającymi lekarzy, ale nie są zamiennikami lekarza i nie powinny być traktowane jako autonomiczne systemy gotowe do rutynowego stosowania klinicznego.