Нова версія AMIE вийшла за межі одноразової діагностичної бесіди. Вона має допомагати вести хронічні захворювання під час кількох послідовних візитів. Архітектура складається з двох агентів: один відповідає за емпатичну розмову з пацієнтом у реальному часі, другий аналізує план лікування та зіставляє його із сотнями сторінок клінічних рекомендацій .
У 100 змодельованих сценаріях із трьома візитами, що охоплювали кардіологію, пульмонологію, неврологію, акушерство й гінекологію, урологію та гастроентерологію, рекомендації AMIE оцінювали за настановами NICE і BMJ Best Practice. Експерти вважали плани системи точними значно частіше: для обстежень на другому візиті — 99% проти 84% у лікарів, а на третьому — 100% проти 88%. AMIE також наводив посилання на використані клінічні рекомендації .
Окреме перспективне дослідження за участю 100 пацієнтів у відділенні невідкладної допомоги перевіряло, чи може AMIE збирати анамнез до зустрічі з лікарем. Остаточний діагноз входив до його диференційного переліку у 90% випадків, а точність потрапляння до трійки найімовірніших діагнозів становила 75%. Водночас лікарі первинної ланки краще оцінювали практичність і економічну доцільність планів лікування .
MIRA побудована за іншим принципом. Це не передусім розмовний бот, а ШІ-агент, інтегрований у змодельовану лікарняну інформаційну систему. Він аналізує дані в електронній медичній картці, може пропонувати обстеження, готувати діагностичні та лікувальні рішення, призначення й рекомендації щодо госпіталізації .
У ретроспективних симуляціях на реальних клінічних випадках MIRA досягла загальної діагностичної точності 87,8% проти 78,1% у сертифікованих лікарів. У деяких діагнозах розрив був ще більшим: для панкреатиту — 95,2% проти 78,6%, для апендициту — 100% проти 88% .
Система мала доступ до понад 85 тисяч можливих клінічних дій. Вона призначала аналізи крові частіше, ніж лікарі: у 51% проти 28% випадків, але водночас рекомендувала істотно менше візуалізаційних досліджень . Для перевірки стійкості до маніпуляцій дослідники використали 880 спеціально сформульованих атакувальних запитів; витоку даних не зафіксували .
Однак MIRA не взаємодіяла безпосередньо з реальними пацієнтами. Інформація надходила через агентів, які імітували поведінку пацієнтів, а оцінювання проводили на ретроспективних випадках .
Обидві роботи показують, на що такі системи потенційно здатні в контрольованих умовах. Але вони не доводять, що AMIE чи MIRA вже безпечно працюватимуть у реальній медичній практиці.
Систематичний огляд досліджень медичних ШІ-агентів називає головною перешкодою «відсутність надійної клінічної перевірки в реальних умовах». Багато тестів проводять на ідеалізованих або синтетичних даних, тоді як справжні медичні записи містять пропуски, помилки, нерівномірність і суперечливу інформацію. Тому реальна клінічна ефективність таких систем досі значною мірою не підтверджена проспективними дослідженнями .
Серед інших обмежень:
Незалежні науковці назвали ці дослідження «якісним стрибком уперед» порівняно з попередніми поколіннями медичного ШІ, але водночас наголосили: результати отримано в контрольованих умовах .
Є й ширші питання, які стосуються всієї галузі.
Пояснюваність і довіра. Коли система пропонує діагноз або лікування, лікарю не завжди зрозуміло, як саме вона дійшла висновку. Без можливості перевірити логіку рішення складно довіряти йому та відповідально використовувати його в роботі .
Невизначена відповідальність. Якщо автономний агент помилиться, незрозуміло, хто нестиме юридичну та етичну відповідальність: розробник, лікарня чи лікар, який контролював систему. Наявні правила, зокрема підходи FDA та Європейського закону про штучний інтелект, ще не повністю враховують специфіку автономних медичних агентів .
Обмежена універсальність. Модель, навчена на даних одного медичного центру або окремого набору, може працювати інакше в іншій країні, лікарні чи демографічній групі. Відмінності в протоколах, документації та складі пацієнтів здатні суттєво змінити результат .
Ризик надмірної довіри. Показово, що навіть захищена версія AMIE — g-AMIE — спеціально обмежена: вона збирає анамнез, але утримується від індивідуальних медичних порад. Це пряме визнання того, що повністю автономне використання системи поки передчасне й потенційно небезпечне .
AMIE уже зробила перші кроки до перевірки в реальному світі. У партнерстві з медичним центром Beth Israel Deaconess Medical Center дослідники провели проспективне одноцентрове техніко-експериментальне дослідження, щоб оцінити збір інформації перед амбулаторним прийомом . Проте такі роботи показують передусім здійсненність підходу, а не доводять покращення стану пацієнтів.
До повсякденного автономного використання залишаються щонайменше такі етапи:
AMIE та MIRA — переконливі прототипи нового покоління медичного ШІ. AMIE переходить від одноразової діагностичної розмови до супроводу хронічних захворювань у часі, тоді як MIRA демонструє, як автономний агент може працювати з електронною медичною картою та пропонувати клінічні дії.
Але «перевершити лікарів у симуляції» — не те саме, що безпечно лікувати людей. Реальна медицина набагато менш передбачувана: дані неповні, симптоми неоднозначні, а кожне рішення має наслідки й відповідального виконавця .
Найближчі важливі кроки — проспективні дослідження з реальними пацієнтами, перевірка на різних популяціях, чіткі правила відповідальності та докази покращення клінічних результатів. До цього часу AMIE і MIRA варто сприймати не як заміну лікарям, а як перспективні інструменти, яким ще належить пройти довгий шлях перевірки.
Нова версія AMIE вийшла за межі одноразової діагностичної бесіди. Вона має допомагати вести хронічні захворювання під час кількох послідовних візитів. Архітектура складається з двох агентів: один відповідає за емпатичну розмову з пацієнтом у реальному часі, другий аналізує план лікування та зіставляє його із сотнями сторінок клінічних рекомендацій .
У 100 змодельованих сценаріях із трьома візитами, що охоплювали кардіологію, пульмонологію, неврологію, акушерство й гінекологію, урологію та гастроентерологію, рекомендації AMIE оцінювали за настановами NICE і BMJ Best Practice. Експерти вважали плани системи точними значно частіше: для обстежень на другому візиті — 99% проти 84% у лікарів, а на третьому — 100% проти 88%. AMIE також наводив посилання на використані клінічні рекомендації .
Окреме перспективне дослідження за участю 100 пацієнтів у відділенні невідкладної допомоги перевіряло, чи може AMIE збирати анамнез до зустрічі з лікарем. Остаточний діагноз входив до його диференційного переліку у 90% випадків, а точність потрапляння до трійки найімовірніших діагнозів становила 75%. Водночас лікарі первинної ланки краще оцінювали практичність і економічну доцільність планів лікування .
MIRA побудована за іншим принципом. Це не передусім розмовний бот, а ШІ-агент, інтегрований у змодельовану лікарняну інформаційну систему. Він аналізує дані в електронній медичній картці, може пропонувати обстеження, готувати діагностичні та лікувальні рішення, призначення й рекомендації щодо госпіталізації .
У ретроспективних симуляціях на реальних клінічних випадках MIRA досягла загальної діагностичної точності 87,8% проти 78,1% у сертифікованих лікарів. У деяких діагнозах розрив був ще більшим: для панкреатиту — 95,2% проти 78,6%, для апендициту — 100% проти 88% .
Система мала доступ до понад 85 тисяч можливих клінічних дій. Вона призначала аналізи крові частіше, ніж лікарі: у 51% проти 28% випадків, але водночас рекомендувала істотно менше візуалізаційних досліджень . Для перевірки стійкості до маніпуляцій дослідники використали 880 спеціально сформульованих атакувальних запитів; витоку даних не зафіксували .
Однак MIRA не взаємодіяла безпосередньо з реальними пацієнтами. Інформація надходила через агентів, які імітували поведінку пацієнтів, а оцінювання проводили на ретроспективних випадках .
Обидві роботи показують, на що такі системи потенційно здатні в контрольованих умовах. Але вони не доводять, що AMIE чи MIRA вже безпечно працюватимуть у реальній медичній практиці.
Систематичний огляд досліджень медичних ШІ-агентів називає головною перешкодою «відсутність надійної клінічної перевірки в реальних умовах». Багато тестів проводять на ідеалізованих або синтетичних даних, тоді як справжні медичні записи містять пропуски, помилки, нерівномірність і суперечливу інформацію. Тому реальна клінічна ефективність таких систем досі значною мірою не підтверджена проспективними дослідженнями .
Серед інших обмежень:
Незалежні науковці назвали ці дослідження «якісним стрибком уперед» порівняно з попередніми поколіннями медичного ШІ, але водночас наголосили: результати отримано в контрольованих умовах .
Є й ширші питання, які стосуються всієї галузі.
Пояснюваність і довіра. Коли система пропонує діагноз або лікування, лікарю не завжди зрозуміло, як саме вона дійшла висновку. Без можливості перевірити логіку рішення складно довіряти йому та відповідально використовувати його в роботі .
Невизначена відповідальність. Якщо автономний агент помилиться, незрозуміло, хто нестиме юридичну та етичну відповідальність: розробник, лікарня чи лікар, який контролював систему. Наявні правила, зокрема підходи FDA та Європейського закону про штучний інтелект, ще не повністю враховують специфіку автономних медичних агентів .
Обмежена універсальність. Модель, навчена на даних одного медичного центру або окремого набору, може працювати інакше в іншій країні, лікарні чи демографічній групі. Відмінності в протоколах, документації та складі пацієнтів здатні суттєво змінити результат .
Ризик надмірної довіри. Показово, що навіть захищена версія AMIE — g-AMIE — спеціально обмежена: вона збирає анамнез, але утримується від індивідуальних медичних порад. Це пряме визнання того, що повністю автономне використання системи поки передчасне й потенційно небезпечне .
AMIE уже зробила перші кроки до перевірки в реальному світі. У партнерстві з медичним центром Beth Israel Deaconess Medical Center дослідники провели проспективне одноцентрове техніко-експериментальне дослідження, щоб оцінити збір інформації перед амбулаторним прийомом . Проте такі роботи показують передусім здійсненність підходу, а не доводять покращення стану пацієнтів.
До повсякденного автономного використання залишаються щонайменше такі етапи:
AMIE та MIRA — переконливі прототипи нового покоління медичного ШІ. AMIE переходить від одноразової діагностичної розмови до супроводу хронічних захворювань у часі, тоді як MIRA демонструє, як автономний агент може працювати з електронною медичною картою та пропонувати клінічні дії.
Але «перевершити лікарів у симуляції» — не те саме, що безпечно лікувати людей. Реальна медицина набагато менш передбачувана: дані неповні, симптоми неоднозначні, а кожне рішення має наслідки й відповідального виконавця .
Найближчі важливі кроки — проспективні дослідження з реальними пацієнтами, перевірка на різних популяціях, чіткі правила відповідальності та докази покращення клінічних результатів. До цього часу AMIE і MIRA варто сприймати не як заміну лікарям, а як перспективні інструменти, яким ще належить пройти довгий шлях перевірки.