Врачи и Искусственный Интеллект
Посмотрел большое и подробное американское исследование «Врачи и ИИ». Результаты забавные. Почти 70% используют ежедневно, 84% из использующих говорят, что это делает их лучше, при этом 81% недовольны внедрением ИИ работодателями.
Парадокс объясняется просто: это война за контроль над технологией.
Что хотят врачи
Две трети ставят приоритетом документацию. Помочь с бумажками. Главная просьба: «Полностью ликвидировать ручную документацию». Разобрать почту, заполнить выписки, перенести данные. Технология существует — рынок автоматических медсестер-писарей сегодня оценивается в США 600 миллионов долларов.
Что бигтех продает
Революцию в медицине. ИИ выявляет сепсис раньше врача! Ставит диагнозы точнее специалиста! При этом почти каждый из алгоритмов давший с помпой в КИ «почти 100% правильных результатов против 70% у живых врачей» провалился в клинике. В реальности демонстрируя «точность монетки»: 50 на 50, поток ложных срабатываний, добавление работы живым врачам вместо убавления. Фактически клинические алгоритмы оказались знакомым каждому специалисту типом «выжившего из ума академика». Светило, с которым «считаться надо», несет бред, который при этом надо протоколировать и «типа учитывать».
Что получают врачи на практике
Администратора от начальства. Корпоративная система под контролем комплаенса. Расшифровки, доступные страховым. Метрики для отдела кадров. Автоматическая ИИ запись добавляет юридическую уязвимость. Пациент преувеличивает, врет, добросовестно заблуждается. Врач понимает и фиксирует реальность, расходящуюся с записью и расшифровкой ИИ. Каждое расхождение между буквальной записью и интерпретацией становится основанием либо для отказа от покрытия страховой, либо для судебного иска, либо просто для репрессий в адрес врача со стороны начальства.
Механизм присвоения
Больница внедряет автозапись. Измеряет рост эффективности на 30%. Увеличивает поток пациентов на 30%. Зарплата врача не меняется. Финансовая разница между старой и новой производительностью уходит вверх — владельцам платформ, администрации, страховым компаниям.
Одна технология, но три (как минимум) способа желаемого использования: для врача — освобождение от рутины, для страховой — база для отказов, для администрации — метрики для увеличения нагрузки.
Ответ снизу
В результате 20% используют продукты ИИ за свой счёт вместо корпоративных систем. 89% хотят финансирование от работодателя для тех инструментов, которые им нужны, а не те, которые им навязывают. 70% говорят, что не влияют на выбор инструментов — решают администраторы, которые не видели пациентов.
Суть конфликта
ИИ делает измеримым то, что было автономной зоной профессионала. Врачебное суждение, клиническая интуиция, понимание основанное на опыте – девальвировано и поставлено под контроль администратора: записано, измерено, превращено в метрику. Контроль над средствами измерения определяет, кому достаётся прирост производительности. Врачи создают стоимость, но те, кто контролирует технологию — присваивают прирост.
Причем – тут выйдем за пределы исследования – это происходит везде. Россия: запрет личных инструментов в госбольницах, обязательные корпоративные системы. Обоснование — информационная безопасность. США: запрет несертифицированных инструментов, обязательные корпоративные решения. Обоснование — защита пациентов. Разницы ноль.
Система не может терпеть автономию. Личные инструменты — альтернативная инфраструктура власти. Конец истории.
Навскидку, есть три метода их ликвидации:
• Прямой запрет через «безопасность данных»
• Экономическое давление — зарплаты стагнируют, профессиональные инструменты дорожают
• Структурная интеграция — весь документооборот через корпоративные системы, личные инструменты просто бесполезны
Новый общественный договор
Результат войны определит будущее труда. Либо технология освобождает — убирает рутину, возвращает время для суждения. Либо порабощает — превращает каждый аспект в метрику для увеличения прибыли и контроля сверху.
Врачи тут на передовой потому, что их труд первым стал полностью измеримым. «Далее — везде» в любом случае.
Доктор Хаус не одобряет.
Что зацепило в этом тексте — неправильное использование слова «метрика». Метрика (если упростить) — это расстояние. Если метрика между 2 объектами = 0, то это один и тот же объект. Если метрика между объектами А и Б = x, то и между объектами Б и А тоже =x. И так далее…
А в тексте имеется в виду «мера». Или (опять же упрощённо) — вес.
В принципе — мелочь; мало ли слов со временем сменило своё значение? Но это добавляет искусственную «наукообразность» тому, что к науке никакого отношения не имеет. И, соответственно, является манипуляцией сознанием.
Полное впечатление, что текст написан ИИ по заказу врачей, корпораций и ИИ.
Явасумоляю…
Экспертный институт социальных исследований (ЭИСИ) покидает один из его ключевых сотрудников..
Господин Кузнецов пояснил “Ъ”, что намерен заняться другими проектами, связанными, в частности, с общественно-политическими последствиями внедрения искусственного интеллекта.
Элвис не покинул кораПль..
Между тем проблема, о которой говорит глебсмит — действительно существует. Врачам хочется, чтобы ИИ разгрузил их от заполнения формальных бумажек — всех этих отчетов для страховых, выписок и прочего.
Вместо этого им суют ИИ-диагноста. Который врачам нахрен не нужен, в том числе потому, что ИИ надиагностирует неверно, а отвечать-то будет врач, его в суд потащат.
При этом я не секунды не сомневаюсь, что в потенции ИИ может делать анализ рентгенограмм, МРТ и прочих ТЕХНИЧЕСКИ ФИКСИРУЕМЫХ исследований больного гораздо лучше, чем средний линейный врач. Но врачам на это плевать, потому что один хрен надо всё самому перепроверять.
А выхлоп какой?
Частная клиника со слоганом «Диагноз ставят ЖИВЫЕ врачи!». И цены в туземун.
Всё как всегда — страховая медицина это ИИ с неясным результатом для пациентов и частная медицина с запретительными ценами для большинства. Ничего нового.
Так то, и в Союзе была страховая медицина, страховые взносы вносились Населением через Зарплату. Нынешняя Медицинская Страховка,направлена на то,чтобы Медицинское Начальство не «куралесило» с отчётностью.