Технологии искусственного интеллекта все активнее проникают в медицинскую сферу. Как сообщает The Conversation, все больше врачей применяют так называемых AI-скрайбов — цифровых помощников, которые записывают разговоры с пациентами, переводят их в структурированные заметки и даже формируют направления к специалистам. По данным исследований, уже каждый четвертый австралийский терапевт использует подобные системы, пишет Politexpert.
Рост популярности технологий вызвал серьезные дискуссии о конфиденциальности и безопасности. До недавнего времени рынок практически не регулировался, однако австралийский регулятор TGA признал некоторые из этих инструментов медицинскими изделиями. Теперь они должны пройти регистрацию, доказать свою безопасность и соответствие заявленным функциям, что изменит правила для клиник и пациентов.
Новые правила регулирования
Ранее компании, среди которых Microsoft и австралийские стартап Heidi и Lyrebird, позиционировали скрайбов как «продуктивное ПО», избегая регулирования. Однако теперь устройства, предлагающие подсказки по диагнозу или лечению, официально попадают в категорию медизделий.
Это решение означает обязательную регистрацию, контроль качества и отчетность о сбоях. Нарушения повлекут санкции, что должно сократить количество небезопасных продуктов на рынке. Подобные меры вводят и другие страны: в июне 2025 года власти Великобритании объявили аналогичные правила, а США и ЕС готовят свои подходы.
Преимущества и риски для пациентов
Врачи отмечают, что AI-скрайбы сокращают время работы с клавиатурой и улучшают контакт с пациентами. Однако технологии на базе языковых моделей могут допускать ошибки, добавляя несуществующие факты. Так, в одном случае комментарий врача о внешности пациента был ошибочно внесен как диагноз.
Точность работы зависит от акцента, фонового шума и медицинского жаргона, что особенно актуально для мультикультурной Австралии. Исследования показывают, что заявленная экономия времени часто преувеличена, ведь врачам приходится тратить минуты на исправление неточностей.
Конфиденциальность и защита данных
Медицинские данные давно стали целью киберпреступников. Опыт утечки в Medibank в 2022 году показал масштабы угроз. Исследования фиксируют, что одной из главных причин инцидентов становятся ненадежные сторонние сервисы и слабая защита данных.
Политика хранения информации у компаний различается: часть хранит аудио на зарубежных серверах, другие ограничиваются краткосрочными транскриптами. Пациенты не всегда могут понять, кто имеет доступ к их данным и используются ли записи для обучения алгоритмов.
Право пациента на отказ
Важным остается вопрос согласия. Врач обязан уведомить пациента о включении записи и разъяснить риски. Пациент вправе отказаться от использования AI-скрайба без угрозы отказа в медицинской помощи. Однако недавний случай в Австралии показал, что пациенту пришлось отменить консультацию стоимостью 1300 долларов после отказа от записи.
Особые требования касаются коренных народов Австралии: при работе с данными должны учитываться вопросы культурных норм и права сообществ на управление информацией. Это особенно актуально, если материалы применяются для обучения систем искусственного интеллекта.
Вопросы, которые стоит задать врачу
Пациентам эксперты рекомендуют уточнять у врача:
- зарегистрирован ли инструмент и требуется ли его одобрение TGA;
- где и как долго хранятся записи, применяются ли они для обучения;
- есть ли возможность приостановить запись и перейти на традиционную документацию;
- просматривает ли врач итоговую запись перед внесением в карту;
- как исправляются ошибки и ведется ли аудиторский учет.
Такие вопросы помогают пациентам контролировать процесс и защищать свои права в условиях цифровизации медицины.
Напомним, ранее мы писали о том, что искусственный интеллект стал привычной частью повседневной жизни миллионов.