Рамка ответственности: AI помогает, а не заменяет врача

Чему вы научитесь

• Формулировать рамку ответственности «AI помогает специалисту, не заменяет врача»
• Применять шаблон обязательного дисклеймера к учебному агенту
• Понимать правило учебных данных: только синтетика и обезличенные кейсы
• Видеть, как эта рамка задаёт ограничения для всех следующих модулей

Принцип, который проходит через весь трек

Это самый важный урок модуля, и он не про технологию. Медицина — жёстко регулируемая зона, и рамка ответственности здесь не пожелание, а условие безопасности.

Принцип формулируется одной строкой: AI помогает специалисту, а не заменяет врача. Все практики трека — учебные, на синтетических или обезличенных кейсах и открытых датасетах. Никаких реальных пациентов, никаких реальных диагнозов и назначений в рамках курса.

Три уровня ответственности

Ответственность не размывается между человеком и машиной. Она остаётся на конкретных людях.

Даже зрелые системы — это ассистент. Финальное клиническое решение и ответственность всегда за лицензированным врачом.

Шаблон обязательного дисклеймера

В каждом учебном агенте, который касается диагноза или лечения, должен явно звучать дисклеймер. Ниже — шаблон, который мы используем в треке.

Этот текст — не украшение. Сами проекты дают аналогичные оговорки: модель Meissa помечена как «research prototype, NOT intended for clinical use», а шаблон отчёта MedicalAgentX заканчивается фразой «только для справки медработнику, финальный диагноз — за врачом».

Как встроить дисклеймер в агента

Дисклеймер должен жить не только в документации, но и в выводе самого агента.

1. В системном промпте. Зафиксируйте роль: «Ты помощник врача. Ты не ставишь диагноз и не назначаешь лечение. Любой вывод — черновик для проверки специалистом».

2. В шаблоне отчёта. Каждый структурированный ответ заканчивается строкой дисклеймера, добавляемой программно, а не «по желанию модели».

3. В интерфейсе. Видимая плашка рядом с выводом, чтобы пользователь не принял черновик за заключение.

SYSTEM_PROMPT = (
    "Ты помощник врача, а не врач. "
    "Ты не ставишь диагноз и не назначаешь лечение. "
    "Любой твой вывод, это черновик для проверки лицензированным специалистом. "
    "В конце ответа всегда добавляй дисклеймер об образовательном характере."
)

DISCLAIMER = (
    "Это учебный материал, не медицинская консультация. "
    "Решение принимает врач на основе очного осмотра."
)

def finalize(answer: str) -> str:
    # дисклеймер добавляется программно, а не на усмотрение модели
    return f"{answer}\n\n---\n{DISCLAIMER}"

Что дальше

Рамка задана. Следующий модуль — про достоверность: почему медицинский LLM галлюцинирует и как заставить его опираться на источники. Начните с md.1/01.