Дисклеймеры, аудит-след и ответственность врача

Чему вы научитесь

• Проектировать обязательные дисклеймеры на трёх уровнях агента
• Вести аудит-след: что, когда и на основании чего предложил агент
• Делать точку ответственности врача явной в интерфейсе и в данных
• Собирать чек-лист безопасного дизайна перед капстоуном

Три уровня дисклеймера

Дисклеймер — не одна строчка в подвале. Он должен присутствовать там, где пользователь может принять черновик за заключение.

Мы уже видели это в модуле md.0: дисклеймер в вывод добавляется кодом, а не «по желанию» модели.

Аудит-след: почему он обязателен

Аудит-след — это журнал того, что агент предложил, когда и на основании каких источников. Он нужен для прослеживаемости: если возник вопрос к решению, можно восстановить, что видел врач и на что опирался агент.

flowchart LR
    Q["Запрос\n(обезличенный)"] --> AG["Агент"]
    AG --> O["Вывод + цитаты"]
    AG --> LOG["Аудит-след:\nвход, источники,\nвремя, версия модели"]
    O --> D["Врач: проверил,\nрешил, подписал"]
    D --> LOG
    style LOG fill:#fef3c7,stroke:#d97706
    style D fill:#fee2e2,stroke:#DC2626

def log_interaction(case_id, question, sources, output, model_version):
    audit.append({
        "case_id": case_id,            # обезличенный идентификатор
        "ts": now_iso(),
        "question": question,
        "sources": [s.ref for s in sources],  # на что опирался агент
        "output": output,
        "model_version": model_version,
        "reviewed_by": None,           # заполняется, когда врач проверил
    })

Точка ответственности — явная

Ответственность не должна «подразумеваться». Её делают видимой: вывод агента помечен как черновик, а решение фиксируется отдельным действием врача.

1. Маркируйте вывод. Каждый ответ агента явно помечен «черновик для проверки».

2. Требуйте подтверждения. Решение фиксируется отдельным действием врача, а не автоматически.

3. Записывайте, кто проверил. В аудит-след попадает, какой специалист подтвердил вывод.

Чек-лист безопасного дизайна

Соберите всё перед капстоуном. Если каждый пункт выполнен — агент удерживается в безопасной рамке.

[ ] Дисклеймер в системном промпте
[ ] Дисклеймер добавляется в вывод программно
[ ] Дисклеймер виден в интерфейсе рядом с ответом
[ ] Каждый тезис в отчёте привязан к источнику (цитата)
[ ] Аудит-след пишет вход, источники, время, версию модели
[ ] В логах и базе нет идентифицирующих данных пациента
[ ] Вывод помечен как черновик, решение фиксирует врач
[ ] Только синтетические или обезличенные данные

Что дальше

Финальный урок трека — капстоун: собираем учебного ассистента врача целиком. md.5/03.