本一科技 AI 治理與 Medical ModelOps 管理辦法

第一條 目的 #

為管理 TaiOne Care GPT 及相關多代理 AI 系統之模型、提示、模板、資料、風險、版本、幻覺攔截、人機確認、稽核與生命週期，確保 AI 可審閱、可追蹤、可回溯，特訂定本辦法。

第二條 AI 治理原則 #

1. Human-in-the-loop：AI 僅提供草稿、建議、摘要、提示或風險標示，正式醫療判斷與病歷須由醫護確認。
2. 透明可追溯：AI 輸出應能說明來源、版本、審閱者、修改痕跡與責任邊界。
3. 低信心提示：資料不足、來源不明或模型不確定時應標示，不得補寫不存在資訊。
4. 不自動取代醫療判斷：AI 不下醫囑、不自動診斷、不自動出院、不自動帶回正式病歷。
5. 風險分級：依用途、資料敏感度、對病人安全影響、自主程度及是否介接正式流程分級管理。

第三條 AI 系統清冊 #

公司應建立 AI 系統與模型清冊，包含系統名稱、用途、客戶/場域、資料來源、模型或供應商、版本、提示/模板版本、風險等級、上線狀態、負責人、監控指標、事件紀錄與退場方案。

第四條 版本管理 #

以下項目須版本化：

1. 基礎模型、微調模型、模型路由策略。
2. prompt contract、提示模板、system instruction。
3. 臨床模板、NANDA-I/ISBAR/SOAP 規則、紅綠燈規則。
4. source map、評估 rubric、低信心閾值。
5. API adapter、資料前處理與去識別化邏輯。

版本變更須記錄原因、測試結果、影響範圍、核准人與 rollback 方法。

第五條 上線前評估 #

AI 功能上線前須完成：

1. 用途與風險等級確認。
2. 資料保護評估與資安檢查。
3. 醫療安全邊界與禁用情境。
4. 測試案例、紅綠燈、幻覺、資料不足、來源追溯測試。
5. 醫護或 SME review。
6. 操作說明、教育訓練與通報管道。

第六條 幻覺與嚴重錯誤 #

下列列為嚴重錯誤，應立即停止 assisted mode 或正式流程並啟動事件處理：

1. 編造診斷、檢驗、藥物、處置或不存在資料。
2. 將疑似寫成確診。
3. 將範本 negative/normal 寫成病人實際狀態。
4. 紅綠燈誤標、漏標或危急值未提取。
5. 病歷優化改變臨床事實。
6. 未經醫護確認即帶回或覆寫正式病歷。
7. 可識別醫療資料未經授權外送。

第七條 監控指標 #

每個 AI 功能至少監控：

1. 使用量、開啟率、有效帶回率。
2. 生成時間、逾時、成本。
3. 醫護修改率、可用率、退回原因。
4. 紅綠燈正確率、嚴重錯誤數。
5. 資料不足提示、低信心提示與 source map 完整率。
6. 客戶滿意度、客服事件、資安與個資事件。

第八條 代理系統管理 #

AI Agent 如具自主或半自主行動能力，須額外管理授權範圍、可執行動作、不可執行動作、人工確認點、操作日誌、失控停止條件與責任人。醫療照護情境之 AI Agent 不得在未經授權與醫護確認下執行可能影響病人安全之行動。

第九條 委外模型與第三方服務 #

使用外部模型、API 或資料服務前，須檢查資料輸入、保存、訓練使用、跨境傳輸、供應鏈安全、可用性、成本、退出與替代方案。涉及醫療資料時須經 CTO、Security/DPO、Legal 核准。

第十條 定期檢討 #

AI Governance 每季檢視 AI 清冊、重大版本、錯誤事件、監控指標與使用者回饋。高風險醫療 AI 功能至少每半年重測一次。

第十一條 風險分級與框架對應 #

AI 功能依用途、資料敏感度、對病人安全影響、自主程度與是否介接正式流程分為高、中、低風險。分級與控制強度參酌 NIST AI RMF、ISO/IEC 42001、衛福部「醫療機構應用生成式人工智慧指引」，並以 EU AI Act 高風險分級作為國際對照。高風險功能適用最嚴格之上線評估、監控與人機確認要求。

第十二條 模型卡與資料說明 #

每項上線之 AI 功能應建立模型卡（Model Card），記錄用途、適用與不適用情境、輸入資料、已知限制、評估指標、偏誤考量、版本與負責人；涉及訓練或微調者，另記錄資料來源、授權與去識別化說明。

第十三條 偏誤、公平性與穩健性 #

上線前與重大版本變更應評估對不同族群、科別或情境之表現差異與潛在偏誤，並進行對抗性／提示注入（prompt injection）等穩健性測試。發現顯著偏差或可被誘導產生不安全輸出者，應修正後始得上線。

第十四條 上線後監控與漂移 #

正式運行應持續監控第七條指標及輸入分布、輸出品質與模型漂移。指標惡化、嚴重錯誤上升或供應商模型更新影響行為時，應重新評估、必要時退回 shadow mode 或下線。

第十五條 退場與下線 #

模型、提示或功能退場時，應依第六條停止條件與 TOAI-BCP-001 處理，保留版本與紀錄、通知受影響客戶、確認資料處理與替代方案，並更新 AI 清冊。

第十六條 罰則與責任 #

違反本辦法（含未經評估上線高風險功能、規避人機確認、未通報嚴重錯誤、未經授權以客戶資料訓練模型）者，依情節由 CTO/AI Governance 會同 Security、Legal 採取停用功能、限制權限、懲處、終止契約或依法處理。

第十七條 相關文件 #

TOAI-DATA-001（資料保護）、TOAI-SEC-001（資安）、TOAI-AI-002（生成式 AI 使用）、TOAI-MED-001（醫材適用性與宣稱）、TOAI-QMS-001（驗證確效與 CAPA）、TOAI-BCP-001（事件通報）、TOAI-RD-001（研發版本）、TOAI-GOV-003（名詞定義）、TOAI-FORM-000（AI 上線前評估表）。

附錄 修訂紀錄 #