衛福部今年5月發布醫療機構生成式AI應用指引,為醫院導入生成式AI提供風險管理參考,但能自主決策、採取行動的AI Agent,尚未納入適用範圍。
衛福部醫事司司長劉越萍10月初在臺灣醫院資訊主管會議上指出,下一階段指引需要回應AI從內容生成走向自主行動的挑戰,讓醫療機構更清楚應用時的注意事項。
面對AI持續進入醫療流程,她也提醒,醫院應先盤點院內AI工具、釐清責任,再依風險安排驗證與持續監測。
盤點對象除了正式採購的商業產品和雲端服務,還要涵蓋院內自行開發的模型、檢索增強生成(RAG)應用、部門自行訂閱或試用的「影子AI」,以及既有系統透過功能更新新增的AI能力。
清冊也不能只列產品名稱。醫院至少要掌握工具用途與使用部門、資料種類與敏感程度、資料流向、模型版本、供應商,以及依賴哪些外部服務,並確認工具是否影響病歷、臨床判斷或病人溝通。同時,也要記錄業務、系統與監測責任人,以及風險等級、核准狀態與重新評估日期。
劉越萍提醒,外部測試或控制環境下的表現,與真實醫療場域可能存在差異。對可能帶來較大影響的應用,醫院應考慮用本院或具代表性的資料驗證,觀察效能,以及AI會在什麼情況下出錯,再依風險選擇靜默試驗或有限試辦。
應用上線後,醫院也要持續追蹤哪些部門在使用、使用頻率,以及是否超出核准用途,並觀察錯誤、遺漏、人工修改和病安事件。系統方面,則要留意模型版本變動、效能是否隨時間下降,以及API或服務中斷等問題。監測結果還要能轉成具體處置,包括限制用途、增加人工確認、重新驗證,必要時暫停使用或讓系統退場。
【MORE】