AI 風險管理措施檢核系統開發紀錄 — FastAPI + React 的權限、版本控制與離線部署
把 AI 風險評估流程做成系統時,記錄角色與資料範圍、問卷版本、欄位驗證,以及沒有外網的部署環境帶來的問題。
本篇目錄
因為工作上的需求,我需要把一套 AI 風險評估流程整理成系統:當一個政府單位想把 AI 用進工作流程時,不能只問「好不好用」,也得先想清楚它可能影響誰、風險在哪裡、出了狀況怎麼處理。
於是,我把原本需要來回確認的一套評估流程,整理成一個讓機關承辦人可以一步步填寫、管理者可以掌握進度的系統。
一開始我以為,這大概就是「問卷加上後台」。做下去才發現,權限、版本和資料規則花了最多時間。有些規則一句話就能講完,要讓每個人理解一致、系統也確實執行,卻得處理很多細節。
這件事從哪裡來
人工智慧基本法在 2026 年 1 月 14 日公布施行;其中第 19 條要求政府使用 AI 執行業務或提供服務時,應進行風險評估並規劃因應措施。於是,原本需要人工來回確認的事情,被整理成一段可追蹤的流程。
系統裡的評估大致沿著這個順序往下走:先盤點應用情境,再辨識與評估風險、思考應對方式,最後做整體判定。第 16 條要求數位發展部參考國際標準推動風險分類框架,再由各目的事業主管機關視需要,依這個框架訂定以風險為基礎的管理規範。框架和各機關的規範會陸續訂定、修訂,所以系統的題目與分類都要保留調整的彈性;數發部 2026 年 7 月 7 日發布的《人工智慧風險分類框架》v1.0,也寫明會定期檢視風險類型,視情況新增、修正或刪除。第 4 條的「問責」原則,也讓版本與紀錄從一開始就不能只是附加功能。
系統真正要解的事
這是一個前後端分離的網頁系統:React 前端讓使用者填寫與查看資料,FastAPI 後端負責驗證、執行規則與保存紀錄,資料庫則透過約束檢查資料。目標是讓評估流程有跡可循,每個人也只能在負責的範圍內操作。
權限不是「能不能按按鈕」而已
專案中期,我們重新整理了權限設計。原本的做法太細碎,遇到問題時,光是回答「為什麼這個人可以、另一個人不行」就要翻很久。
後來把思路收斂成兩件事:
- 角色決定一個人可以做哪些事。
- 資料範圍決定他可以對哪些資料做那些事。
這套系統共有五種角色:
| 角色 | 管得到誰的資料 | 對問卷能做什麼 |
|---|---|---|
| 系統管理員 | 全平台 | 建立、查閱、改草稿、刪除整份情境 |
| 平台觀察員 | 全平台 | 只能看,連別人的草稿都看得到,但改不了 |
| 部會管理員 | 本部會+下屬機關 | 建立、查閱、改草稿(範圍內不限本人所建)、刪草稿 |
| 機關管理員 | 本機關 | 建立、查閱、改草稿(範圍內不限本人所建)、刪草稿 |
| 一般使用者(承辦人) | 自己的,加上同機關同事已送出的(只能看) | 建立、修改、刪除自己的草稿 |
拆開角色與資料範圍後,就比較容易解釋誰能管理、誰只能查看。即使兩個人都有修改權限,能修改的資料範圍也可能不同。
另外,我們把「草稿可以調整、正式送出後保留紀錄」當成基本原則。這樣可以避免誤改,後續追查時也不會只剩下一個被覆蓋掉的結果。
還有一個很容易被忽略的地方:權限異動後,不應該等到使用者下次登入才生效。因此系統在每次需要確認身分的操作時,都會以帳號目前的狀態為準。登入憑證是方便使用者的工具,不該成為舊權限繼續生效的理由。
版本要留下,但不能長出兩個「下一版」
評估內容送出後,難免還是會需要更新。問題是,直接覆蓋會讓舊資料消失;全部複製又容易變成一團找不到脈絡的紀錄。
我們最後採用的是「每次更新都產生新版本、舊版本保留」的方式。使用者能看到演變過程,也能知道這次調整是接在哪一份資料之後。
這裡最有趣的坑,是兩個人剛好同時更新同一份資料。兩邊都以為自己正在建立下一版,結果可能都想取到同一個版本號。
這種事不能只靠前端提醒或程式碼裡的「先看一下再存檔」。最後要讓資料庫擔任守門員:把「同一份資料不能有重複版本」變成它本身會檢查的規則。有人慢了一步,就清楚告知他重新整理後再操作,而不是默默留下兩份看起來都對、其實彼此衝突的資料。
題目會變,資料也要跟得上
評估題目不是做完一次就永遠不動。欄位會增減、選項會調整、說明也會改寫;如果每改一題就得大幅調整資料結構,維護成本很快會失控。
因此,系統把一份評估的作答內容整份存進 JSON 這類半結構化欄位,題目調整時就不必跟著改資料表的 schema。不過資料庫不一定知道每一格的用途,欄位規則仍要由應用程式檢查。
我曾經遇過一個很典型的例子:使用者每一欄都沒有填超過限制,送出時卻被系統判定內容太長。原因不是他真的寫太多,而是系統不小心量到了整包打包後的資料,而不是使用者眼前的單一欄位。
修正時,我把長度驗證改回以單一欄位為單位。這樣才和使用者在畫面上看到的限制一致,不會因為儲存時的打包格式而誤判。
為了讓舊資料不會因為題目改版而「長錯樣子」,每次發布新題目時,也會保留當時的題目版本。日後回頭看舊紀錄,仍然能用當時的脈絡理解它。
刪除時,也要處理關聯與責任歸屬
在需要保留責任歸屬的系統裡,「刪掉帳號」或「刪掉資料」通常不是真的按一下就消失。
資料和建立者、組織、歷程之間常常有關聯。如果處理得太隨意,可能會留下找不到負責人的紀錄,讓資料變成孤兒;處理得太嚴格,又可能讓已經不再使用的資料把帳號或組織卡住,刪不掉。
我得先定義哪些資料必須保留歸屬、哪些情況可以暫時抽離關聯,再安排刪除的順序。資料庫約束也會檢查更新過程中的狀態,所以不能只確認最後結果正確;中間每一步的關聯都要成立,日後才能追得回資料的來源。
在沒有外網的環境部署
這個專案也讓我第一次比較完整地處理受限環境的部署。數位發展部的部署環境沒有對外網路,所以不能走一般的部署流程,把程式丟上去再在主機上抓套件、建立 image;每次更新都得先在本地把 image 建好、打包成可傳遞的檔案。
接著,在 shell 裡透過 SCP 把檔案傳到主機,再用 PuTTY 登入,載入預先建好的 image,並輸入 Docker Compose 指令啟動服務。每一步都得確認版本、檔案與服務狀態,漏掉一個環節,正式環境就可能還停在舊版。
這次經驗讓我體會到,交付時要一路確認到服務真的跑起來,而且跑的是要發布的版本。這部分是我在專案裡學到最多的事情之一。
有些問題,真的要上線才會遇到
開發環境順順的,不代表正式環境也會一模一樣。
這次的部署條件比較受限,讓我更重視兩件事:第一,發布流程要能明確確認「現在跑的是哪一版」;第二,跨環境的連線要把短暫中斷視為正常情況來面對。
有些連線問題不會直接跳出明確錯誤,而是看起來像使用者偶爾需要重試。後來從連線生命週期、服務等待時間與環境差異慢慢往回追,才把問題收斂下來。
這些問題得放回實際的部署環境、網路條件和操作節奏才能看清楚。
資安設計,重點是少一點誤傷
上線前補防護時,我們也得考慮正常使用者會不會被擋住。
例如,針對尚未登入就能使用的功能,防護措施要同時考量濫用風險與正常使用者,不該因為一個人的異常操作,害整個辦公環境的人都無法完成正常流程。
又例如,短效與長效的登入憑證不該用同一種方式保存。把不同風險的東西分開處理,才能在安全與使用體驗之間找到比較實際的平衡。
AI 幫我加速,但沒有替我做決定
開發時,我有用 Claude Code 協助撰寫與整理程式。它能幫我更快把想法做成 PoC,讓我和同事能盡快測試,發現問題就馬上調整。
我的習慣是把功能切小:做完一段就測,發現規則不對就回頭修,再往下一步走。權限、版本這類事情尤其不能只看畫面正常;還要刻意去測「本來就不該成功」的情境。
AI 可以幫忙加快實作、補測試情境、整理重複工作,但它不會替你釐清需求,也不會替你承擔「這個規則到底合不合理」的判斷。那部分還是得由人慢慢想、慢慢補。
最後留下的兩個提醒
先想清楚不能被破壞的規則,再做功能。 例如版本不能衝突、正式紀錄要可追溯、資料不能莫名失去歸屬。這些底線越早講清楚,後面的設計就越不容易一直補洞。
把「為什麼」也寫下來。 有些做法看起來只是多繞一步,背後往往是某次踩過的坑。留下背景與取捨,比只留下程式碼更能幫到未來接手的人。
做完後,我最有興趣的還是把權限與資料規則整理成實際流程。
還有就是,想不到在我的職涯中竟然有機會把自己開發的專案部署到 gov 網址上,應該也算是某種成就達成了哈哈哈😆
站內相關文章: