康士藤專欄|AI組織執行力系列 05
2028年前,至少一成五的日常決策將由AI自主做出
當責,才是代理式AI的安全閥
- 代理式AI
- 當責
- 權責設計
本篇金句
當AI開始做決定,誰來為結果負責?
重點摘要
- 國際研究預測,2028年前至少一成五的日常工作決策將由代理式AI自主做出。
- 當AI取代原本的簽核點,若沒有指定結果當責人,責任就會在流程中懸空。
- 依影響程度分級授權,並為每一級指定具名的當責人、查核點與升級條件。
AI可以替你做決定,但不會替你承擔結果;權責沒有重新設計,效率只會換來更大的風險。
一張沒人簽的退款單
一家金融業者導入AI客服後,系統可以依據規則自動核准小額退款。上線初期一切順利,處理速度明顯提升。直到某天,一批不符合條件的申請被系統連續核准,問題在月底對帳時才被發現。
檢討會上,客服主管說規則是風控部門設的;風控主管說系統參數是IT調的;IT說他們只是依需求單設定;而原本負責審核的專員則表示,「這類案件已經不經過我了」。每個人說的都是事實,但沒有一個人能回答一個簡單的問題:這個結果,到底是誰的?
這不是AI出錯的故事,而是權責沒有跟著流程一起重新設計的故事。類似的情境,正在愈來愈多導入自動化決策的企業裡上演,只是多數時候問題不大,所以沒有人追問。
決策正在從人的手上移出去
國際研究機構在2024年底發布的年度策略科技趨勢中預測,到2028年,至少一成五的日常工作決策將由代理式AI自主做出;而在2024年,這個比例幾乎為零。
從幾乎為零到一成五,代表的不只是工具升級,而是組織中「誰做決定」這件事的結構性改變。過去AI多半扮演輔助角色:整理資料、產出建議,最後仍由人拍板;代理式AI則能在授權範圍內自行判斷並執行,例如自動調整訂單、回覆客戶、核准申請。
但同一家機構也提醒了另一面:它在2025年中預測,2027年底前,將有超過4成的代理式AI專案遭到取消。兩個預測放在一起看,訊息很清楚——代理式AI會進入日常決策,但不是每一家企業都能讓它穩定運作。差別往往不在技術,而在組織有沒有準備好承接「AI做了決定之後」的那一段。
- ≈0%2024年由代理式AI自主做出的日常工作決策
- ≥15%2028年預測比例
- >40%2027年底前預計被取消的代理式AI專案
資料來源:國際研究機構預測(2024年底、2025年中發布)。
另一份全球AI調查也指出,在AI上創造顯著績效的企業,徹底重新設計個別工作流程的比例,接近其他企業的三倍。重新設計流程,必然包含重新設計權責。
為什麼權責會在AI流程中消失
傳統流程的權責,是跟著「人經手」而來的:誰簽核、誰負責。當某個步驟交給AI自動執行,原本的經手人消失了,責任也跟著懸空。常見的情況有三種:
第一,把「參與」當成「負責」。設規則、調參數、寫需求、看報表的人都參與了,但沒有人被指定為結果的擁有者。
第二,責任停在任務,而不是結果。每個部門都完成了自己被交辦的事,卻沒有人對最終的客戶結果負責。
第三,出了問題才回頭找人。缺乏事前約定的查核點與升級機制,錯誤只能在事後被發現,檢討自然變成相互解釋。
這三種情況背後,是一個更深的組織慣性:台灣企業的權責設計,多半建立在「簽核」之上。誰蓋章,誰負責;沒有蓋章,就不算自己的事。這套機制在人經手每個步驟的年代運作良好,但當代理式AI在授權範圍內自行決定,簽核點本身就消失了。如果組織沒有發展出「不靠簽核也能清楚當責」的新習慣,就只剩兩條路:要嘛重新把每一個AI決策拉回人工簽核,讓效率歸零;要嘛放任AI執行,讓風險懸空。兩條路都會讓代理式AI專案走向被取消的那一邊。
台灣主管的測評數據,也揭露了這個慣性的另一面。康士藤人才測評中心《2026 AI領導力白皮書》指出,「賦能協作」是台灣主管最突出的管理潛質,但協作若缺少明確分工與當責,很容易變成「人人有責、無人負責」;同時,有64%的主管在「兼顧風險控管與機會掌握」的決策力上有待加強。當AI拿走了簽核點,這兩個缺口會同時浮上檯面:沒有人確定誰該負責,也沒有人敢拿捏放手的尺度。
- 64%風險與機會的拿捏決策力有待加強
用當責重新設計人機權責
康士藤長期協助企業建立當責文化,在AI情境中,我們會從四個面向著手。
一、用結果漏斗把責任拉回結果。結果漏斗的精神,是不停在「我做了什麼」,而是一路追問到「最後對客戶與組織產生了什麼結果」。套用到AI流程,每一個由AI執行的決策,都要能對應到一位對結果當責的人。這個人不一定親手處理每一筆案件,但他要定義AI的授權範圍、設定查核方式,並在結果偏離時啟動修正。
二、把人機分工寫進流程,而不是寫在說明書裡。哪些決策AI可以自主執行、哪些需要人複核、哪些情況必須升級,都要在流程設計時就講清楚。實務上,可以依決策的影響範圍與可逆程度分級:影響小、出錯容易修正的,授權AI自主執行,由人定期抽查;影響較大或涉及客戶權益的,由AI提出建議、人來決定;例外與爭議案件,則明確規定升級給誰。分級本身不難,難的是讓每一級都有具名的當責人。把AI加進舊流程不夠,要重設步驟、人機分工、查核與權責。
- 影響小、出錯容易修正
AI自主執行,由人定期抽查結果
- 影響大、涉及客戶權益
AI提出建議,由人做最後決定
- 例外與爭議案件
明確規定升級給誰,並約定暫停自動執行的條件
權責先寫清楚,團隊才敢把決策交給AI
三、用FOSA把抱怨轉成行動。導入代理式AI的過程中,一定會出現各種抱怨:「系統又亂判」、「還不如我自己做」。主管若只是安撫或忽略,抱怨會累積成抗拒。FOSA的用意,是引導團隊從抱怨中釐清事實、找出真正想達成的目標,進而提出可以執行的解決方案與行動,讓第一線的觀察變成流程改善的來源。
四、當責領導力:主管先承擔,團隊才敢授權。當責不是把責任往下推。如果主管在AI出錯時第一句話是「誰讓系統這樣做的」,團隊就會選擇不授權AI、凡事自己再做一遍,效率永遠出不來。主管要提供溝通、支持、資源、授權、校準與教練,讓團隊知道:在約定的範圍內,大膽交給AI;出了問題,一起修流程。回到開頭那張退款單,如果事前有一位對「退款正確性」當責的人,定義了AI可自動核准的條件、每週抽查一次結果,並約定異常時立即暫停自動核准,問題很可能在第一週就被發現,而不是等到月底。
從現有成果到目標成果,需要新的當責習慣
回到經營結果來看。企業今天的「現有成果」,是靠「人人經手、層層簽核」這套舊習慣撐起來的;若希望透過代理式AI達成新的「目標成果」,例如更快的服務回應與更低的作業成本,需要的新習慣則是「清楚授權、明確當責、即時校準」。
這組新習慣不會自己長出來。主管可以用期望鏈盤點:AI的產出交給誰?下游期待什麼品質?出現例外時找誰?再透過持續跟進與校準,用數據與對話及早發現落差。跟進不是監控AI或監控人,而是確保整條鏈上的每個人都知道自己為哪一段結果負責。當權責清楚,團隊才敢把更多決策交給AI,效率與風險控管也才能同時成立。
三個行動建議
- 盤點一個已經或即將由AI自主執行的決策,指定一位結果當責人,並寫下授權範圍與升級條件。
- 在每一個AI流程中設計至少一個人工查核點,並定期檢視查核結果,而不是等月底對帳。
- 主管在第一次AI出錯的檢討會上,先談流程如何修正,再談個人;這一次的處理方式,會決定團隊未來是否敢授權。
代理式AI會越來越能幹,但它無法替組織回答最根本的問題。當AI開始做決定,誰來為結果負責?這個答案必須在流程上線之前就寫清楚。
常見問題 FAQ
Q:什麼是代理式AI?
代理式AI是能在授權範圍內自行判斷並執行的AI,例如自動調整訂單、回覆客戶或核准申請,不只是提供建議,而是直接做出決定。
Q:AI做出錯誤決策時,誰該負責?
應在流程上線前就指定一位對結果當責的人。他不必親手處理每筆案件,但要定義AI的授權範圍、設定查核方式,並在結果偏離時啟動修正。
Q:企業如何為代理式AI分級授權?
影響小、容易修正的決策可由AI自主執行並定期抽查;影響大或涉及客戶權益的,由AI建議、人來決定;例外與爭議案件則明確規定升級對象。
延伸行動
想讓代理式AI安全上路?歡迎聯繫康士藤人才測評中心了解更多
聯絡我們