公共政策網路參與平臺

綜整回應:有關「金融業運用人工智慧(AI)指引」草案之建議與看法

感謝您提供建議與看法，金管會已參考外界意見修正並於113年6月20日公布「金融業運用人工智慧(AI)指引」(下稱本指引，詳附件)。針對您的意見，金管會相關說明如下：

一、有關總則章第一點之AI相關定義部分，關於人工智慧系統定義，建議於政府機關有統一定義。如果是符號操作型的模型算AI嗎？生成式AI定義內提到的人類智慧創造的內容，「決策結果」也算創造的內容嗎？

回應：為符合金融業界實務需求，本指引AI相關定義係參考自銀行公會「金融機構運用人工智慧技術作業規範」，未來我國若有制訂AI相關法律，將配合評估調整定義。另符號操作型的模型如符合本指引之AI系統定義「透過大量資料學習，利用機器學習或相關建立模型之演算法，進行感知、預測、決策、規劃、推理、溝通等模仿人類學習、思考及反應模式之系統」則屬之，由生成式AI產生的「決策結果」，亦屬模仿人類智慧所創造之內容。

二、目前數位部已成立AI產品與系統評測中心，是否會要求或鼓勵金融機構於相關AI產品或系統上線前，應先進行驗測？

       回應：本指引已於總則章第四(四)點訂有「如有需要得由第三方稽核或評測單位進行獨立驗證」之稽核或評測機制，數位發展部之AI產品與系統評測中心亦屬評測單位之一，本會未來也會就推動AI發展持續與數位發展部等相關部會進行合作。

三、有關總則章第五(一)點所稱市場共同委託該機構形成之集中度風險部分，建議能否請主管機關增加如何評估之說明？

回應：考量金融機構難以判斷市場共同委託第三方業者之集中度風險，已刪除「市場共同委託該機構形成之集中度風險」等文字。

四、有關第一章第二(一)1點「由可督導跨部門職務之高階主管或成立委員會進行監督及管理」一節，是否可就「成立」委員會用字建議調整為「納入」委員會進行監督管理。以發揮綜整提升現行委員會功能。

         回應：原「成立委員會進行監督及管理」文字調整為「由指定之委員會進行監督及管理」，金融機構可彈性選擇成立新委員會或發揮現行委員會功能。

五、有關第二章第一點「儘可能避免偏見(bias)。蒐集資料時應注意其來源及可能產生的偏見，謹慎使用個人屬性資料，並定期審查及驗證AI模型產出之結果，以確保其準確性及最小化偏見」一節，建請主管機關是否就其說明提供有更明確之說明及舉例作法，俾以各金融機構得以依循辦理。

　　回應：已將「避免偏見」或「最小化偏見」文字調整為「儘可能避免歧視」，說明重點在於避免偏見所造成之不公平或歧視。未來如有需要將請各金融業同業公會研訂相關實務作法或舉例說明。

六、有關第二章第四(三)點「重要之關鍵系統」是否可列出例示名單？

          回應：「重要之關鍵系統」宜由金融機構自行判斷。

七、有關第三章第三(一)4(2)點「AI 系統如有資料外洩或違反個人資料保護法之疑慮時，金融機構應循現行機制通報及處理」一節，關於「疑慮」就要通報，實務上的標準相當難以認定，建請調整為「情事」才要通報。

        回應：已將「疑慮」調整為「情事」。

八、有關第五章第三(一)2(3)點「金融機構宜備置其選擇之可解釋AI模型工作原理及使用參數之相關文件或技術報告，並應提供監理機關存取及了解AI模型與所使用數據之權限，以便其查詢與瞭解金融機構AI系統之運作和使用數據之妥適性」一節，提供監理機關存取AI模型與使用數據之權限，能否詳細說明該存取權限範疇與執行方式、環境？若此權限範疇指必須提供特定權限給相關監理機關人員進到系統進行操作，是否違反相關權限管理規範，或是增加相關作業風險？

         回應：已將文字調整為「金融機構如係自行或委託研發AI系統，宜規劃備置AI系統架構之相關文件或技術報告，並規劃提供監理機關存取及了解AI系統與所使用數據之權限，以便未來其查詢與瞭解金融機構AI系統之運作及使用數據之妥適性」。該點係基於主管機關行使監理職權之需，應無違反權限管理相關規範或增加作業相關風險等問題。

附件：https://reurl.cc/WxYQZx