游委員顥：好，沒關係。反正最主要的是本席跟許多委員有一樣、共同的期待啦！從交通委員會、 數發部，再到教文委員會、國科會，其實主要就是希望政策方向的指標、行政執行的責任主體 與適法依據能夠早日確定。 我接著就教目前的應用，次長也備著好了。針對高風險 AI 場域執行控管的機制，目前 AI 技 術確實已經滲透入司法判決、監獄系統、醫療診斷、金融信貸、智慧交通、學校學習系統等高度 敏感場域，本席就教，是否授權主管機關對於高風險 AI 應用場域進行查核、撤銷或限制使用？ 就這個議題來講，讓國科會先回答嗎？
葉次長寧：同意委員的說法，就是其實不是 AI 基本法通過之後才能做，各個作用法在現在這個階 段就應該依據科技的發展處理，如同過去有機器學習、深偽，現在也要隨著 AI 技術的不斷發展 做調適。其實我們也看到很多主管機關都已經開始做了，譬如說在醫療部分，我國的醫療向來 都是跟國際接軌的，在醫療部分，醫療工具如果使用 AI 或 machine learning，需要經過衛福部的 審核，而且是由專家審議會來審核的。
游委員顥：好。這種高風險 AI 運用發生任何問題的時候，人民申訴的對象是應該針對數發部，還 是……
葉次長寧：每一個領域當然都有其主管機關，像是金管會也針對銀行業使用 AI 做出指引，如果銀 行業不當使用 AI 的話，第一線當然會由銀行業的主管機關金管會受理民眾申訴及消費者保護相 關事宜。
游委員顥：好。此外，本席也針對 AI 風險制度是否有法令依據，要求在運用上必須符合憲法的法 律保留原則，所以在高風險用途應分層管理，還有包括未來自動駕駛、AI 診斷以及生成虛假內 容，都應該在條文內能夠有相關的管制及規範，目前在未來的院版來講都有規範在內嗎？
葉次長寧：基本法顧名思義它是基本原則，不會對特定予以規範，但是我們會訂定所謂 AI 風險的 分類框架，在各個作用法裡面是可以訂定明確規範的。誠如委員所說的，包括無人載具的條例 ，乃至於醫療法相關的規定，其實各個主管機關都在盤點相關的法規。
游委員顥：好。同樣地，在目前 AI 的運用上，本席也看到最近這幾個月來許多軍事演習的運用。 AI 的發展以目前來講，包括法國或是美國的國防高等研究計畫署，其實都有將 AI 的部分充分融 入許多國防、甚至民防的技術上。以目前來講，台灣在 AI 的技術上，跟這些相關的國防或民防 的運用，是否有跟上腳步？以及國科會是否有盤點相關的國防應用、有潛力的 AI 企業，並且實 際投入在所謂的國家防衛或全民防衛上？
葉次長寧：因為國防部分涉及機密的資訊，我是沒有接觸到這方面的資訊。
游委員顥：所以說這個就是問題所在啊！當初要問這個部分，預期你們一定會說這是機密資料、機 密會議。本席也不要求需要任何一個機密資料，但是目前國內在發展 AI 的部分，不論是產業界 ，甚至基本法，同樣地在 AI 的運用上，包括國科會或數發部，你們算是國內 AI 發展最強的機 關，但是問題是在國防或是民防的部分，實際上 AI 的運用跟盤點，有沒有開過相關的會議，或 是目前有沒有做過任何跨部會的討論？沒有嗎？
葉次長寧：這個是國防部的主責，我們就不方便涉入國防部的部分。
游委員顥：所以說國防部用國防部的 AI，跟其他國家用他們的 AI 這種聯合的，不管是美國也好， 或是日本也好，就是在數發部或是國科會的部分，不管是模型或是整體的應用上，是完全沒有 平行地去做溝通或是討論過嗎？
游委員顥：好，時間有限。本席還是再次強調，我們看到網路上有非常多透過深偽技術，不管是圖 片、影像或是散布假訊息造成許多恐慌。這個部分不僅涉及國防安全，也涉及全民在防衛上， 不管是正確訊息的取得或是認知，這個部分不是單就國防部一個單位要去解決的問題，其實包 括數發部對假訊息的處理，還包括法務部許多假訊息的查緝。上次本席就遇到了我們地方上的 罷免團體，他們用假訊息，直接用 AI 來生成偽造本席辦公室的新聞稿，法務部那時候就已經有 專案調查，可是這個只是一個小事啊！我個人來講是不介意。但是如果今天許多生成的假訊息 造成民眾恐慌，那不僅是國防或是民防，甚至數發部能夠去追查、去做控管或管制，才能夠在 AI 對於市場在台灣的應用或是政治的影響跟衝擊去做一些防範。所以本席還是要求，也是建議 ，其實 AI 目前在各個社會層面的運用上，不僅是數發部或是國科會，在基本法的通過，甚至在 許多國防或民防的運用上，行政院應該扮演角色，也希望數發部、國科會能夠提出建議。
