陳委員永康:局長好。今天我準備了很多有關 AI 的流程圖表,剛才局長已經做了一部分的回應了 ,工程技術部分,我們在這邊就不做深入的探討,我只請教幾個問題,第一個就是在我們局裡 面,高階的長官同仁有沒有人本身先使用過 AI,還是由研析人員?我講研析部分,完全用研析 人員的概念去使用 AI,然後呈報給長官。
蔡局長明彥:對,主要是研析部門在做相關的研究跟開發,我們局裡面 AI 的小組在各個單位都有 ,我們也非常鼓勵有一些橫向經驗的交流。
陳委員永康:因為剛才都探討了深度偽造、網路攻擊,還有最主要就是 AI 可以產生一些結果,並 不是假訊息,可是它扭曲了你的價值觀,也就是說,我們在講用 AI 的方法,剛剛講反制就是洗 腦、反洗腦這個東西,將來我想數發部在法律上、法遵上面,科技的進步,通常我們的法律不 太容易跟得上,這是我們面臨的最大的一個挑戰。我等一下舉個例給你看,像生成式 AI 它的風 險、它的正反面、效益,這些東西都有流程,我們確定你使用的目標、方法、手段,以法律與 規範為監管基礎,符合成本效益的監管模式,因為你投入太大的經費去管一些有機會發生,但 是它並不是那麼嚴重的,你做到那麼細也沒有好處。 我最後用一個簡圖來給您做一個回應,就是這個圖,現在媒體已經沒有人在了,所以我就很 高興,這個圖是我們講川普對應中國大陸,從他在選舉過程中的目的、方法、手段,這裡面有 屬於對抗、合作,有屬於主觀、客觀,有屬於推測、有反思,有宏觀、微觀,不同的方法論裡 面,我們把這個邏輯框架圖餵進 AI,但是當你把它的邏輯順序調整的時候,AI 的回復就不一樣 了,所以在這邊 8 個方塊圖,我把它輪轉一圈,它會產生 64 種不同的組合,這種分析的情況下 ,對我們的參謀、幕僚判斷,它裡面講的都是真的現象,但是不會反映出真相。在這種情況下 ,AI 的判斷就要我們的參與人員知道當初這個東西設計的邏輯框架,因為你問 AI 的並不是文字 ,並不是句子。第一個,你的 information 是從工情來的;第二個,你有 database;第三個,你有 邏輯框架;第四個,組織架構把這個變成一個 infographic,餵進 AI,那麼 AI 就會產生一些給你 的建議,但這個建議是主觀、客觀,還是正確、不正確,這個有不同的結果。我舉個例給您聽 ,像這個我們只是把上面的狀況轉一圈,所有的東西都會不一樣。所以當你把美國它追求的目 的,還是它的方法、手段做調整,也會有不一樣的結果。像這種東西,我做一個很簡單的。 (播放錄音)
陳委員永康:這個是 AI 就這個邏輯框架所做的回答,把這個回答再轉換成英文,你再送到另外一 個 AI 的技術去,它又幫你把邏輯框架重新調整,就是說,它講的都是正確的,但是當你把框架 的內容做了調整,你再問 AI,它又會產生另外不同的一套,當把這個語言、英語套到國外的學 者論證裡面引述進去,這個就變成假訊息了。這種東西很容易影響到我們的學者專家政治的判 斷。 我現在特別是用這個範例向您做一個解說,我希望我們在做研析的單位,第一個,先把美國 政策跟國際情勢的邏輯框架把它畫出來,大家做客觀的分析、溝通,確定我們的路徑、方法、 手段,最後能不能支持我們的國安,這是一個大格局。這種情況下,再用 AI 的資料進來比對就 會比較客觀,而不是直接去找這個是文字輸入,這個是語音輸入,第三個影像,最後變成一個 動態,這四個全部可以組合。因為高階的長官並不是本身有工程背景或者用 AI,由研析幕僚單 位來使用這個東西,因為第一個有時間的壓力,可是現在這個生成式的結果,像這個方塊圖我 們改變一下,問它 30 秒,產生另外一套完全不同的分析論述,所以這個東西 8 乘 8,它可以產 生 64 種不同的結果。請問這種情況下,我們的幕僚如何去收斂?可能迴歸過來,你還要倒過來 ,用你的 AI 技術去過濾、再簡化,這個部分我是不是請局長做一個回應?
蔡局長明彥:基本上,委員剛剛所分享到的一些 AI 生成技術運用過程當中的方法論,我們局裡面 事實上已經有投入滿長一段時間的研究。也跟委員說明的是,我們也曾經透過這些 AI 的系統去 預測中共的人事布局,在啟動這樣的一個生成式 AI 系統過程當中,就正如委員所講的,我們必 須要由研析人員來設定,我們當時設定的大概有 70 個指標,把 70 個指標建立到我們生成式 AI 的系統裡面去,在這些指標的資料運作之下,由它幫我們來預測中共人事可能的布局。跟委員 說明的是,預測的正確率相當的高,這主要的重點就在於說,我們本身的資料庫跟指標設定必 須要能夠貼近中共的決策思維,所以這部分確實是我們在方法論運用上一直在關注的一個主要 的重點。
陳委員永康:特別還是建議,就是說,我們做研析人員,他的工具,跟他的資料庫,需要持續在這 方面投資增長,如果只是用純粹的一般工情,也許可以花點錢,很多軟體都會提供,但是邏輯 框架就像您講的,預測系統包括你的資料庫,包括你的 information,還有你的邏輯框架,最後送 進 AI 的 infographic,這個要有持續更新。
蔡局長明彥:是。
陳委員永康:我特別提出這個請局裡面在這部分努力。
蔡局長明彥:謝謝陳委員的指導,我們還有一些設計上的競賽,有時候用 AI 系統去做分析預判, 有時候用人工系統來做分析預判,然後再做比較,這樣可以在過程當中不斷策進我們在 AI 運用 方法論上的一些經驗。