黃委員仁：等一下我們會往下延伸。本席所知道的是，這個 AI 軟體的特色在於學習，意思就是在 當我們越使用它，它就會更聰明。
蔡局長明彥：對，越會掌握使用的習性。
黃委員仁：因為它可以透過用戶使用的過程，蒐集個人或某群體的思維、邏輯和習慣。以國安局的 角度，AI 聊天軟體是在蒐集或者再生成，對國安更具有危險性。本席看了今天的報導，發現比 較有意思的是再生成，所構成的威脅是大家都在重視 AI 製造出假訊息，它也提供反制的想法， 但是比較忽略蒐集的部分。
蔡局長明彥：對，這確實是一個威脅，也謝謝委員利用質詢的機會，提出這個非常重要問題。因為 AI 聊天軟體是連網的，所以變成它可以即時掌蒐使用者使用軟體的習性。這也是為什麼我們一 再提醒，使用這種生成式的 AI 一定要特別注意。本局一定是要落地的，落地的意思就是所謂的 實體隔離，我們是運用它的軟體在我們內部的系統來測試，但是這種中共製的 app 因為是連網的 ，所以它可以即時掌蒐一些資訊，這確實有資安疑慮，要特別注意。
黃委員仁：因為有這樣的訊息，所以我們要加以來反制或是防範，無論是中國大陸的 Talkie 還是美 國的 ChatGPT 都在蒐集、使用媒體的訊息，這也是 AI 發展的條件之一，雖然這是不可避免的， 但政府不能單純以開發國家來區分威脅性，而是應針對個別軟體區分威脅程度，政府是否有做 這樣的工作，並且是否有能力做到個別檢視？
黃委員仁：第二個，指導美國國家安全及情報部門使用人工智慧（AI）之新規定的備忘錄裡面， 局長，你認為 AI 錯假訊息的這種威脅，除了來自中國大陸政府之外，有沒有可能來自於盟友， 甚至我們自己的政府？今天出席的各部會報告中提到以 AI 反制 AI，本席首先想要請教國安局局 長，政府具體要如何以 AI 反制 AI，政府又要如何應用 AI 的技術？
蔡局長明彥：像我們今天報告的主題，AI 可以運用到錯假訊息或是資安攻擊，因為它發動的攻擊 能量會非常龐大，所以我們必須要用 AI 的技術來做反制，因為以傳統人力來講會非常吃力，在 這部分我們的努力大概分兩個部分，第一個部分是運用 AI 查找資安上可能的攻擊來源，我們會 針對這些駭客團體的攻擊方式與路徑做蒐集，然後讓我們的 AI 系統可以學習辨識，跟委員很誠 實的報告，我們過去透過 AI 系統來查找這些境外的 IP 或攻擊來源，正確比例非常高，跟人工來 比較正確比例非常高，這是一部分。
蔡局長明彥：美國這一份備忘錄主要提到的是 AI 未來發展技術的主要方向，另外也提到了可能帶 來的風險，再來，另外一個重點就在於跟國際連結的部分，哪一些是可以連結的，哪一些可能 要注意，這大概是這一次白宮公布備忘錄最主要的重點。
黃委員仁：其實在這個備忘錄裡面，你剛剛講的是對的，但是本席要再加上個人的看法，有兩個部 分，第一個，鼓勵使用 AI，強調國安和情報部門不能利用 AI 壓迫言論自由與公民的權利，明定 政府不能用這個來壓迫言論自由。第二個，禁止濫用 AI，強調國安和情報部門不能利用 AI 壓迫 政府的言論自由。你們在報告中提到要以 AI 反制 AI，這本來就是你們要做的事情，但情治單位 強調以 AI 反制 AI 的同時，如果缺乏明確使用的指導規範，很可能會被濫用在自己國人身上， 就算政府是對於不利的消息認知作戰，以致於遭政府不斷地濫用後，國人根本無法確定到底是 中共還是現在執政黨在混淆民眾的認知。
蔡局長明彥：謝謝委員提到這個問題，事實上，剛剛我們在口頭報告的時候也特別提到這一點，也 就是對於 AI 的使用跟管理還是應該要有法規、法遵的規範，這部分因為業管單位數發部已經在 研擬人工智慧基本法，所以本局會針對相關國外發展的趨勢提供給業管單位作為參考。另外， 本局內部對於使用 AI 也有我們自己的作業規範，避免使 AI 被濫用，一方面保障我們國人的權 益，一方面保障國家安全。
黃委員仁：各部會強調政府應用 AI、以 AI 反制 AI，但都是要告訴國人如何使用，使用時是否受 到規範和限制，這一點你們一定要告訴國人，讓國人知道，而且使用過程是否侵害到國人自由 或隱私，這讓本席非常擔心政府會濫用。
蔡局長明彥：我們會持續跟相關單位，包括國科會跟數發部來交換意見。
黃委員仁：我延續剛剛徐巧芯委員所講的，就高嘉瑜的深偽影片部分請教警政署，近日在網路上流 傳一段民進黨前立委高嘉瑜遭 AI 變造的假政論節目抖音影片，影片中高嘉瑜說：「我對民進黨 沒有什麼好感，這個爛黨真的糟糕，從賴清德開始就歪瓜劣棗」。這個影片雖然仔細看還是能 夠辨別某些地方嘴型不一樣，但仿真程度不低，影片大約在一週前流傳，雖然不少觀看者能夠 區別真偽，甚至留言取笑影片是偽造，但講的內容是否真實及還是為了避免誤會，高嘉瑜已在 四天前提告，本席特別確認這個影片目前在網路上仍然沒有刪除，請問警政署。
