陳委員素月：部長早安。今天委員會是針對推動 AI 之產業發展政策，邀請部長進行專題報告，我 們知道人工智慧（AI）產業發展真的是日新月異，而且速度非常地快，當然 AI 的運用讓我們生 活在方方面面都可以更加的便利，也讓我們的社會真的是造成很大的一個變革，當然如果稍微 不慎的話，也是會造成很大的負面影響。 我們看到禮拜一在司法及法制委員會黃國昌委員拿了一個偵訊錄音檔來進行質詢，當然最後 他一直強調說，那個是一個示範帶。可是這樣子的一個質詢，事實上也引起了舉國嘩然，像本 席昨天在地方上拜訪的時候，發覺真的造成基層很大的討論，有年輕朋友告訴我，他們認為這 個錄音檔是真的，他們跟我說，因為 AI 沒有辦法把人的情緒模仿得那麼真實，所以他們認為那 個是真的。我不曉得部長，那天的錄音檔你有聽嗎？
黃部長彥男：對，不過這件事情我想我們還是尊重法務部的調查，因為這個真假或是怎麼樣，我這 邊不清楚，所以沒辦法給意見，不過我個人覺得對生成式 AI 的使用我們要有些規範，包括運用 所謂 Deepfake 製造假的影音、假的相片或假的 video 來散布假訊息，這是絕對不允許的。
陳委員素月：所以以這樣子的質詢，真的是一個非常大的不良示範，這樣子的音檔，他也一直在強 調說是一個示範帶，可是這樣子的質詢，真的也是造成社會大眾對於司法信任度的破壞，然後 也破壞司法的公正性，所以我覺得不管是真或假，真的對我們司法都是一個很大的傷害。剛剛 部長有說，針對生成式 AI 要有一些規範，我們也知道 AI 基本法現在正在進行討論當中，當然 那天我們在聯席會議後來也是決議要擇期再審，所以針對 AI 基本法，請教部長，所謂的規範， 你覺得應該要怎樣來做一個規範？
黃部長彥男：我們規範有幾個重點，當然就剛剛講有一些是跟風險相關，生成式 AI 確實在很多應 用上會製造一些風險，包括剛剛講的假訊息，這也是一種風險，所以我們對於風險先有一些分 類，分類完以後就由各目的事業主管機關根據他們的業務去做一些分級，其中有些東西，比如 不能用生成式 AI 去做假的訊息，這一定是禁止。
陳委員素月：對啊！是絕對禁止。
黃部長彥男：所以我想這個會從法規去做一些要求，同時我們有一些機制，比如我們怎麼去判斷這 個 video 是不是 AI 生成的……
陳委員素月：這技術上有辦法判定嗎？
黃部長彥男：現在有在發展這些技術……
陳委員素月：正在發展？
黃部長彥男：對！資安院都有在發展這個技術。
陳委員素月：可是我覺得你正在發展的速度是不是太慢了？應該是要趕快……
黃部長彥男：我們已經有些成果，但是這種東西就是準確率的問題，我們希望能夠提高準確率，但 是這個技術的確是我們發展的重點，所以我們確實有針對相片或影音的真假，用 AI 去做判讀， 這個技術在發展中。
陳委員素月：因為我們也看到，其實在 2023 年總統大選期間，柯文哲也曾經遭神秘的音檔假冒他 批評賴總統嘛，當時他也表示，世上惡劣的事太多了。所以看起來當時他對這種用 AI 生成偽造 假音檔的行為也覺得是一個非常惡劣的事情，所以我們也希望針對這樣生成假語音的狀況應該 要有一個制止的方式，或者是防範，或者是處罰。
陳委員素月：好，我們希望可以全面同時來進行。我們再回歸到詐騙的部分，因為生成式 AI 真的 是推陳出新，也讓民眾防不勝防，我們也看到微軟在一份網路威脅情報研究報告裡面提到，AI 的出現，降低了詐騙的技術門檻。因為它可以運用在電商的詐騙網站、求職面試的詐騙，或者 是技術支援的詐騙等等各方面，尤其是 AI 語音的生成，就是我們剛剛討論的那個狀況，現在很 多詐騙集團也就是用 AI 語音的生成來進行詐騙，詐騙集團在這種技術上可以說是跟得上時代， 可是民眾在這方面好像還沒有辦法去因應，我們不曉得數位部在這方面，目前或未來有沒有什 麼樣的方法，可以來遏止這樣子的一個詐騙？
黃部長彥男：我們現在對這種，尤其是廣告方面，有一些工具可以每天在網路上去搜尋掃描，每天 可以找到 5,000 到 1 萬個類似這樣的詐騙廣告，但技術上，我剛剛講可以再更精進，當然我們也 是用 AI 去做判斷。另外一個，我們有要求廣告商如果要用生成式 AI 製造廣告的影片，必須註 明這是 AI 生成，這是我們的一些要求，就是讓民眾知道所看到的廣告是來自生成式 AI，不是說 不能用生成式 AI 去做廣告，而是說你所看到的廣告影片是來自生成式 AI 必須要註明，所以我 們當然從法規面、從各方面去要求，另外從技術面，我們可以去判斷這個廣告是不是 AI 生成， 或任何的訊息是不是由 AI 生成，當然這個東西還不是 100%的準確，不過我們還是持續在努力 ，讓技術發展能夠更成熟。
陳委員素月：是，剛剛部長提到用 AI 生成的廣告要註明，這方面我們只是要求，會入法嗎？還是 ……
黃部長彥男：這個有入法。
林署長俊秀：詐欺犯罪危害防制條例裡面已經入法。
陳委員素月：從那個方面去入法，好，因為我們也知道這個科技進步真的是日新月異，目前詐騙集 團也利用 AI 更新他們的詐騙手法，所以我們也希望數發部未來應該要善用，也要結合 AI 的各 方面研發來進行打詐。
