逐字稿｜馬文君：專題報告：AI技術在資安、深偽...

觀測站首頁

關於觀測站

意見回饋

報導者開放實驗室

訂閱電子報

贊助我們

選擇回報類型

內容問題

發現錯字、資訊錯誤或內容異常？請回報給我們！

產品問題

遇到功能異常或有改進建議？歡迎提供您的回饋！

取消

下一步

資料處理中，請稍候⋯⋯

我們正在載入最新內容，很快就好！

逐字稿｜馬文君：專題報告：AI技術在資安、深偽... - 報導者觀測站

2024/11/18

專題報告：AI技術在資安、深偽（Deepfake）影片及錯假訊息之影響評估及因應

iVOD

質詢片段切換

質詢立委

馬文君

列席質詢對象／內政部警政署刑事警察局副局長林信雄、國家安全局副局長張元斌、國家科學及技術委員會前瞻及應用科技處處長蔡妙慈、數位發展部政務次長林宜敬

#數位犯罪防制

#詐騙犯罪防制

#人工智慧（AI）應用...

質詢立委

馬文君

#數位犯罪防制

#詐騙犯罪防制

#人工智慧（AI）應用...

質詢立委

馬文君

#數位犯罪防制

#詐騙犯罪防制

#人工智慧（AI）應用...

馬文君質疑政府是否已制定類似美國白宮國安備忘錄的框架，以規範AI技術的使用，並要求保障人民言論自由與人權，強調目前相關規範進度過於緩慢。
馬文君批評警政署在詐騙防制上的成效，指出詐騙案件從2019年的2萬3千多件暴增至2023年的超過3萬5千件，並質疑「效果不錯」的說法，要求提出更有效的防制策略。
馬文君呼籲數發部應加強24小時不間斷的詐騙防制宣導，透過社群網站、媒體等管道提醒民眾最新詐騙手法，而非僅在事後處理偽冒廣告或分案。
馬文君以防疫期間成功的宣導措施為例，建議政府應採取類似方式，加強對民眾的教育與提醒，以有效降低詐騙案件發生率。
張元斌回應人工智慧基本法年底前將交付行政院討論，並承諾國安局將持續掌握詐騙相關動態；林宜敬則表示數發部將加強前端宣導與偵測，但承認目前仍有不足之處。

馬委員文君：（10 時 57 分）謝謝主席，麻煩請國安局、數發部、警政署。

張副局長元斌：委員早。

馬委員文君：早。副局長，我們今天討論的是 AI 技術在資安還有深偽影片及錯假訊息之影響評估及因應，其實最近不管是國內外的政治也好，或者很多的樣態，這個部分被運用得越來越多，然後可能也越來越真假難辨。上個月 24 號美國白宮針對人工智慧發表首份國安備忘錄，要求五角大廈及情報體系要強化運用 AI 技術，確保在相關領域可以維持跟對手之間的優勢，所謂對手大概很大的一部分指的是中國大陸，因為他們在這一部分可能也進展非常快速，不論是 AI 也好，量子技術也好。不過美國同時也明確禁止政府機構使用該技術來進行不符民主價值的行為，也就是政府部門不得使用 AI 技術對美國人民的自由言論進行監控，相對的，其實任何國家要訂定相關規範的時候，人民的言論自由可能都是應該要保障的，對不對？我們的政府跟國安部門有沒有類似美國白宮發表的國安備忘錄，規範政府使用 AI 技術的框架，目前有沒有？

張副局長元斌：跟委員報告，因為 AI 的進步太快，所以它延伸了便利，同時也會帶來很多的威脅，除了剛剛委員所提到的美國以外，歐盟也在近年提出人工智慧法案來框定怎麼樣在使用 AI 的同時，也能兼顧到它不要誤用……

馬委員文君：我們有沒有？我要知道的是我們有沒有。

張副局長元斌：我們國家目前是由國科會在草擬一個人工智慧的基本法，這個部分我們政府機關已經討論了很多次，年底前應該會交付行政院來做討論，本局也有參與這個人工智慧基本法的討論，也提供了相關的意見。這個目的是要兼顧鼓勵創新還有人民的權益。委員剛剛考量的，在人工智慧基本法法案裡面就有明確的要求，就是要兼顧到人民既有的人權跟機敏資訊的維護，還有不能夠濫用它，這個是在基本法就已經有匡定的。

馬委員文君：對，基本法，我想那個本來就是基本的，像美國、歐盟，在運用這個部分或者在訂定規範，當然不可以影響到人民，可是我現在要詢問的是，剛剛副局長有提到，有可能在年底之前就送出來嗎？

張副局長元斌：我們看進度大概是年底，年底會在……

馬委員文君：年底之前可以嗎？這是國科會做的嗎？

張副局長元斌：對，國科會。

馬委員文君：什麼時候可以？現在的進度簡單說明就好，進度就好。

蔡處長妙慈：報告委員，進度的部分，我們已經送到行政院了，所以行政院這邊會再做跨部會整體的討論跟審查。

馬委員文君：目前行政院跟所屬機關使用生成式 AI 參考指引的這個部分，對不對？

蔡處長妙慈：不是，是 AI 基本法。

馬委員文君：基本法？

蔡處長妙慈：對。

馬委員文君：它的內容是只有針對政府部門，還是包含比如工商業界還有科技界？所有的、廣泛的都有嗎？是不是對所有的對象？

蔡處長妙慈：報告委員，它等於是要 highlight 國家推動 AI 的這個整體政策方針，主要是先規範政府的一些相關施政。

馬委員文君：對，因為你現在只有對政府，可是現在它日新月異，然後在它技術不斷進步的當下，我們到年底才可以出來。可是到年底時，你推出的還只是政府的部分，我們剛剛提到的，包括像工商界、科技界，很多運用在人民的身上，因為現在大家看到，而且最在乎的，除了剛剛的這些以外，像你們的報告都集中在對應像境外組織還有科技的運用，可是資安的錯假訊息，人民感受最強烈的就是詐騙案。目前為止，包括像美國股神巴菲特 5 月份在股東會對人工智慧也發出警語，他也說這個騙局會比以往都更有說服力去進行所謂的欺詐。社群媒體所開發的很多很多像這樣的 AI 工具，其實也都被廣泛地運用，這些部分，像深偽技術、合成的照片等等，都成為各國詐騙集團善用的工具。我想要知道，我們對於這個部分有什麼樣的作法？我先請教一下警政署，我們目前對於詐騙防制的效果，您覺得好嗎？

林副局長信雄：跟委員報告，目前我們在相關社群媒體，有關可能涉及詐騙的這些……

馬委員文君：效果好不好？

林副局長信雄：我們今年度已經通報相關的公司下架了十一萬多則可能涉及詐騙的廣告，所以這部分我們在跟相關公司的聯繫上效果算是不錯的。當然，還有一些還要再努力、進步的地方，因為確實相關的廣告……

馬委員文君：你們效果不錯？你們說效果不錯，可是我們從 2019 年兩萬三千多件，到 2023 年已經暴增到超過 3 萬 5,000 件，像今年，其實它的成長速度更快，遭詐的損失，甚至在去年就達 88.7 億，這個還是有報案的數據，有很多如果比較小額的，或者大家沒有報案的，其實多不勝數，所以如果像這樣一直增加的情況之下，你們還認為你們效果不錯，那不錯在哪裡？它為什麼還是會一直增加？然後它的問題會出現在哪裡？我們今天可能沒有辦法得到確切的答案。在警政署上面，其實我覺得可能也有很多窒礙難行的地方，對於基層的員警，現在常常必須要舉著牌子到所有辦理活動的地方去宣導反詐騙，你覺得像這樣子的效果會是好的嗎？這個部分請警政署再去考量比較有效的方式，因為我剛剛提到，我們在地方上看到大家都很辛苦，只要大大小小的活動，或者專門為了反詐騙的，你就舉個牌子，這樣會是有效的嗎？我們再請國安局副局長好了。我請教副局長，當時在防疫的時候，我們台灣號稱防疫做得非常不錯，原因是什麼？就副局長您的分析，防疫為什麼做得不錯？

張副局長元斌：就我們防疫來講，我覺得政府在邊境的控管，還有相關的通報機制跟應處機制方面，有做很多的努力。

馬委員文君：所以當那個會影響到民眾，而且是看不見的那種病毒細菌，其實我們用很多的方式，讓我們的防疫作為是有效的，就是在整個防疫措施上面，其實是有效的，有很重要的一點是，其實我們每天每個時候都不斷不斷地在提醒民眾，我們防疫應該怎麼做，你的口罩應該怎麼戴，你應該要做什麼樣的預防措施或怎麼防範，其實做得非常的多，其中有很多其實也是透過媒體或者各方面下去做傳播。像我剛剛講的，我們所有的警察同仁都是……我們才多少人？本來一個所才 4 個人，自己的工作已經都做不了了，像車禍或其他案件發生的時候，往往都是自己一個人就出去了，還要再配合這個舉牌，這個都是非常非常辛苦，對於效果來說，其實是有問題的，這個部分國安單位其實應該要去提醒。我想要請教數發部，我們編了那麼多錢，像我剛剛提到的，數發部因為在很多的民眾心裡或者包括像檢察官，他們認為我們是三大戰犯之一，就是我們對於台灣的詐騙案沒有辦法有效的防制，或者做更有效的宣傳，或者在我們的技術上面，沒有辦法去做一些相關的預防或制止。數發部，像這樣子，你要怎麼樣做更多的宣傳？像我剛剛講的防疫，因為你讓每個人都知道他應該要怎麼做，然後什麼不能做，如果你要把很多的錢拿去出國，還不如用很多在宣傳上面，這部分數發部的看法怎麼樣？

林次長宜敬：非常感謝委員。基本上，我認為台灣之前在防疫之所以做得特別好，就是因為台灣的政府跟民間一起合作面對這個狀況，所謂的政府包含行政部門，也包含立法部門，在行政部門當然也要分工，然後在打詐議題這件事情上面的話……

馬委員文君：沒關係，不用、不用，那個我們知道，你告訴我們怎麼做就好，數發部可以怎麼做。

林次長宜敬：好，我跟委員報告一下，基本上現在的詐騙，也是一個產業鏈，它的作法是這樣子，就是詐騙集團會先在 Facebook 或者是 Google 這種公開的社群平台上，它會放一個廣告，把民眾騙到 LINE 的私人空間裡面……

馬委員文君：對，我知道，你告訴我……

林次長宜敬：然後數發部負責的事情就是在前端，我們儘量避免讓民眾被騙到這個 LINE 的小房間裡面去進行詐騙的工作。至於後面的詐騙發生以後，就是警政署還有金管會要做的事情，所以我們整個政府應該是一個團隊，我們一起合作來面對這個事情，我們也希望立法院這邊給我們多一些……

馬委員文君：你簡單的告訴我們，因為你不管是前段、後段，現在不管哪一段，反正都是破口啦！所以現在就是越來越嚴重嘛，我們要知道的是政府的具體作為，我剛剛已經建議，如果數發部有這麼高額的預算，你們是不是應該隨時、24 小時都要提醒？你不管從哪一個管道，從社群網站也好，或者從媒體也好，或者從其他可能發生的管道也好，儘量讓人民知道現在有什麼樣的詐騙手法，因為至少你每天提醒，人家就會有所警惕。但你今天不是啊！你等到後面，你要去抓、去預防什麼的，其實大概目前為止，你們是做不到的，而且做得不好，所以民眾才會有感，而且也會對政府不信任，所以就這個部分數發部可以做到什麼？簡單說就好了，像你們在宣傳上面可以配合做到什麼？

林次長宜敬：我們可以做到的事情，一個當然就像委員所講的加強宣導。另外，我們就是利用網路的機制，接受民眾的報案，民眾報案以後，我們就趕快地去分案。

馬委員文君：報案以後通常都來不及了啦！我們現在……

林次長宜敬：不是，我講的是前面廣告的部分，這就是我前面講的分工部分，我們負責的是前端，這個地方只是偽冒，所謂的 impersonation，就是仿冒名人的這個部分，如果有人仿冒謝金河的話，我們就馬上去通知謝金河，請他做確認，確認以後我們就會把這個資料馬上傳送給 LINE 或者是 Facebook……

馬委員文君：你沒有聽清楚我講的話，如果你認為他會偽冒謝金河，你認為他會偽冒很多很多這些可能相關金融代表性的人物，或者像一些代表性的，今天大家很多都講到高嘉瑜委員，如果你已經知道他們會假冒這些人，你應該不斷、不斷地提醒，不是當你發生的時候才去告訴謝金河，那已經被騙一堆啦！你應該要站在更前面，數發部不要編了錢，但你做的事情都是在後端的，反而跟其他的單位沒有什麼不同。今天因為時間的關係，就這個部分，我覺得人民對於詐騙案才是有感的，我們甚至對於我們自己所有的國人被騙到國外，我們無能為力，我再次強調，我們無能為力，像這樣被騙到緬甸或其他地方，這也都是詐騙，不斷、不斷地一直在發生，而且手段越來越殘忍，然後他要的金額也很多，他被騙去以後大概就是會被要求一些贖金，有沒有讓他回來我們不曉得，這個部分請國安單位還有警政署也持續掌握，好不好？因為今天可能也沒有一個具體的結論跟說法，就這個部分，數發部或者警政署可以有什麼樣積極的作為，請再提供給我們一個更詳細、具體的書面資料，請國安局一定要掌握這個部分，比起其他的，這個可能危害我們國家或者人民的信心更重。

張副局長元斌：是，謝謝委員。

主席：謝謝馬文君委員，先休息 5 分鐘。休息（11 時 11 分）繼續開會（11 時 17 分）

質詢立委

馬文君

#數位犯罪防制

#詐騙犯罪防制

#人工智慧（AI）應用...

問題回報

深度求真眾聲同行

獨立的精神，是自由思想的條件。獨立的媒體，才能守護公共領域，讓自由的討論和真相浮現。

在艱困的媒體環境，《報導者》堅持以非營利組織的模式投入公共領域的調查與深度報導。我們透過讀者的贊助支持來營運，不仰賴商業廣告置入，在獨立自主的前提下，穿梭在各項重要公共議題中。

今年是《報導者》成立十週年，請支持我們持續追蹤國內外新聞事件的真相，度過下一個十年的挑戰。