駭客藉由訓練「惡意GPT」，來發動各式各樣的攻擊活動

	成功不是偶然，能力才是關鍵！【能力雜誌電子報】是專業經理人暨上班族提升競爭力最佳管道！ 【行遍天下旅遊電子報】每月企劃精采的旅遊專題，讓你感受美景與多樣風情，創造屬於個人的旅遊哲學。

★ 無法正常瀏覽內容，請按這裡線上閱讀 新聞  健康  udn部落格

2024/03/28 第773期  |  訂閱/退訂  |  看歷史報份   科技新知 駭客藉由訓練「惡意GPT」，來發動各式各樣的攻擊活動 打造3D軟體研發平台助攻製造業轉型，實威國際成為客戶最佳夥伴 全球第一台結合ChatGPT的電動自行車 《專題文章》EMS 產業智慧製造應用趨勢觀察(三) 駭客藉由訓練「惡意GPT」，來發動各式各樣的攻擊活動 FIND研究員：李啟榮 AI生成式內容（AI-generative contents, AIGC）除了成為人類生活不可或缺的好幫手以外，也能被用作不當意圖，例如撰寫惡意程式碼、篡改和盜取對方機敏資訊等等，使AIGC變成一種新興的攻擊手段，降低攻擊門檻和攻擊成本，使資安專家窮於應付。 另外GPT系列資料集具有可客製化、微調（Fine-tuning）的特性，可以將原本樣樣通、樣樣鬆的傳統GPT模型，轉化為功能專精化、特定用途的客製化GPT；尤其駭客可以利用GPT模型來訓練惡意原始碼，不但可以快速產生惡意指令，還可以尋找並滲透漏洞，造成猝不及防的打擊、加強殺傷力。 技術發展背景 傳統GPT模型可藉由灌輸大量的資料反覆訓練，再加上人工標註訓練成果的正確性，來提升演算成果的準確率；而駭客也可以用這樣的方式，進行「資料下毒（Data poisoning）」，對GPT模型灌輸惡意指令，讓GPT模型自己吐出先前記憶的機敏資訊，或者產生出更危險的惡意程式碼，使GPT模型因為被駭客控制而陷入「中毒」狀態。 食髓知味的駭客也可利用GPT能夠客製化和微調的特性，將GPT變成滿腦子壞主意的「共犯」，而衍生出有利於駭客行動的客製化GPT，例如FraudGPT、WormGPT、WolfGPT、EvilGPT，加速了惡意程式的開發和散布，並且能散布更逼真的釣魚郵件引人上當。 技術介紹與應用現況 ChatGPT有系統預設的「道德限制」，並拒絕回答不合理、不合法的問題；但「惡意GPT」則被駭客強行解除了「道德限制」的系統封印，並藉由惡意GPT來產生惡意程式和釣魚信件。另外，惡意GPT也可以設計為惡意聊天機器人，以社交工程方式，從不知情的受害者透露出機敏資訊，並回傳給藏在幕後的駭客。 另外，惡意GPT也能給規模更大、更組織化的駭客集團，發動「進階持續性威脅（Advanced persistent threat, APT）」的攻擊模式，綜合社交工程、網路釣魚、惡意程式植入、漏洞窺探等不同攻擊模式和突破口，並在攻擊發起之後加劇破壞規模，進而提升防禦和復原的難度。 值得一提的是，惡意GPT的入手成本相對低，甚至還發展出商業模式，讓駭客躍躍欲試；例如FraudGPT月費200美元、年費1700美元，相對於需要動輒成千上萬美元建構的防護措施根本不成正比 (Columbus, 2023)。另外，善用AI也可以防禦駭客以AI發動的攻擊手段，以AI發現並修補漏洞的速度，比傳統IT團隊提早兩個半月完成，並減少300萬美元的損失 (Swan, 2023)。 圖 1 利用FraudGPT產生釣魚郵件 資料來源： Columbus, 2023 圖 2 利用FraudGPT產生惡意聊天機器人 資料來源： Columbus, 2023 未來展望/挑戰 所謂「道高一尺、魔高一丈」，人們在享受ChatGPT、Copilot等AI生成工具所帶來的便利和貢獻的同時，駭客也用相同的方式來改善他們的攻擊手段和效率，並在AI的協助下策畫天衣無縫、乾淨俐落的攻擊行動，讓駭客能夠在網路上來無影、去無蹤。 資安團隊在AIGC大趨勢下，對於防護手段的開發、防護觀念的建立也要與時俱進，比駭客搶先一步防堵漏洞、強化系統架構，並將AI控制在合理的使用範圍內，防止AI暴走成為脫韁野馬，被駭客利用成為其助力。 封面圖片來源: 123RF 參考資料： 1.Columbus, L. (2023, August 14). How FraudGPT presages the future of weaponized AI. Retrieved from VentureBeat: https://venturebeat.com/security/how-fraudgpt-presages-the-future-of-weaponized-ai/ 2.Nachiappan, A. (2023, September 18). WormGPT: AI tool designed to help cybercriminals will let hackers develop attacks on large scale, experts warn. Retrieved from Sky News: https://news.sky.com/story/wormgpt-ai-tool-designed-to-help-cybercriminals-will-let-hackers-develop-attacks-on-large-scale-experts-warn-12964220 3.Swan, D. (2023, November 3). Meet hackers' favourite new tool: WormGPT. Retrieved from The Sydney Morning Herald: https://www.smh.com.au/technology/meet-hackers-favourite-new-tool-wormgpt-20231102-p5eh5l.html 打造3D軟體研發平台助攻製造業轉型，實威國際成為客戶最佳夥伴 FIND研究員：劉仲祥、黃盈婷、DTA授權 全球產品生命週期短，3C資訊產品不斷推陳出新，各產業邁入快速開發，搶攻上巿先機，因此如何透過導入數位工具，縮短開發期程，從產品開發速度取勝，便是關鍵之一。實威國際股份有限公司(以下簡稱實威國際)總經理許泰源表示，台灣力推智慧製造及工業4.0，卻容易忽略研發創新的轉型。台灣位居全球供應鏈重要角色，需從研發設計取得優勢，產業才能全面升級。以下就實威國際從創新研發助攻製造業來說明。 實威國際提供軟硬體解決方案 客戶遍布兩岸市場 成立於1997年的實威國際是法國達梭Solidworks在台總代理商，產品線包括從CAID、CAD、RP、RE、CAE、CAM到PDM，提供業界完整的軟硬體及顧問服務解決方案，客戶如鴻海、台達電、宏達電，從電子半導體、機械模具、3C產品等中大型企業，近年更跨入自行車、醫療健康、家具、文創等巿場。至今在台灣及中國大陸已經輔導超過1萬家企業與教育單位，針對客戶的需求提供完整的解決方案，協助客戶提升競爭力。 (一)轉型動機 產品從開發到生產，最挑戰的地方在「開發階段」，現今客戶的需求多變，生產樣態從少樣多量走向多量多樣，甚至是個人化。 許泰源舉智慧產線為例，產線強調機電整合，需把資料連結到公司的MES和ERP，使得最源頭的「產品設計」也需連動與改變。為掌握巿場需求，加上疫情過後，許泰源預期全球產品開發將邁入虛實整合時代，因此轉型勢在必行。 轉型的目的在於隨時掌握生產數據的生產形態，資料連接生產端，獲取客戶數據，進行市場預測。然而真正挑戰在市面上轉型工具太多，缺乏整體解決方案，懂設計未必懂生產；懂硬體又未必懂軟體，很難一步到位，於是實威國際希望透過原廠優勢，協助中小企業打造3D軟體研發平台，將流程數位化並連接生產端，透過協同設計建立核心產品及技術，提供製造業智慧化產品線及解決方案。 (二)策略與方法 實威國際代理法國的Solidworks，在3D專業軟體市場居龍頭地位，轉型首要目標便是希望能在台灣創下10萬個2D用戶能順暢的轉型到3D Solidworks。許泰源表示，自動化的關鍵在於資料管理系統(PDM/ERP/MES)的應用與普及，需把正確的資料，在正確的時間發送給正確的人和設備。因此，數位化設計與製造系統的核心就是先讓「3D技術普及」。 於是實威國際打造符合中小企業使用的「創新數位化整合設計研發平台」，從工具端設計導入軟體，到生產線的排程、製造、出貨流程系統，全面數位化，此平台提供快速實現設計概念、減少打樣開模成本，以達到客製化、可視化及協作之精神。 由於從產線到銷售以數位資料為核心，建立單一數位平台，串聯設計到製造、行銷與銷售捷徑，讓企業直接一條龍發展。許總說明，如同手搖杯，業者將飲料製作過程標準化，例如A模組多冰少糖、B模組少冰少糖、C模組多糖多冰，當所有標準程序模組化後，就可以少量多樣快速產出，提供客戶更快、更滿意的服務，同樣理念應用到工業設計亦是如此。因此實威國際將設計模組化，建立實體模型供應平台(Content Central)，客戶可以在平台上找到來自全球供應商或使用者提供的零件模型，且提供免費下載包括CAD 工程圖、組合件模型及完整的3D CAD模型，加速研發設計時程。 圖1 實體模型供應平台 資料來源：實威國際、DTA授權 圖2 3D CAD平台 資料來源：實威國際、DTA授權 (三)轉型成效 SOLIDWORKS從早期的單一3D CAD軟體發展至今，已經成為具備由研發設計、驗證分析、品管、行銷、協同作業到製造的3D創新開發解決方案，使用者可以在同一個介面底下完成所有的作業，效率、成本、品質都將獲得大幅的改善成效。 目前不僅機械模具使用此平台，半導體電子業使用率亦高，近年醫療產業開始應用3D 模擬加速設計研發，比如怡忠科技在實威國際及電腦模擬技能助攻下，投入開發心律調整器，增加使用者心肺功能。據實威國際內部統計，調整產品線後成功跨入不同領域，預估每年可增加40%新客戶。實威國際多元化產品線布局，帶動業績持續增長。 創造價值，從產品開發提供一條龍服務 實威國際秉持客戶成功至上的信念，積極投入專業人力建構完整的服務體系，許多注重研發的中小企業，唯有在研發營收上看到獲利後，才有意願持續投入財力做研發。實威的作法就是創造可以看的到的價值，參與客戶的產品開發，提供從一條龍服務，當客戶勇往向前投入數位化，創新轉型研發設計的強力後盾，因此創下了廣大CAD/CAM 市場佔有率，目前是唯一可提供跨兩岸服務的最大CAD/CAM系統整合顧問服務公司。 參考來源： 1.封面圖：https://pixabay.com/photos/wool-knitting-yarn-woolen-5546009/ 2.從研發創新取得戰略高位，實威助攻製造業全面升級，https://dta.tw/insights/pages/?id=1102，民國110年09月08日。(本會與DTA簽屬著作權授權書，授權案例允以利用) 3.實威國際官方網站：https://www.swtc.com/zh-tw/about/ 全球第一台結合ChatGPT的電動自行車 FIND研究員：何邡瑀 近年人工智慧(AI)話題不斷，近期更是以ChatGPT聊天機器人再次掀起熱潮。而隨著國際綠能意識提升，產業朝低碳化、智慧化發展，電動自行車(E-Bike)已成為全球趨勢 ... 《專題文章》EMS 產業智慧製造應用趨勢觀察(三) FIND研究員：謝沛宏 EMS業者在製程的智慧製造投資上，受限於製程數位化程度，以及投入/產出效益，主要以SMT段為主，其次為組裝與DIP，兩者優先順序差異不大，測試的部分，受限於客戶與產品，目前智慧化應用著墨較少。 ... •超現實主義藝術家達利故鄉 必朝聖達利博物館 菲格斯是著名的超現實主義藝術家達利的故鄉。約半小時的車程抵達市中心的達利博物館，是由一棟舊的市立劇院改建而成，1974年開幕，收藏1924年到1979年達利之作品，囊括它一生所有的代表作約1500件，包括繪畫、雕塑、珠寶、裝置藝術…等等。 •老外說"Do you get my drift?"，是什麼意思？ Sandy和外籍同事聊天，聊到新主管很多新做法，外籍同事不以為然，說了自己的想法，問Sandy："Do you get my drift?"「什麼draft啊？你傳給我什麼文件了嗎？」Sandy很納悶，牢騷還要打草稿嗎？

本電子報著作權均屬「聯合線上公司」或授權「聯合線上公司」使用之合法權利人所有， 禁止未經授權轉載或節錄。若對電子報內容有任何疑問或要求轉載授權，請【聯絡我們】。   免費電子報 | 著作權聲明 | 隱私權聲明 | 聯絡我們