FIND研究員:李啟榮
生成式人工智慧(Generative AI)讓人們僅靠腦中靈光一閃,不費吹灰之力就可以創造出曠世巨作;但也會被另一批便宜行事的人們,拿去盜用或變造,造成AI原創者的心血結晶毀於一旦。
有鑑於此,生成式AI也能成為AI原創者捍衛智財權的助力,藉由導入AI浮水印等防盜防偽技術,除了保障圖片版權以外,也能加深偽造和變造的難度,迫使不肖份子知難而退,讓圖片的授權和發布更多一層保障。
技術發展背景
浮水印是一種常見的防偽辨識措施,可在特定視角和儀器掃描下被看見,例如紙鈔上的防偽浮水印、紫外線螢光反射等。若用在數位圖文版權的保護上,浮水印也能扮演關鍵角色,並巧妙地嵌入原始圖文的外表下完美隱藏;數位浮水印除了可藉由讓圖片失真來減少盜拷成功率外,也能干擾如Deepfake對原始圖片的解析、充當惡意改圖的素材,讓Deepfake變造出來的圖片和影片露出破綻。
技術介紹與應用現況
隨著社群軟體(SNS)的興起,文字和影音就能像病毒式大規模迅速散播,甚至會被有心人加工改造,變成不實言論和偽造影音的散布管道;因此擁有SNS的網路巨頭也開始正視此一現象,利用圖文分析和使用者驗證機制,來適當地加入內建AI生成的防偽浮水印。
例如Google旗下DeepMind工作室推出了「SynthID(合成ID)」的AI圖文判讀暨防偽保護機制,可將Google內建的AI圖片生成工具Imagen所產出的圖片,嵌入AI自動產生的辨識用浮水印;SynthID的運作機制近似於Youtube用來辨識影片侵權的ContentID,藉由幕後比對是否具有原創特徵,再判定影音是否侵權或變造 (Gowal & Kohli, 2023) (Heikkilä, 2023)。
圖 1 利用SynthID辨識AI合成圖,包含濾鏡處理。
資料來源: (Gowal & Kohli, 2023)
另外,Facebook和Instagram的母公司Meta與法國研究機構「法國資訊暨自動化研究院(INRIA)」合作,推出了AI生成浮水印技術「Stable Signature」。圖片原創者(以下圖Alice為例)可以產生金鑰ID作為證明,當另一個人(以下圖Bob為例)用相同或類似的關鍵字來產生圖片時,系統會比對圖片和原創者的金鑰ID,來判定是否為原始圖片或者是合成改圖 (Fernandez, Couairon, Jégou, Douze, & Furon, 2023) (Singh, 2023)。
圖 2 利用Stable Signature來辨識合成圖的金鑰ID,是否有原創性的特徵
資料來源: Fernandez, Couairon, Jégou, Douze, & Furon, 2023
未來展望/挑戰
AI生成圖片防偽技術的出現,也獲得美國政府的重視,美國總統拜登呼籲網路巨頭應有相關把關作為;而OpenAI、Meta、Alphabet、亞馬遜等網路巨頭,於2023年7月向白宮承諾,會在AI生成內容嵌入浮水印標記,讓網路上的使用者充分知悉 (Bartz & Hu, 2023)。
另外,電子前哨基金會(EFF)則表示,AI生成影音嵌入浮水印標記,有助於對抗誤導性訊息(Disinformation)的散播;但以現階段的技術狀況,要全面遏阻誤導訊息散播,仍力不從心;因此除了AI生成式防偽浮水印以外,更需要先進的判讀和辨識技術作為配套,才能保障原始圖文的真實性。
封面圖片來源: 123RF
參考資料來源:
1.Bartz, D., & Hu, K. (2023, July 22). OpenAI, Google, others pledge to watermark AI content for safety, White House says. Retrieved from Reuters: https://www.reuters.com/technology/openai-google-others-pledge-watermark-ai-content-safety-white-house-2023-07-21/
2.Fernandez, P., Couairon, G., Jégou, H., Douze, M., & Furon, T. (2023, October 6). Stable Signature: A new method for watermarking images created by open source generative AI. Retrieved from Meta: https://ai.meta.com/blog/stable-signature-watermarking-generative-ai/
3.Gowal, S., & Kohli, P. (2023, August 29). Identifying AI-generated images with SynthID. Retrieved from Google DeepMind: https://deepmind.google/discover/blog/identifying-ai-generated-images-with-synthid/
4.Heikkilä, M. (2023, August 29). Google DeepMind has launched a watermarking tool for AI-generated images. Retrieved from MIT Technology Review: https://www.technologyreview.com/2023/08/29/1078620/google-deepmind-has-launched-a-watermarking-tool-for-ai-generated-images/
5.Hoffman-Andrews, J. (2024, January 5). AI Watermarking Won't Curb Disinformation. Retrieved from Electronic Frontier Foundation: https://www.eff.org/deeplinks/2024/01/ai-watermarking-wont-curb-disinformation
6.Singh, J. (2023, December 7). Meta to introduce watermarking feature for some AI products. Retrieved from Reuters: https://www.reuters.com/technology/meta-introduce-watermarking-feature-some-ai-products-2023-12-06/
沒有留言:
張貼留言