Google DeepMind 近期發布了一項名為 SynthID 的新技術，旨在識別人工智能生成的圖像中的水印。SynthID將一種“難以察覺”的水印嵌入到人工智能生成的圖像像素中，使專門的檢測工具能夠輕鬆辨識這些水印。初期，這一技術僅對 Google Cloud 平台上的 Vertex AI 客戶以及 Imagen 圖像生成器用戶開放。
近年來，深度造假和人工智能生成內容的問題在美國和英國的 2024 年選舉季節引起了廣泛關注。Google DeepMind 首席執行官 Demis Hassabis 強調，能夠辨識和檢測人工智能生成的圖像日益重要。他表示：“每當我們討論這個問題以及其他相關系統時，都必須問自己，‘應對深度造假的挑戰如何？’”
SynthID 的運作方式是將水印直接嵌入到人工智能生成的圖像像素中。Hassabis 解釋，這個水印具有對各種轉換操作的魯棒性，包括裁剪、調整大小等，即使使用者嘗試繞過傳統的簡單水印，SynthID 仍然能夠識別。水印不會對圖像質量或觀感造成任何影響，但它使 Google DeepMind 的工具能夠輕松辨識這些圖像。
SynthID 最初在限定的 Vertex AI 客戶中使用，是與 Google 研究院合作開發的一部分，旨在推出更負責任的人工智能生成圖像工具。Google Cloud 首席執行官 Thomas Kurian 指出，Vertex AI 平台正在快速增長，因此現在是推出 SynthID 的最佳時機。他表示：“這些模型變得越來越複雜，並且有越來越多的人使用它們。”
雖然 SynthID 不是解決深度造假問題的唯一工具，但它加入了 Meta、微軟、亞馬遜等主要科技公司不斷推出的解決方案之列。這些公司正積極投資於內容驗證解決方案，以確保數字內容的完整性。然而，Hassabis 強調，SynthID 並非“深度造假問題的靈丹妙藥”。這一技術目前仍在測試階段，Google 計劃根據實際測試和用戶反饋不斷優化它。
