OpenAI宣布將在數字內容中加入不可見水印以便可以檢測AI生成內容 – 藍點網
0
OpenAI 剛剛發布博客宣布該公司加入 C2PA 內容來源和真實性聯盟的宣布指導委員會，與業內其他公司一起合作為數字內容添加認證標準、將數加入見水可以識別數字內容的字內來源等。
C2PA 由軟件公司、容中容藍相機制造商以及在線平臺等共同創建，印便主要目的可檢就是為數字產品包括圖像、視頻、測A成內音頻等添加信息來源，點網降低偽造內容用于創建謠言的宣布幾率。
今年早些時候 OpenAI 已經在 DALL-E 3 圖像生成模型中接入了 C2PA 相關標準，將數加入見水即生成的字內圖像會標記來自該模型，也就是容中容藍證明這是由人工智能創作的圖像。
OpenAI 稱當 Sora 文本生成模型視頻廣泛推出時也會為 Sora 生成的印便視頻內容添加 C2PA 元數據，可以識別視頻來自 Sora 生成而不是可檢真實拍攝等。
值得注意的測A成內是 C2PA 標準元數據是可以刪除的，一個簡單的例子就是對于 DALL-E 3 生成的圖像只需要修改圖片元數據甚至直接截圖就可以抹掉 C2PA 信息，所以 OpenAI 還準備了不可見的水印。
不可見水印俗稱盲水印，這種水印肉眼無法識別，但一些特殊的工具對圖片進行處理后是可以讀取盲水印的，OpenAI 的計劃就是在后續實施盲水印，用難以刪除的不可見信號標記音頻等數字內容。
既然添加盲水印那 OpenAI 也會提供對應的檢測工具，OpenAI 已經開發了用于檢測 AI 模型生成內容的檢測分類器，該分類器從今天開始向一些研究人員提供，該工具主要可以檢測 DALL-E 3 生成的圖像，準確率為 98%，大約會有不到 0.5% 的非 AI 生成的圖像也會被標記為 AI 生成，這個后續 OpenAI 還會繼續優化。