生成式 AI 影響影像真實性：Google Photos 將增加透明度

隨著生成式 AI 技術的迅速發展，影像的真實性正面臨挑戰。科技產業有責任在使用這些工具時保持透明。為此，Google 宣布從下週開始，Google Photos 將標註使用 AI 編輯的照片。

新增 AI 編輯標註

Google Photos 工程總監 John Fisher 在部落格中提到，使用 Magic Editor、Magic Eraser 和 Zoom Enhance 等工具編輯的照片，將包含基於國際新聞電信理事會（IPTC）標準的元數據，顯示其經過生成式 AI 編輯。這些信息將與檔案名稱、位置和備份狀態等信息一起顯示在應用內的影像詳情視圖中。

標註範圍擴展

這些標籤不僅限於生成式 AI，Google 還會標示照片中包含多張不同影像的元素，例如使用 Pixel 的 Best Take 和 Add Me 功能時的情況。儘管如此，這些元數據仍可能被有意規避的用戶繞過。

Fisher 指出：「這項工作尚未完成，我們將繼續收集反饋，評估其他解決方案，以增強對 AI 編輯的透明度。」

影像真實性的新挑戰

迄今為止，Google 的 AI 工具所附帶的元數據對最終用戶幾乎是不可見的。缺乏明顯標註的問題曾引起關注，尤其是在使用 Magic Editor 的 Reimagine 工具時，該工具允許用戶向影像中添加原本不在場景中的 AI 生成物體。與此同時，蘋果也將在 iOS 18.2 中推出首個影像生成功能，但表示將故意避免產生真實照片內容。蘋果的 Craig Federighi 指出，該公司對於 AI 可能使照片的現實性受到質疑感到「擔憂」。