Google AI服務(wù)悄悄禁止訓(xùn)練Deepfake視頻

媒體發(fā)現(xiàn)Google一項提供訓(xùn)練AI模型的服務(wù)Colab，禁止用戶用它來制作Deepfake視頻。

Colab全名為Colaboratory，可供學(xué)生、資料學(xué)家或是AI研究人員在瀏覽器中編寫及執(zhí)行Python程序代碼，具有不必進行任何設(shè)置、輕松共享、免費使用GPU的優(yōu)點。對于無法負擔(dān)動輒數(shù)千美元的學(xué)生和研究人員來說，這是一項相當(dāng)好用的服務(wù)。

媒體報道，知名的Deepfake視頻制作網(wǎng)站DeepFaceLab用戶本周發(fā)現(xiàn)，在Colab上執(zhí)行DeepFaceLab的程序時會觸發(fā)警告，表示用戶已執(zhí)行不被允許的程序代碼，這行為可能限縮用戶未來使用Colab的權(quán)限。不過同類型較小的網(wǎng)站用戶則尚未接獲類似警告。

Deepfake是利用AI技術(shù)改造特定個人頭像、說話動作或聲音，以便冒充他人，主要目的是誹謗、傳播不實消息或詐騙。例如3月間烏克蘭媒體網(wǎng)站及電視臺遭黑，以傳播deepfake視頻，冒充烏克蘭總統(tǒng)要求烏國軍隊棄械投降。本月網(wǎng)絡(luò)上也流傳冒用馬斯克（Elon Musk）等科技界名人身份的Deepfake視頻，以推銷一個加密貨幣交易的詐騙平臺。

不過不確定Google是為了道德理由、或防范濫用資源考量才禁止deepfake視頻制作。Google Collab另外禁止的行為包括：使用遠程桌面或連接遠程代理服務(wù)器、采礦、執(zhí)行DDoS攻擊、破解密碼、或下載Torrent視頻或點對點（P2P）文件分享等。