微軟公布負(fù)責(zé)任AI指導(dǎo)準(zhǔn)則，將限制部分臉部識(shí)別能力

微軟昨（21）日更新負(fù)責(zé)任AI的指導(dǎo)準(zhǔn)則，將在本月起開始限制AI臉部識(shí)別的部分能力。

隨著AI能力越來越強(qiáng)，侵犯隱私及對黑人或少數(shù)群體辨別度較低的問題，促使科技業(yè)及學(xué)界推動(dòng)負(fù)責(zé)任AI（Responsible AI）的準(zhǔn)則，像是微軟2019年公布的6項(xiàng)AI開發(fā)及應(yīng)用準(zhǔn)則，包括公平、可靠性、隱私及安全性、包容性、透明性及權(quán)責(zé)等。微軟更新版準(zhǔn)則則依據(jù)新的研究結(jié)果再加以改良。

圖片來源／微軟

新版負(fù)責(zé)任AI包含三點(diǎn)。首先是語音轉(zhuǎn)錄（speech-to-text）技術(shù)對少數(shù)群體的識(shí)別錯(cuò)誤率偏高，一項(xiàng)2020年3月研究，特別是黑人及非裔人士的語音聽寫錯(cuò)誤率為白人的近2倍。微軟表示，對此將再擴(kuò)大訓(xùn)練樣本的多樣性，以提升其技術(shù)識(shí)別性能。

第二項(xiàng)則是AI聲音模擬及臉部識(shí)別服務(wù)。微軟Azure AI的自訂神經(jīng)網(wǎng)絡(luò)語音（Custom Neural Voice）服務(wù)可運(yùn)用AI技術(shù)模擬出和原人物幾乎一模一樣的聲音，雖然娛樂性高，但也可能被用作Deepfake視頻，欺騙觀者。同樣的問題也發(fā)生在AI臉部識(shí)別應(yīng)用。應(yīng)對新準(zhǔn)則，微軟將為這項(xiàng)服務(wù)加入多層管控框架，限制可以使用的客戶、明確定義可接受的使用場景，并且清楚告知聽者。在臉部識(shí)別服務(wù)下，微軟將限定可用的客戶，以及限縮到預(yù)先定義的使用場景，也將加入技術(shù)控制以避免濫用。

第三項(xiàng)則是限制Azure Face臉部識(shí)別服務(wù)的能力。依循新準(zhǔn)則，微軟將拿掉這項(xiàng)服務(wù)推論情緒狀態(tài)，以及識(shí)別性別、年齡、微笑、臉部毛發(fā)、頭發(fā)及化妝的能力。以情緒狀態(tài)為例，科學(xué)家對情緒的判定尚未有共識(shí)，無法跨各種場景、地區(qū)或人口屬性適用，草率適用將帶來刻板印象、歧視或拒絕服務(wù)。

為了避免臉部識(shí)別AI技術(shù)的差錯(cuò)，微軟的Face API將不再提供一般用途系統(tǒng)對接，讓這些客戶用來掃描人們臉部，根據(jù)臉部表情或動(dòng)作推論出情緒。微軟說明，從6月21日起，這項(xiàng)功能已經(jīng)不再提供給新客戶。

既有客戶則只能用到2023年6月30日，之后也將關(guān)閉。但是一些針對身障人士的受控識(shí)別應(yīng)用場景，微軟說會(huì)持續(xù)支持。另外，微軟也承諾將對用來推論人們情緒的所有AI系統(tǒng)謹(jǐn)慎分析，包括使用臉部分析或其他AI科技的系統(tǒng)。