全球化的社區(qū)TikTok，一直在思考，如何提高我們用戶的安全性

TikTok是一個多元化、全球化的社區(qū)，由創(chuàng)造力推動，我們相信人們應(yīng)該能夠創(chuàng)造性地表達(dá)自己，并在安全和友好的環(huán)境中娛樂。為了保持這種環(huán)境，我們開發(fā)了工具和技術(shù)來開發(fā)創(chuàng)造者，并抵制違反我們社區(qū)準(zhǔn)則的行為。

　　在過去的一年里，在不同的市場，我們一直在研究和調(diào)整新的系統(tǒng)，以識別和刪除違規(guī)內(nèi)容，并通知人們他們的違規(guī)行為。今天，我們將這些系統(tǒng)帶到美國和加拿大，以提高我們社區(qū)的安全性和平臺的完整性

　　TikTok上不斷發(fā)展的內(nèi)容調(diào)節(jié)

　　我們位于美國的安全團(tuán)隊負(fù)責(zé)制定和實施旨在確保美國和加拿大人民安全的政策和安全戰(zhàn)略。與大多數(shù)用戶生成的內(nèi)容平臺一樣，上傳到TikTok的內(nèi)容最初通過一種技術(shù)，該技術(shù)用于識別和標(biāo)記潛在的違反策略行為，以供安全團(tuán)隊成員進(jìn)一步審查。如果違規(guī)行為被確認(rèn)，視頻將被刪除，并將通知創(chuàng)作者刪除和原因，并給予機(jī)會上訴刪除。如果未發(fā)現(xiàn)違規(guī)行為，視頻將被發(fā)布，TikTok上的其他人將可以觀看

　　在接下來的幾周里，除了Safoty團(tuán)隊確認(rèn)的刪除內(nèi)容外，我們還將開始使用技術(shù)自動刪除上傳時發(fā)現(xiàn)的某些類型的違規(guī)內(nèi)容。自動化將保留在我們的技術(shù)具有最高準(zhǔn)確度的內(nèi)容類別中，首先是違反我們關(guān)于輕微安全成人裸體和活動、暴力和圖形內(nèi)容以及非法活動和受監(jiān)管商品的政策。雖然沒有哪項技術(shù)能夠完全準(zhǔn)確地控制文檔內(nèi)容（文檔通常需要高度的上下文或細(xì)微差別），但我們將不斷提高技術(shù)的精確度，以最大限度地減少不正確的刪除。創(chuàng)作者將能夠上訴他們的視頻刪除直接我們的應(yīng)用程序或報告潛在的違規(guī)行為給我們審查，就像今天thoy可以。

　　除了改善TikTok的整體體驗外，我們希望此更新還可以通過減少版主觀看得令人不快的視頻的數(shù)量，并使他們能夠在高度上下文和細(xì)微差別的領(lǐng)域花費(fèi)更多時間，例如欺凌和騷擾、錯誤信息和仇恨行為，來支持我們安全團(tuán)隊的彈性。我們的安全團(tuán)隊將繼續(xù)審查來自我們社區(qū)的報告、技術(shù)標(biāo)記的內(nèi)容或上訴，并刪除違規(guī)行為。請注意，大量報告內(nèi)容或帳戶不會導(dǎo)致自動刪除或我們的安全團(tuán)隊刪除的可能性更大。

　　正如我們在透明報告中所詳述的，這項技術(shù)最初是在由于COVID-19大流行而需要額外安全支持的地方推出的。從那以后，我們發(fā)現(xiàn)自動刪除的假陽性率是5%，對視頻刪除提出上訴的請求一直保持一致。我們希望隨著時間的推移繼續(xù)提高我們的準(zhǔn)確性

　　幫助人們了解我們的

　　我們已經(jīng)改進(jìn)了通知人們違反社區(qū)準(zhǔn)則的方式，以提高政策的可視性，減少重復(fù)違反行為。新系統(tǒng)統(tǒng)計用戶累積的違規(guī)行為，并基于違規(guī)的嚴(yán)重性和頻率。從收件箱的帳戶更新部分開始，用戶將收到違規(guī)后果的通知。在那里，他們還可以看到自己累積的違規(guī)記錄。

　　更頻繁的違規(guī)行為將在我們的應(yīng)用程序的不同部分產(chǎn)生更多的懲罰和通知。

　　其工作原理如下：

　　第一次違規(guī)

　　在應(yīng)用程序中發(fā)送警告，除非違反的是零容忍策略，這將導(dǎo)致自動禁止。

　　第一次違規(guī)后

　　根據(jù)違規(guī)行為和以前違規(guī)行為的嚴(yán)重程度，暫停帳戶上傳視頻、評論或編輯其個人資料的功能24或48小時。

　　或者，將帳戶限制為72小時或最多一周只能查看體驗，這意味著該帳戶不能發(fā)布或參與內(nèi)容。

　　或者，在多次違規(guī)之后，如果用戶的帳戶即將被禁止，用戶將收到通知。如果該行為持續(xù)存在，則該帳戶將被永久刪除。

 　　我們的零容忍政策，如張貼兒童性虐待材料，自動導(dǎo)致帳戶的刪除。我們還可以阻止一個設(shè)備，以幫助防止未來的帳戶被創(chuàng)建。

　　盡管我們努力保持一致性，但無論是技術(shù)還是人類都不會100%正確地做出適度決策，這就是為什么創(chuàng)作者可以繼續(xù)在我們的應(yīng)用程序中直接呼吁刪除他們的內(nèi)容或帳戶是很重要的。如果他們的內(nèi)容或帳戶已被錯誤地刪除，它將被恢復(fù)，罰款將被刪除，它不會影響帳戶的前進(jìn)。累積的違規(guī)行為將隨著時間的推移從個人記錄中消失。

　　我們利用美國內(nèi)容咨詢委員會（US Content Advisory Council）的投入開發(fā)了這些系統(tǒng)，在過去幾周在美國和加拿大進(jìn)行的測試中，超過60%因違反我們的指導(dǎo)方針而收到第一次警告的人沒有第二次違反。我們的政策越透明、越容易獲得，違反政策的人就越少，在TikTok上創(chuàng)造和娛樂的人就越多。

　　人們花費(fèi)大量的時間和精力為TikTok創(chuàng)建內(nèi)容，而我們的內(nèi)容調(diào)節(jié)系統(tǒng)的準(zhǔn)確性和一致性對我們來說至關(guān)重要。我們希望從我們的社區(qū)中了解他們的經(jīng)驗，以便在我們努力為我們的全球社區(qū)保持平臺的安全性和包容性的同時，我們能夠繼續(xù)做出改進(jìn)。