11月17日，在今日頭條一年一度的創(chuàng)作者盛會“生機大會”上，今日頭條正式推出小程序工具，“靈犬反低俗助手”成為首批小程序之一。

“靈犬”基于今日頭條反低俗模型，是國內首款使用人工智能技術反低俗的小程序。用戶在輸入框內任意輸入一段文字或文章鏈接，即可檢測內容健康指數，并給出算法鑒定結果。

在今日頭條App搜索“靈犬”，就可打開“靈犬反低俗助手”小程序頁面。對于網民輸入的文字或鏈接，“靈犬”會先進行提取、分詞和語義識別，然后根據設定的規(guī)則，輸出對應的分數、評級和結論。這里面，分數指的是“健康概率”，評級是“質量指數”，結論則會告知是否可以得到“算法推薦”。這是基于算法模型處理低俗內容的一般路徑：“收集數據－標注樣本－訓練模型”。在人工智能反復訓練中，靈犬會實現自我進化。

這個“反低俗”小程序在實際應用中有何用途呢？對于創(chuàng)作者來說，輸入之后能夠判斷出自己的作品是否違規(guī)，是否涉嫌色情、抄襲、標題黨等，也會得到一個結論：起這個標題或寫這篇文章是否會被推薦；用戶發(fā)現不良內容則可以舉報，共同打擊低俗內容；此外，“靈犬”系統(tǒng)是智能識別，本身對頭條平臺上的內容也會有個自動的監(jiān)測過程，過濾掉低俗內容。

據了解，除了運用AI等技術手段，今日頭條目前也已投入數千人的專業(yè)審核團隊，并搭建色情、低俗、標題黨、虛假信息、低質模型180多個，有效提升了內容審核的效率和準確度。后續(xù)頭條還將對外開放更多技術模型，包括辟謠模型、打擊標題黨模型等。