1. QueryLog熱點挖掘

第一個是基于query的熱點挖掘。

① 預(yù)處理：構(gòu)造Query時序數(shù)據(jù)

基于這樣的假設(shè)：如果熱點熱門，用戶有了解詳細內(nèi)容的需求。會通過query去搜索事件詳情，因此我們以query為數(shù)據(jù)來源，這是一個顯而易見的事情。如南寧發(fā)生火災(zāi)，用戶會搜索南寧工廠，了解具體的傷亡情況。用戶的搜索多種多樣，基于突發(fā)熱點能檢測的方式，常見的是根據(jù)搜索詞構(gòu)建時間序列，使用BRD算法計算突發(fā)性，突發(fā)性需要進行分段處理、斜率檢測、需要做分段設(shè)計，難以維護。我們構(gòu)造了query熱點計算流程來解決這個問題。

② 熱門識別：時序分析，識別熱門Query

首先是構(gòu)造這個時序之后，通過時間序列分析來識別熱門query，具體做法：定義一個熱門query的趨勢模板，前面幾天平滑，最近有一個上升的趨勢；或者小幅度上升，近期然后突然下降、熱度減退的模板，這樣計算事件的相似度，如果符合，就認為是熱門的query，否則就不是。

相似度計算最開始是使用歐拉距離，需要把時間軸上的兩個點做嚴格對齊。雖然趨勢一致，但是歐拉對齊會導(dǎo)致相似度計算值較低，會帶來bad case，后來使用DTW ( 動態(tài)時間規(guī)劃 ) 算法，使用動態(tài)規(guī)劃的方式來對齊時間序列，能更好捕捉趨勢相似的情況。

③?話題檢測：相似Query聚類，形成話題

挖掘到熱門query之后，可以發(fā)現(xiàn)用戶的搜索比較隨意，同一個事件的描述也是多種多樣，對應(yīng)多個query，所以需要把相同事件的query聚集起來，構(gòu)造一個話題，與TDT中的無監(jiān)督有所不同，搜索可以使用點擊二部圖的方式，以不同的query 可以點到同一個標題時，認為這兩個query相似，結(jié)合語義特征，比如"吳亦凡女友"和"吳亦凡戀情"，語義比較相似；還有實體特征，"科比退役""姚明退役"，雖然兩個都帶有"退役"，看起來字面相似度較高，但是"科比"和"姚明"在事件中是不同的主題，可以對相似度降權(quán)。最后對相似度的綜合得到更好地query相似度量，得到話題聚類結(jié)構(gòu)。這里可以看到將query到話題的聚類。

最后，我們可以看到用戶行為的話題檢測，可以幫我們有效度量話題的消費熱度。為什么是消費熱度呢？是因為用戶非主動搜索內(nèi)容，表示用戶有主動的消費意愿，所以是消費熱度。這也是非常有效的話題度量方式。

④ 事件識別

在話題檢測之前，當話題達到可拆分時，我們會對事件做拆分。常見的話題會伴隨非事件的話題，比如熱門美劇更新時，會出現(xiàn)熱度突發(fā)，這樣會混合這些query，因此基于監(jiān)督做事件分類。比如詞特征、點擊信息，把"下載"去掉，url中的站點信息、域名信息加入進去，train一個分類器，可以有效識別出來哪些是事件、哪些是非事件。

事件命名，組里的同學(xué)在之前通過詞法分析工具的基礎(chǔ)上，提取了一個新的事件命名方式，基于query 和title構(gòu)造圖模型，來挖掘事件concept和event的命名。這是之前話題挖掘的延續(xù)，這個任務(wù)已經(jīng)發(fā)表在SIGMOD 2020上，大家有興趣可以做詳細閱讀。當前挖掘效果每天新增100+事件，準確率人工評估95+?？梢钥吹綄Ξ斍暗耐诰蛐Ч趥鹘y(tǒng)上的提升。

2. 資訊文章熱點挖掘

作為信息流服務(wù)的團隊，每天打交道最多的是海量數(shù)據(jù)。當熱門發(fā)生時，自媒體作者會主動跟進熱點，創(chuàng)作文章跟進這些內(nèi)容，比如當科比去世的一個小時后，即便是凌晨四點，作者也會也及時更新做報道。

挖掘主要是采用聚類的方式，離線的方式是將文章的數(shù)據(jù)按照固定發(fā)布時間做切分，通過batch learning對文章進行聚類，k-means、層次聚類這些方法會忽略這樣的問題：每天有很多如描述劉德華過往文章，如果直接套用聚類算法會挖掘出來并非熱點，會影響用戶體驗。熱點文章包含時效性，如果直接套用聚類，沒考慮時效性。傳統(tǒng)的突發(fā)事件檢測Graph event detection是基于二項分布或者傅里葉變化的方法發(fā)現(xiàn)突發(fā)次，這些突發(fā)次會持續(xù)一段時間的增長，而非突發(fā)的一個尖點。并且基于詞粒度的挖掘會帶來很多bad case，NLP同學(xué)都會發(fā)現(xiàn)這樣的問題。切詞的粒度不可控。

基于這些問題，提出了新的挖掘方式：基于關(guān)鍵詞和動態(tài)時間規(guī)劃的方法來進行事件挖掘。

我們這里使用的處理方式：

① 預(yù)處理及熱門識別

關(guān)鍵詞描述文章主體，借助組內(nèi)篇章理解的能力，將文章特征轉(zhuǎn)換為關(guān)鍵詞特征，與query挖掘相似，將關(guān)鍵詞在文章庫中出現(xiàn)的頻次，構(gòu)造時間序列，再用DTW算法與固定的模板做匹配，得到挖掘到的熱門關(guān)鍵詞。比如暴雨，或者前段時間北京6月份疫情，三文魚突然熱起來，通過這種方式挖掘出來"三文魚"熱門關(guān)鍵詞，能召回很多描述新發(fā)地疫情相關(guān)的文章。當時召回的文章的acc和 recall都很高。接下來回到暴雨，通過暴雨召回所有和暴雨相關(guān)的文章，再構(gòu)造熱門關(guān)鍵詞的實體特征，包括抽取的地點，安徽、合肥，加入實體特征，再用語言模型提取title的特征，計算相似度，3個相似度綜合得到文章自底向下的層次聚類，從而得把南方暴雨聚成一個話題。而之前提到的"日本山洪爆發(fā)"，雖然提到了暴雨，相似度較低，會聚類為一個孤立的點，可以過濾掉。

② 話題檢測

在這之后，同樣是聚類，得到的話題是自媒體創(chuàng)作的文章。自媒體作者可以認為是專家用戶，他們創(chuàng)作文章的數(shù)量，可度量話題熱度，定義為生產(chǎn)熱度。

③ 事件拆分

然后做事件拆分，以"江西洪澇致699萬人受災(zāi)"和"重慶暴雨成災(zāi)"兩個事件為例，基于看點的數(shù)據(jù)分布，作為一個觸發(fā)詞發(fā)現(xiàn)和元素抽取任務(wù)，就可以得到受災(zāi)和成災(zāi)的trigger相似，但argument不相似，這樣可以把話題合理拆分成兩個不同的時間，拆分為時間后，通過rank，可以把聚類為相似度較高的標題抽出來，然后基于seq2seq + attention的方式，形成可以展示的事件名稱，從而得到合理的拆分和事件命名。

④ 熱度計算

還可以得到事件庫，可以query挖掘得到的消費熱度，基于咨詢得到的生產(chǎn)熱度，基于全網(wǎng)的監(jiān)控的全網(wǎng)熱度，綜合起來，對挖掘到的熱門文章，進行合理的熱度，幫助推薦系統(tǒng)做推薦，提供更好的熱度特征。

通過熱點挖掘算法，得到更加滿足用戶興趣的話題集合、事件集合和對應(yīng)的熱度。

接下來看在熱點推薦場景下如何應(yīng)用起來。

05

熱點應(yīng)用

1. 圖文熱點應(yīng)用

圖文熱點應(yīng)用。資訊庫是流式文章入庫，在線理解借助語義匹配模型，將新入庫的文章和已有的事件庫關(guān)聯(lián)起來，使用的是雙塔結(jié)構(gòu)和MatchPyramid模型結(jié)合，將文章標題和事件的名稱的BOW特征，計算語義相關(guān)度，而MatchPyramid模型則構(gòu)造事件詞與文章內(nèi)容的交互矩陣，比如事件名稱包含6個詞，文章選擇前300個詞，是300維，得到6*300的矩陣，做卷積計算，得到一個相似度量，將這兩個做線性融合，得到顯性匹配的分。這樣也可以把在線文章進入事件庫，賦上 事件標簽、話題標簽、綜合熱度，給推薦系統(tǒng)使用。在事件匹配的準確率上，也達到了較高的標準，事件覆蓋效果也比較好。

這不僅可以用在圖文挖掘上，也可以用在視頻、小視頻熱點挖掘中。

2. 視頻&小視頻熱點

視頻&小視頻熱中的應(yīng)用，主要是基于熱點挖掘得到的文本信息，將圖文計算的熱點傳遞給視頻和小視頻，怎么做的呢？視頻能夠準確打出影視綜合明星tag，通過已挖掘好的熱門詞庫，可以篩選出來近期熱門的影視明星類的視頻和小視頻。我們還會解決這樣的問題，比如快樂大本營已經(jīng)播了很多年，經(jīng)常出現(xiàn)老片段新發(fā)，或者明星自制的明星短劇，需要借助視頻關(guān)鍵詞、作者的信息、人工標簽，過濾掉非熱門視頻，得到熱門視頻的候選。另一個是基于新聞報道的視頻，人工不知道事件的前提下，直接打事件標簽很困難，需要借助已經(jīng)挖掘到的事件庫，和視頻標題做匹配，匹配近期的熱門事件的視頻和小視頻，如"科比墜機"，可以匹配到"科比去世"，"科比墜機身亡事件"，得到這些標題后，進入熱門視頻庫中，幫助推薦系統(tǒng)給用戶推薦更加熱門的視頻和小視頻。

嘉賓介紹：

羅錦文

騰訊 |?研究員

本科畢業(yè)于蘭州大學(xué)，研究生畢業(yè)于北京大學(xué)。2016年阿里實習(xí)，然后2017下半年轉(zhuǎn)戰(zhàn)百度實習(xí)，于18年加入騰訊正式工作，負責新NLP新熱內(nèi)容挖掘和詞法分析相關(guān)工作。