沒有ESSM和MMOE等多目標模型之前是如何解決cvr樣本稀疏問題的?

時間 2021-06-05 08:34:56

1樓:失落的薩特

用乙個非神經網路的模型,比如gbdt,這樣樣本只要幾百萬就能訓練的還不錯。

通過mtl方式和ctr網路一起訓練,embedding層共享,主要是解決大的id embedding訓練不充分的問題。

通過預訓練的方式提前訓練好高維稀疏的id 特徵。

ps. cvr樣本是否稀疏其實是個非常籠統的問題,比如在什麼模型,什麼特徵的條件下,和誰比是稀疏的?稀疏是否會帶來實際的問題?

解決稀疏問題模型效果能不能變好? 比如乙個gbdt模型不需要很多樣本,那gbdt的cvr模型可能就不存在樣本稀疏的問題。如果模型是乙個NN,也需要看是否使用了高維稀疏的特徵,比如item embedding,如果沒有id特徵,本身網路引數只有幾百萬,那累計一段時間的樣本可能也不存在樣本稀疏的問題。

而且如果沒有id特徵,樣本可以訓練多遍,也會緩解資料不夠的問題。如果這些問題都存在,再思考是否可以通過預訓練或者和ctr任務 cotrain的方式來解決樣本稀疏。最後嘗試esmm這些模型,但是不一定work :)

人生沒有目標和意義怎麼辦?

szcomic 有個詞叫 銳氣 你失去的就是它。回答問題 跟理想和目標脫節無非就是 1 能力沒上去 2 圈子小 3 不喜歡逛圖書館 4 沉迷網遊 5 社交活動少 你需要做的事情就是了解自己的職業和天賦,並接受現實中的這個暫時等級比較低的自己。然後計畫開荒,公升級打怪下副本去。一開始,你要接受現實,在...

為什麼會有很多人活著沒有目標和意義?

長風清骨 首先,我們從出生開始說起,我們每個人呱呱墜地的那一刻,我們一定要有目標,生存,要吃,要喝,要營養,可惜的是,這只是一種生理需要,但是雖然我們不斷長得,它也成了一些人的目標和意義所在。其次,成長的環境,家庭,學校,社會營造的環境,為什麼會沒有目標,絕大多數的時候,身為學生,我們被動的接受,我...

高中生學習沒有動力和目標怎麼辦?

峰迴路轉 看到你這個問題的時候,我開始想怎麼能幫你樹立理想定個遠大的目標,但我想了一下我上高中的時候,我就放棄了。其實,我自己上高中的時候,也沒啥明確的目標和追求。記得高一時,自己在360多人的年級裡面排100多,到高三700多人時候 複習班的人多 已經排出200名開外了,根本沒有什麼音障和目標。那...