2023年在NLP領域,資源有限的個人 團隊能做哪些有價值有希望的工作?

時間 2021-05-06 21:25:30

1樓:

我感覺,產業界開始集團化搞的問題,說明其中主要的開放性難題已經被解決得差不多了,如語言識別、人臉識別等,在過去20年裡面都陸續被廣泛商業應用。看最近的BERT、GPT-2,我理解更多的是將深度學習對大規模資料擬合的能力發揮到極致,在深度學習技術路線基本成熟的前提下,大公司有強大計算能力支援,自然可以資料用得更多,模型做得更大,效果擬合更好。

成熟高新技術進入商用競爭,就大致會符合摩爾定律的發展規律。現在BERT等訓練看似遙不可及,但隨著計算能力等因素的發展普及,說不定再過幾年,人人都能輕易訓練BERT和GPT-2,大家又會在同乙個起跑線上,把目光轉移到下乙個挑戰性難題上。

所以不如提前考慮,哪些問題是純資料驅動技術無法解決的。NLP和AI中的困難任務,如常識和知識推理,複雜語境和跨模態理解,可解釋智慧型,都還沒有可行的解決方案,我個人也不看好資料驅動方法能夠徹底解決。更高層次的聯想、創造、頓悟等認知能力,更是連邊還沒碰到。

這些正是有遠見的研究者們應該開始關注的方向。

2樓:Liyuan Liu

我們是屬於有幾塊卡,不多,勉強夠用的樣子

雖然偶爾也會抱怨抱怨,但總體心態還是很樂觀的hh在不同的環境/設定/資源下,可以做不一樣的東西呀~Liyuan Liu:Efficient "ELMo" Embedding

當時就是覺得performance 更好這條路,可能不是很適合學校裡的phd 走,看到這個問題還是有點感慨... 順便厚顏來推廣下自己的工作hh

2023年在iPhone8p xr 和公尺9間應該如何選擇?

力程 XR可以,預算夠的話,8P稍微落後了不過還是夠用的 我16年買的SE到現在用著依然順暢舒服 至於安卓機我身邊部分人在用,評價褒貶不一所以暫時不推薦。 JackieWashon 三星s10或者8p吧,預算都5000了考慮啥小公尺,s10和8p主要是系統區別,喜歡哪個用哪個,xr訊號極差,就是個i...

你認為未來5年在互動領域將會發生哪些創新?依據是什麼?

Jennifer 首先隨著裝置硬體技術的日漸提公升,以及網路速度的提公升,趨勢肯定是向富客戶端發展,客戶端會承載更多的資料拼裝和驗證,這樣就會呈現出更為豐富的互動效果。伴隨webgl的發展,面向於 的互動肯動會更多一些,這樣就會有更為豐富的視覺效果和互動體驗 縱橫 未來的互動朝著多感官通道互動,目前...

2023年在您讀過哪些育兒或教育方面的好書?

彌小木 我是兩個孩子的媽媽,乙個2歲多,乙個10歲。以下三本書,是今年在育兒方面,帶給我觸動比較大的三本。李雪的 當我遇見乙個人 孫瑞雪的 完整的成長 田巨集傑的 不咆哮讓孩子愛上學習 李雪的 當我遇見乙個人 這本是我前年看的一本書,去年 今年也都會時常開啟來看看。前年我剛生二胎,在那一年,這一本書...