研究是主動和係統方式的過程,是為了發現、解釋或校正事實、事件、行為、或理論,或把這樣事實、法則或理論作出實際應用。「研究」一詞常用來描述關於某一特殊主題的資訊收集。

VIP內容

【導讀】如何入門科研,做出有影響力的研究?這是每個讀博同學所關心的。最近GAT作者DeepMind研究科學家Petar Veličković在個人Twitter上分享了他早期讀博的一些經曆和建議,非常值得思考,包括要多找大牛組實習,對自己的想法“硬編碼”驗證,可以先投Workshop來通過圈內人Review反饋自己的工作等。希望對各位讀博同學有用。

在繼續之前,重要的免責聲明: 這些隻是我個人的觀點,很可能是我的經驗和性格的強烈偏見。希望還是有用的!

  • 在攻讀博士學位的早期階段,我經常會碰到一個問題: 基於組裏的硬件/軟件/專業設置情況, 我所提出的想法顯得的不適合,難於施行。

  • 這將讓我陷入好幾個月的“困惑糾結”中(有時甚至迫使我將自己的薪水花在計算機上!)。對我來說,改變遊戲規則的是那些對我想做工作有影響的研究人員: 首先從他們的角度學習,最後是去實習。

  • 我在@Mila_Quebec的實習(在那裏提出了GAT/DGI),這都是通過給Yoshua Bengio的郵件開始的,在這兩種情況下,我們最初討論的內容都與這兩篇論文的最終內容完全無關。(第一次是多模態計算機視覺; 第二次,意識)。

  • 類似地,我在@BellLabs的實習(提出了X-CNN/X-LSTM)也從一個電子郵件帖子開始,目標是低資源的機器學習,與計算機視覺完全無關。

  • 實習(或短期研究實習)是專注於解決某個特定問題(或一係列問題)的好方法: 這是一個預先確定的時間,通常與領域專家一起工作(這樣他們就會知道什麼是新奇的、令人興奮的和可行的)。

  • …通常它會讓你接觸到更廣泛的研究人員,他們可以提供寶貴的經驗與建議,這在其他地方是不可能的。實際上,在實習中學到的經驗教訓也可以對你的工作流程產生積極的反饋。

  • 最終,有了足夠的經驗,你就會熟悉這個領域,對什麼是可行的有更好的感覺。在這方麵,我逐漸學到的一個技能是,一旦你有了想要驗證的想法假設,總是盡可能地“硬編碼”問題。

  • 例如,我的意思是,直接向模型提供它不應該有的數據,如果模型在這個設置中不起作用,你(通常)要麼在某個地方有一個bug,要麼這個假設很可能是錯誤的。

  • 一旦你的模型正確地適應了硬編碼的問題,你就可以逐漸放鬆輸入的“受限”數據,確保它在每一步都能正常工作。這是一個很有影響力的工作流程,在我最近的許多算法推理論文中被證明是至關重要的。

  • 我認為,學生們被迫“不發表就沒門”,這是一個有點可悲的現實。如果你所處理的問題是你認為非常有意義的,並且你的解決方案有價值,我不認為一定要發表你的論文是絕對必要的。

  • 研討會通常有更高的接受率(約75% +%),是一個在你的論文發布前獲得反饋的好平台,而具有諷刺意味的是,它們與大型會議聯係在一起意味著你仍然能夠獲得更多曝光。

  • 事實上,因為研討會通常針對的是一個狹窄的“小眾”研究人員,所以你很可能會從那些可能成為你未來的Reviewer甚至合作者的人那裏得到集中的反饋。:)

希望你覺得它有用——歡迎任何反饋或個人經驗。:)

成為VIP會員查看完整內容
0
23
0
Top