第十八章 論文投稿

　　蘇飛一口氣刷數(shù)學(xué)全書到了晚餐時(shí)間，簡(jiǎn)短的吃了個(gè)飯，回來(lái)繼續(xù)肝。

　　不過(guò)很快，他的VX就收到了老趙的消息，論文已經(jīng)潤(rùn)色完成，電子版打包發(fā)了過(guò)了，蘇飛簡(jiǎn)略地查了一遍，發(fā)現(xiàn)老趙居然還把自己的代碼精簡(jiǎn)了一下。

　　再次感謝老趙后，蘇飛抱著手提就上了床，連上wifi，準(zhǔn)備論文投稿。

　　蘇飛先注冊(cè)了CMT賬號(hào)，然后填寫了姓名郵箱等雜七雜八的個(gè)人信息，弄了半天終于進(jìn)入了AAAI2022會(huì)議項(xiàng)目，把論文題目，摘要和全文一個(gè)個(gè)貼上去，附上了代碼，完成上傳。

　　論文狀態(tài)被修改為“submitted-to-editor”，表示論文已經(jīng)成功提交給編輯了，接下來(lái)只要慢慢排隊(duì)就行......當(dāng)然，蘇飛完全不準(zhǔn)備排隊(duì)。

　　‘系統(tǒng)，使用插隊(duì)卡?！?p>　　‘叮！插隊(duì)卡使用成功！’

　　系統(tǒng)提示音剛落下，蘇飛就受到了郵件提示，自己的論文狀態(tài)已經(jīng)更改為“under-review”。

　　蘇飛瞠目結(jié)舌，論文成功提交給編輯和成功給審稿人是不同的概念，特別是這種頂會(huì)，編輯的作用很可能就只是匯總一下審稿人的意見(jiàn)，自己沒(méi)什么決定權(quán)，所以重點(diǎn)還是在審稿人上，這種編輯又叫“meta-review”，meta是元分析的意思，就是概括分析所有審稿人的意見(jiàn)，完全就是工具人。

　　一想到自己的論文已經(jīng)躺在審稿人的郵箱里，蘇飛就激動(dòng)地在床上手舞足蹈。

　　當(dāng)然，這也只是第一步，AAAI這種頂會(huì)中的頂會(huì)，審稿人有足足四個(gè)，每個(gè)審稿人都會(huì)打分，而且實(shí)行雙盲審制度，第一輪的兩個(gè)審稿人和第二輪兩個(gè)審稿人之間的信息完全保密，也就是說(shuō)，第二輪打分的時(shí)候完全不知道第一輪的分?jǐn)?shù)，也不知道第一輪的審稿人。

　　這就很容易鬧出啼笑皆非的事，比如第一輪打了高分，第二輪打了個(gè)超低分，兩輪的大佬事后甚至?xí)称饋?lái)，都認(rèn)為對(duì)方不專業(yè)。

　　可能很多人認(rèn)為這種制度不合理，一千個(gè)讀者就有一千個(gè)哈姆雷特，然而，這種制度卻保證了論文的高含金量，這意味著你想要在AAAI上發(fā)文，你就要成為那唯一的哈姆雷特。

　　......

　　在蘇飛入睡之際，美國(guó)舊金山正烈陽(yáng)當(dāng)空。

　　舊金山，斯坦福AI實(shí)驗(yàn)室主任辦公室。

　　一個(gè)戴著眼鏡，頭發(fā)微白的青年人正喝著咖啡，查閱著自然語(yǔ)言領(lǐng)域最新的科研進(jìn)展。

　　雖然這位青年看起來(lái)有些瘦弱，但沒(méi)有人敢小瞧他，他是自然語(yǔ)言處理領(lǐng)域的最高標(biāo)桿，當(dāng)年的機(jī)器翻譯和智能問(wèn)答系統(tǒng)就是他一手引領(lǐng)起來(lái)的潮流，如今無(wú)數(shù)人使用的翻譯軟件和搜索引擎，都要算他一份功勞。

　　他是曼寧（Manning），在自然語(yǔ)言處理領(lǐng)域，可以說(shuō)是神一樣的存在。

　　“嗯？”

　　曼寧教授發(fā)現(xiàn)自己的郵箱被推送來(lái)了一篇論文，還是來(lái)自AAAI的一個(gè)技術(shù)編輯。

　　“怎么還得我來(lái)審稿？”

　　曼寧教授嘟囔了一句，雖然他也是AAAI的會(huì)員之一，而且也確實(shí)有責(zé)任審稿，但作為AAAI最高榮譽(yù)會(huì)員，這種大佬整個(gè)AAAI不超過(guò)兩手之?dāng)?shù)，他們的作用就是鎮(zhèn)場(chǎng)子的，哪個(gè)不長(zhǎng)眼的編輯會(huì)讓這種大佬充當(dāng)審稿人，簡(jiǎn)直吃了熊心豹子膽。

　　曼寧教授雖然內(nèi)心有些不滿，但還是點(diǎn)開(kāi)了論文，開(kāi)始查閱。

　　【Deep contextualized word representations】？

　　嗯哼，從今年最火的方向下手，切入點(diǎn)倒不錯(cuò)。

　　曼寧教授大略看了看摘要，作者提出了一個(gè)新的模型彌補(bǔ)了TagLM的劣勢(shì)，并且取得了近十個(gè)點(diǎn)的性能提升。

　　看到此處，曼寧教授不禁來(lái)了興趣，如果這摘要沒(méi)有夸大其詞，十個(gè)點(diǎn)的性能提升，絕對(duì)能讓這個(gè)新模型完全替代TagLM。

　　越往下看，曼寧教授的心中就越是嚴(yán)肅，而掛在墻上的鐘表滴答滴答走動(dòng)。

　　一分鐘，兩分鐘，五分鐘，十分鐘......

　　去除卷積提取層，去除循環(huán)神經(jīng)網(wǎng)絡(luò)提取層，只保留原始詞向量？

　　不得不說(shuō)這個(gè)結(jié)構(gòu)修改非常大膽，可是......提取層都去除了，用原始信息能有好結(jié)果？

　　然后，他就在下面一段的理論證明找到了答案。

　　看到理論證明的時(shí)候，曼寧教授也是詫異了一會(huì)兒，什么時(shí)候深度學(xué)習(xí)的論文還有理論證明這部分了？現(xiàn)在的年輕人都這么嚴(yán)謹(jǐn)?shù)拿矗?p>　　緊接著，他就發(fā)現(xiàn)了更不可思議的事情，對(duì)方不但證明了，而且證明得非常詳細(xì)，先是用線代說(shuō)明卷積提取層在這個(gè)結(jié)構(gòu)里只能給參數(shù)帶去混亂因子，然后又證明了普通的循環(huán)神經(jīng)網(wǎng)絡(luò)提取層不足以提取到所有信息，結(jié)合相關(guān)數(shù)學(xué)理論，改換成了雙層結(jié)構(gòu)的長(zhǎng)短期記憶神經(jīng)網(wǎng)絡(luò)提取層。

　　這......作者論證思路清晰，邏輯嚴(yán)謹(jǐn)，真的要雞蛋里挑骨頭的話，就是這篇論文的實(shí)驗(yàn)只使用了單一的命名體識(shí)別，他不明白，是什么樣的團(tuán)隊(duì)，很可能都請(qǐng)了一個(gè)數(shù)學(xué)專家了，還非舍不得再花點(diǎn)成本多做幾個(gè)實(shí)驗(yàn)。

　　思及此處，曼寧就直接把論文拉到了作者那一行，讓他瞠目結(jié)舌的是，這篇論文的作者就一個(gè)人，大大的Fei Su填在了第一作者那一欄。

　　還是個(gè)華國(guó)人？

　　雖然他蠻喜歡華國(guó)人，他自己組里就有幾個(gè)華國(guó)人，學(xué)術(shù)造詣很高，但一個(gè)人一篇論文這種事他還是有些懷疑。

　　于是他拿著上傳上來(lái)的代碼試了下，結(jié)果還真跑通了，性能提升高達(dá)9.73%！

　　太讓人難以置信了。

　　曼寧現(xiàn)在心里就兩個(gè)字：厲害！

　　他現(xiàn)在完全可以確信，這篇論文沒(méi)有摻半點(diǎn)水分，更沒(méi)有夸大其詞，這篇論文提出了一個(gè)全新的模型，性能遠(yuǎn)高于TagLM。

　　【由于這個(gè)模型是基于其他語(yǔ)言模型改善得到，我將這種新模型命名為 ELMo（Embeddings from Language Models），意為從其他模型得到的詞向量，以此紀(jì)念TagLM的貢獻(xiàn)。】

　　曼寧在讀完論文的最后一段總結(jié)后，不禁產(chǎn)生了欽佩，這個(gè)作者喝水不忘挖井人啊。

　　不過(guò)讓他感到有點(diǎn)奇怪的是，ELMo這個(gè)名字不是美國(guó)著名兒童電視劇“芝麻街”里的那個(gè)紅色小可愛(ài)艾蒙么，對(duì)方是故意湊的這個(gè)名字嗎？還蠻有童趣的。

　　曼寧會(huì)心一笑，打出了自己的審閱評(píng)分，在十分制中他直接打出了九。

　　這在AAAI里可是一個(gè)很高的分?jǐn)?shù)了，許多人投了十?dāng)?shù)次都沒(méi)有得到個(gè)一個(gè)九，何況打出這個(gè)九的還是曼寧這種級(jí)別的大佬。

　　曼寧把自己的看法和論文分?jǐn)?shù)回復(fù)給了那個(gè)發(fā)給自己的技術(shù)編輯，同時(shí)在郵件最后表達(dá)了感謝。

　　......

　　同時(shí)，美國(guó)紐約的某個(gè)技術(shù)編輯此時(shí)此刻非?；?，他本想把新的投稿轉(zhuǎn)發(fā)給Menning（蒙寧），結(jié)果鬼使神差地打錯(cuò)了一個(gè)字母，發(fā)給了通訊錄里的大佬Manning，而且都已經(jīng)過(guò)去了數(shù)個(gè)小時(shí)才發(fā)現(xiàn)。

　　雷蒙德無(wú)法想象，如果曼寧大佬向AAAI的負(fù)責(zé)人抱怨了一下這件事，自己會(huì)不會(huì)被撕成碎片......

　　“算了，還是負(fù)荊請(qǐng)罪，主動(dòng)承認(rèn)罪行，說(shuō)不定能善終。”

　　雷蒙德喃喃自語(yǔ)，打開(kāi)郵箱，正要給主編發(fā)請(qǐng)罪書。

　　結(jié)果，曼寧大佬的郵件叮得一聲就送達(dá)了。

　　雷蒙德瞬間嚇出了冷汗，手指顫顫巍巍地點(diǎn)進(jìn)了郵件。

　　“上帝在上?！?p>　　他一邊默默請(qǐng)求保佑，一邊查看郵件。

　　【雷蒙德，我的老朋友，我很感謝你給我的這個(gè)機(jī)會(huì)，讓我欣賞到一篇如此完美的杰作，給了我一個(gè)下午的消遣時(shí)光，也讓我見(jiàn)證了一個(gè)新時(shí)代的到來(lái)，這個(gè)時(shí)代名為ELMo。您的行為贏得了我的尊重，如若以后還有這種論文，請(qǐng)務(wù)必推送給我，我的老朋友，愿我們友誼長(zhǎng)存！】

　　雷蒙德：？？？

　　我是誰(shuí)？

　　我在哪？

　　我在干什么？