第四十六章 完善論文

　　“面對疾風(fēng)吧，哈薩給！”

　　蘇飛剛進(jìn)寢室，就聽到了某人選擇了快樂風(fēng)男的聲音。

　　只見寢室里李浩博和鄭浩然正一左一右趴在周揚(yáng)桌上看周揚(yáng)打擼啊擼。

　　鄭浩然：“臥槽，揚(yáng)仔，你還玩風(fēng)男，不怕被封號??？”

　　周揚(yáng)：“給你們倆來一局教學(xué)局?！?p>　　鄭浩然和李浩博同時(shí)翻了個(gè)白眼。

　　“阿飛你今天干啥去了？”鄭浩然撇見正溜進(jìn)寢室的蘇飛，疑惑問道：“不會是和姜大小姐約會了吧？”

　　蘇飛：“你看人家看得上我不？”

　　鄭浩然悻悻點(diǎn)頭：“也是?！?p>　　蘇飛：“……”

　　李浩博道：“老三應(yīng)該是參加腦科學(xué)競賽訓(xùn)練了吧？”

　　鄭浩然：“是不是又是哪個(gè)小姑娘告訴老大你的？”

　　李浩博搖了搖頭，拿出手機(jī)，打開VX，只見一個(gè)白貓頭像的人發(fā)了一條朋友圈。

　　【腦科學(xué)建模競賽第一次正式訓(xùn)練！各位學(xué)神們都好厲害，珊珊也要努力追趕！一起fighting，勇奪第一!】

　　配圖有三張，第一張是白珊珊在機(jī)房外的自拍，第二張是王正教授專心講課的側(cè)拍，第三張則是王正教授推薦的幾本書的照片。

　　蘇飛直呼好家伙，心里暗道，朋友圈果然是裝點(diǎn)出來的。

　　“這妹子腿好細(xì)，嘶溜～”

　　鄭浩然的關(guān)注點(diǎn)果然不負(fù)蘇飛所望，集中在了奇奇怪怪的地方。

　　李浩博嫌棄地看著鄭浩然：“能不能不要暴露你奇怪的xp。”

　　周揚(yáng)聽到鄭浩然的話，瞬間覺得手里的快樂風(fēng)男不快樂了，也湊過去一探妹子真容。

　　周揚(yáng)：“嘶～舔一下！這妹子誰??？”

　　李浩博說道：“這是我們校學(xué)生會的書記，也是這次腦科學(xué)建模競賽的隊(duì)員，她還是之前數(shù)模競賽高教社杯冠軍杯那隊(duì)的隊(duì)員?！?p>　　鄭浩然：“臥槽，阿飛，有這么個(gè)高顏值大神帶著，你們隊(duì)不是起飛？”

　　嗯……是真的起飛，物理意義上的螺旋升天。

　　蘇飛想了想，說道：“白珊珊同學(xué)的溝通協(xié)調(diào)能力和文書工作能力很強(qiáng)?！?p>　　頗為了解學(xué)生會的官方腔話的李浩博吐槽一句：“好一句廢話文學(xué)?！?p>　　另外兩個(gè)寶寶完全沒get到蘇飛的點(diǎn)，還一臉天真的樣子。

　　周揚(yáng)甚至喃喃自語：“比你有天賦的人還比你努力，而我卻還在打游戲?！?p>　　蘇飛想了想道：“既然比你有天賦又比你努力，那你還努力干什么呢？該吃吃，該睡睡，該玩玩?！?p>　　周揚(yáng)恍然大悟：“有道理！”

　　于是，他繼續(xù)投入快樂風(fēng)男的戰(zhàn)場。

　　……

　　蘇飛則是把他的小破筆記本抱上床，他想要繼續(xù)完善他的“菠蘿”。

　　蘇飛這幾天根據(jù)現(xiàn)有的注意力機(jī)制文獻(xiàn)，有空便修修改改，新想法的框架早就打好，但技術(shù)上其實(shí)早就步入瓶頸。

　　具體的技術(shù)難點(diǎn)有兩個(gè)，一是既然要以注意力機(jī)制為基創(chuàng)造新的模型單元，那么就要舍棄現(xiàn)有的所有其他模型結(jié)構(gòu)，舍棄這些結(jié)構(gòu)代表著舍棄信息提取層，而注意力機(jī)制計(jì)算囊括的信息很單一，使用注意力機(jī)制可以得到更精確的信息，但同時(shí)會縮減信息源。

　　就好比你拿著放大鏡看世界，世界的確更清晰了，但視野會縮小。

　　第二個(gè)難點(diǎn)則是，注意力機(jī)制計(jì)算是沒有順序的，也就是說信息的順序是雜亂無序的，而且是沒有時(shí)空性的，這就意味著在提取信息的時(shí)候，你不但有可能得到位置相反的信息，還可能得到時(shí)空錯(cuò)亂的信息。

　　就比如說你在讀取一篇新故事的時(shí)候，你都是從頭讀取，對于沒有讀到的內(nèi)容你是不知道的，這才會有新奇感，如果是推理小說，你甚至能根據(jù)前面故事的內(nèi)容來推斷最后的兇手。

　　然而一旦采用注意力機(jī)制計(jì)算，計(jì)算機(jī)在讀這篇故事的時(shí)候，很可能會直接讀取誰是兇手，因?yàn)檫@個(gè)因素是所有讀者最為關(guān)注的，最吸引讀者注意力的，然后逆著順序往前讀。

　　這兩個(gè)難點(diǎn)也是困擾當(dāng)今想改善注意力機(jī)制的學(xué)者們的最麻煩的難題，而蘇飛目前對第一個(gè)難點(diǎn)有點(diǎn)想法。

　　他果斷地打開系統(tǒng)商城，買了一張靈感激發(fā)卡。

　　蘇飛不會自大到僅靠自己解決這種困擾整個(gè)學(xué)界十多年的難題。

　　當(dāng)然，他也已經(jīng)有些思路，只是需要靈感激發(fā)卡來給他具體化一下。

　　如果把注意力機(jī)制的計(jì)算看成一個(gè)矩陣，一個(gè)矩陣的計(jì)算獲取一個(gè)單一信息，那么是不是只需要多個(gè)矩陣就能獲得多個(gè)信息……

　　蘇飛順著這個(gè)思路往下想，同時(shí)心里默念“使用靈感激發(fā)卡”。

　　和上次一樣，一股神秘的暖流鉆上蘇飛的大腦，一個(gè)個(gè)根據(jù)蘇飛的思路演算的公式直接刻入他的腦海，一次次的理論修改也涌入他的腦?！?p>　　就仿佛是不斷試錯(cuò)后成功的蘇飛把這一過程帶回去給過去的自己。

　　大腦瞬間便超負(fù)荷，蘇飛只感覺自己的cpu快炸了。

　　‘叮！靈感激發(fā)卡使用成功！’

　　隨著系統(tǒng)的提示音落下，蘇飛的意識也從那海量的信息中退出，就像是沉迷VR的人突然被拔了電源一樣。

　　“這個(gè)思路還真的是對的……”

　　蘇飛有些不可思議，要知道，這個(gè)思路完全就是他自己琢磨的，不像上次ELMo論文一般有姜大小姐給她啟發(fā)。

　　“數(shù)學(xué)理論真是萬能啊，多讀書果然沒錯(cuò)?！碧K飛不禁喃喃自語。

　　蘇飛連忙把第一個(gè)難點(diǎn)的解決方案寫到了word文檔上去。

　　【多矩陣拼接構(gòu)造多頭注意力機(jī)制以此彌補(bǔ)注意力機(jī)制獲取信息單一的問題……】

　　良久，他把所有過程詳細(xì)地書寫了一遍。

　　“那么，現(xiàn)在該來考慮第二個(gè)難點(diǎn)了?！?p>　　蘇飛緊皺著眉，對于注意力機(jī)制的信息無序問題，他還沒有任何思路，實(shí)際上現(xiàn)在有很多論文專門嘗試攻克這個(gè)問題，然而效果平平。

　　蘇飛打開面板，看著自己僅剩的1000積分，如果再買一張靈感激發(fā)卡，他就成窮光蛋了，而系統(tǒng)目前給出的四個(gè)任務(wù)，其中三個(gè)還遙遙無期。

　　還需要考慮到的一點(diǎn)是，在沒有思路的情況下使用靈感激發(fā)卡會不會白白浪費(fèi)一張。

　　蘇飛略微思索了一會兒，決定暫時(shí)放這個(gè)難點(diǎn)一馬。

　　過幾天去AI研究社看看能不能“集(薅)思(薅)廣(羊)益(毛)”。