手机浏览器扫描二维码访问
第113章 意外的邀请（第1页）
相比效果显著，非常出色的老虎算法，移动端优化排序算法的效果要稍差一些。
因而孟繁岐并没有急着推动上线测试，而是等待结合AI语言解释模型的那一个更新准备一起推动。
目前针对语言问题所采用的通常是循环神经网络（RNN）和长短期记忆办法（LSTM），这两个工作都是上个世纪末的老办法了。
这两种方法简明好用，因而一直兴盛到2017年左右。
直到Transformer，也就是ChatGPT的T方法出现。
通常来说，大家都认为Transformer方法之所以能够迅速取代RNN和LSTM，主要是因为它更方便并行进行。
在多个设备上容易做到并行，这件事最核心的意义便是让规模庞大的版本成为可能，这也为后来ChatGPT这样的究极巨无霸模型奠定了基础。
“其实老版的RNN也有办法可以把并行做得很好，领域内对这件事有很大的误解。”孟繁岐皱着眉头思索道。
原本时间线，Transformer出来之后，所有人都放下了手头老方法的研究，拥抱了T方法。
可18年实际上有人专门做了RNN的高度并行，只可惜已经太迟了。
如果这个发现可以早一年的时间，可能RNN会长期作为T办法的竞争对手，我们也有可能看到ChatRNN的出现。
“早期的T方法需要很多数据，各种参数比较难调整，需要的计算能力也很庞大。”孟繁岐即便根据后来成熟的许多方法做了一个改进的版本，T方法在早期仍旧比较麻烦。
“好在谷歌的数据和算力都不缺，而我也比较熟悉各种经典的参数设置。”孟繁岐先写了一个雏形版本的T方法，进行了一下测试。
“不过，受限于现在显卡的显存，模型没有办法做得很大，除非我专门再去开发DeepSpeed这样的高级并行方式。”
在多张卡上训练模型，可能是为了追求速度，也可能是因为一张卡上放不下了。
其中，数据并行是最简单的，也就是不同的卡都在做同样的事情，每张卡上都会存放一个模型。
只不过输入的数据不一样，不同的卡做完运算之后，再一起整合更新。
就像是所有人都拿了同样的刀切不同的菜，最后把切好的食材堆在一起。
可有的时候，一张卡上根本就放不下模型，这样的情况就比较麻烦了。因为一个人根本拿不动这把刀了，需要多人协作。
可以把每一层拆分到不同的卡上，也可以把不同层分配到不同的卡上，如此一来，其实是用多卡实现了类似单卡训练的效果。
显然，前者会比后者容易非常多，前者只需要在不同卡上复制这些模型，分别读取数据做运算就好。
而后者则需要根据不同的情况和设置拆分合并，一个不小心就会搞错。
看了下谷歌大脑的服务器，里面有好几批2013款的GTX泰坦，这东西着实价值不菲。
考虑到当时的其他产品，6G的显存还是鹤立鸡群的。
比起孟繁岐自己重金购置的4G旗舰款，多出的2G显存，足够做很多其他的事情了。
用速度换显存，孟繁岐又做了许多参数和信息在Cpu和Gpu上反复转移的操作。
因为在正式入职之前，谷歌大脑分配给他的显卡就已经有16张泰坦，这部分卡拨给孟繁岐独享，随时都可以使用。
除此之外，还有32张在不同节点上的Gpu可以申请占用。
西有鹿鸣 黑天使 狂舞巔峰 娱乐：让你上台卖惨，没让你笑场 无解 冷暴力恐怖份子 弹琴不谈情 华娱：导演的快乐就这么简单 夜之牙一 忘记 来自宇宙的情书 桂林山水甲阳朔 莫名其妙爱上你 我不花心，只是多情 JULIET 巧克力女孩 你要不要跟我告白 反派手挽手，八零抖一抖 倾世狂妃：驯服腹黑王爷 荒岛求生后假千金爆火了
九州战神全文免费阅读
一代战神秦九州重归都市，为弥补遗憾，搅动风起云涌，以不败之资横行四方，诸天震颤。...
大秦：挥戟十万次的我无敌了
简介 五岁开始练戟，十年时间，挥戟十万次，戟法大成，举世无敌。 十五岁那年，赵军突袭，屠虐乡亲，林天毅然从军，五百秦卒出关中。 杀赵骑，灭赵国，以极致杀伐，开启盛世之旅。 男儿生于乱世，当带三尺剑立不世之功。 灭赵之后，林天更是连克四国，平定整个天下。 从五百铁骑，到坐拥三十万大军，林天所过之处，世人皆道人屠！！...
入骨缠绵：这个总裁暖暖哒
一个是落魄的富家千金，一个是一生荣华的总裁大人，他们是青梅竹马，也是知心爱人，十年苍茫两分离，看总裁大人怎么捕获小甜心吧！...
帝御仙魔
大唐皇朝即将崩塌，儒释道三门欲逐天下，异族大军四面侵入边疆。宗室子弟重生长安，前世他为亡国之君，欲为长安布衣不可得，今世他要逆天改运。我有帝剑扫六合，我秉帝道立纲纪，御仙役魔证帝业！...
承宴策
荣隆874年慕容一氏，上至慕容丞相，下至三万精兵，世代忠贞大靖。皇帝委以重任，一时权倾朝野，无人能与之争辉。奈何有传慕容丞相与帝妃有染，其大儿大将军遭人陷害，导致慕容三万精兵尽数命丧黄泉。嘉靖帝大怒，下旨免黜慕容上下官职，将慕容一氏驱赶指南州青山，不召不得回京。一朝睁眼，商界大鳄沈朝野成了四岁的女娃娃，不仅财富权势成了黄粱一梦，还听说命中不详，先有害慕容氏败落，后又克死了自己的母亲，还被亲爹取野字，名门贵女不过是个笑话。女娃娃摊手，没钱没势不要紧，附赠复杂家世也行，但你要真拿我当笑话，我先让你含笑九泉。时隔十四年。南湘王与京都第一才女沈朝歌，一见倾心，向皇帝请旨赐婚，俊男贵女，十里姻缘，传为一段佳话。与此同时。沈家嫡长女沈朝野因截获贪官有功，特令回京，乘宝马香车，认祖沈家，受封承宴翁主。她携慕容一氏怨愤而归，内斗口蜜腹剑沈家，外抗虚伪皇亲贵胄，以命为棋，步步为营。呵，你想安安稳稳风光大嫁？先把债还了！她玩转权谋，势要翻覆慕容冤案，还慕容一氏清白，让慕容三万烈士，铮铮白骨在黄泉之下得以安息。吾名朝野，上承天恩，下宴山河，以权为谋，注定策写一场盛世年华。...
我的老婆是女警
公司的美女同事经常不小心与我身体摩擦，唉，我可是有老婆的人，她是漂亮火爆的警察局长，虽然因为合约婚姻的关系，她不吃醋，但她吃人。...