看书中文网

手机浏览器扫描二维码访问

第137章 方案顺利通过验证(第1页)

第137章方案顺利通过验证

“老婆,你先带着女儿玩一会儿,我去书房处理点儿工作,就一会儿!”

思路涌来,郝成回到家不工作的承诺又要食言了。

“十点!”

宁荟能怎么样呢,还不是得由着他。

“用不了,最多一个小时!”

郝成伸出一根手指指着灯:“我保证!”

“德性!”

宁荟笑骂了一句,心里也是感叹:忙点就忙点吧,至少比起去年,这看起来开朗了许多。

……

今天确实不费什么脑筋,因为相关的知识早就在从前整理过了,只是当初没有重视。

来到书房,稍微翻一下之前记录下来的东西,郝成的思如泉涌,一下子就全都冒了出来。

如果说模型的训练提升是在做加法,让模型变得更大更强,那裁切、量化、蒸馏就是在做减法。

很多人可能会有疑问,做减法,那不是让模型变得更弱了吗?

理论确实是这样,但有时候,弱不弱的其实不是特别重要,只要使对了劲儿,一样能造的嗷嗷叫,发挥很大的作用。

比如,有些神经元节点的权重非常小,对模型加载信息的影响微乎其微,切掉它们,精度不会降太多,但却能大大的减少资源消耗。

还有,像小沙这样全量全知全能的模型,其部署和每一次的相应运算推理,都需要消耗较大的算力资源。

但事实上,每一次都是确有必要的吗?

显然并不是!

就拿小沙现在应用最广的软件开发能力来说,它就只需要精准需求的理解以及代码编写能力就够了,至于慢慢在增强的情感映射、主观判断等能力映射这些,那就完全没有必要!

不仅消耗了更多的算力,还拖慢了相应速度。

而且即便是需要的部分,也可以分层去处置:

还是拿软件开发能力来说,最粗略的,那就可以分为两部分:一部分是需求理解,另一部分是根据需求去做开发。

而这第二部分,那就只需要一个“软件开发”

的行业模型就够了。

所以,先在输入端就将用户需求分解,然后将小沙按需裁切为软件开发、法律服务、安全服务等小模型,根据分解的需求去调用其中一个,或者几个。

就比如之前被视为经典案例的小沙第一次庭审,那次的应对也不过是需要三个基础能力:语义理解、法律服务、软件开发能力。

只有极少数的情况,才需要去动用小沙的全量模型。

即便需要全量模型,全程调用全量模型,和只在有需要的步骤去调用全量模型,消耗的资源也是大相径庭的,但结果可能是一模一样。

……

“训练提升难住我了,裁切蒸馏还不是手拿把掐!”

深夜课堂学了这么久,郝成还是有几把刷子的,微意识体的模型训练力有未逮,但压缩郝成还是有办法的。

更何况,郝成还有小沙这个绝佳的辅助工具。

太子妃位被夺我转身嫁太子他爹无防盗章节  裁员后我成了科技教父无防盗章节  孽海by言淼宋遇宁翠微居完整版  绝尘烟客原创新书太子妃位被夺我转身嫁太子他爹  和离之后  孽海海棠文无删减  陆凌瑶太子妃位被夺我转身嫁太子他爹笔趣阁未删减版  太子妃位被夺我转身嫁太子他爹陆凌瑶免费阅读无错版  陆慕言苏溶月笔趣阁免费阅读  辰小序原创新书裁员后我成了科技教父  笼中雀海棠文无删减  主角叫陆凌瑶的小说  勤劳的小野猫小说主角言淼宋遇宁  媚人小说主角陆慕言苏溶月  笼中雀  言淼宋遇宁笔趣阁免费阅读  裁员后我成了科技教父郝成免费阅读无错版  孽海  和离之后海棠文无删减  笼中雀by陆慕言苏溶月翠微居完整版  

热门小说推荐
妖孽老公放肆爱

妖孽老公放肆爱

众人皆知,梁家大小姐骄奢淫逸,嚣张跋扈,三年前为了和男人私奔甚至气死生父,但偏偏命好的不行,竟然摇身一变成了权势滔天的周家少奶奶,不仅如此,周少爷更是百般疼爱。周总,太太又去珠宝店了。收购了吧,明天把相关文件给她送过去。周慕寒嘴角勾起一丝柔情她想要什么都给她。那要是她想离婚呢?男人脸色一变想都不要想!...

师傅是个外星人

师傅是个外星人

诺贝尔生理学或医学奖得主保罗克勒默跪在胡政的屋外请大师收我为徒,传授我人体脏腑器官再生技术。胡政摇头你对神经系统的信号转导机制有经验,我收你做一个外门弟子,传你神经线路集成法,使人类的思维能力扩大十倍。这个被地球人称为外星人大师的胡政,曾经经历过一次外星人夺舍的危险。但是,胡政反夺舍成功,并接收了外星人的所有记忆与经验,还拥有了一个万物合成器。于是胡政牛逼了!超距离传送技术外星...

家有妹妹异能神

家有妹妹异能神

中考结束不久后,妹妹苏晓萌突然回到苏文远的生活里WTF?我的妹妹怎么可能是异能神?...

南宋一统

南宋一统

穿越成为南宋一个卧病在床的少年,最后却能让南宋一统天下,这其中的故事肯定很精彩,大家拭目以待吧。...

暮然回首:爱若咫尺天涯

暮然回首:爱若咫尺天涯

惊鸿一瞥,他不惜动用所有势力,大海捞针,只为找到那个相似的她。一场交易,两番景色,他步步为营,处处设计,不惜一切代价,只为将她禁锢在身边。面对巨额医药费,她茫然无措,四处打工,操劳过度送医治疗,他傲立在床边,声音清冷要钱很简单,只要你嫁给我。刚毅的铁臂让她无处可逃,被迫承受他的所有,她以为自己很幸运被他看中,就在一片芳心沦陷时,他发泄过后,趴在她身上,嘴里念着的却是另外一个女人的名字。婚后她的生活天翻地覆,拿下奥斯卡,打败心机婊,开了挂的人生让她从此闪耀夺目。人人都说他爱她,她却笑的心里发凉,因为她知道,自始至终。他爱的不过是这张酷似前妻的脸,而不是她但恢复记忆的那一刻,她却潸然泪下...

每日热搜小说推荐