返回
首页
关灯
护眼
字体:
第243章 买一送一(第2/2页)
    术,明知道思路是王霁自己想的,活也是他一个人干的,却不得不提联合申请。

    开口就很不好意思。

    说完脸都红了。

    连带着,莫远游他们都有些尴尬。

    王霁淡淡一笑:“钟教授,您太客气了啊,本来就是解决你们的问题,当然是你们申请专利,我不需要的。”

    钟景航喜出望外,连声感谢:“专利奖励一定发给你!”

    王霁摆摆手:

    “别客气。”

    “让莫总他们来分吧,他们写的。”

    “这些天他们也很辛苦!”

    “要不是莫总帮忙,我也搞不定。”

    格局,这就叫格局!

    莫远游今天的心情很摇摆……

    一大早还在质疑,后来是惊喜,再是羞愧,进门后是敬佩和仰慕。

    此时则是心悦诚服、五体投地,笑容满面道:“难怪王总年纪轻轻就做副总裁,技术深不可测,气量更深不可测啊!”

    钟景航笑吟吟握住王霁的手:

    “小王,你帮了我大忙!”

    “之前说有重谢,这就别推辞……”

    朝属下员工使了个眼色,让他们出去,自己要说其他事。

    莫远游几人正要走,王霁忽然扬起左手:“先等等,我还有个提测。”

    啊——

    会议室的人都惊呆了。

    莫远游问:“还有提测是什么意思?那几个点是分批提的么?可是,刚才我们测试验证都没问题了啊……”

    钟景航也一脸诧异,猜不出王霁的话是什么意思。

    王霁笑吟吟道:“不是那几个点,那个问题我昨天就搞定了……”

    将电脑屏幕转了过去:

    “我看代码的时候,还发现个问题……”

    “你们处理大模型高稀疏矩阵效率很低,无效占比计算超过65%。”

    “而且,用的加速方案需要固定稀疏模式,无法适配动态稀疏。”

    “如果稀疏矩阵的非零元素位置随机,你们cache命中率下降了50%多。”

    “多核并发计算时,稀疏任务分配不均,闲的闲死,忙的忙死。”

    “我就顺手解决了……”

    他对着电脑滔滔不绝。

    丝毫没留意到,几个人表情越来越诡异。

    听着听着,已经没在看电脑,而是将目光都锁到他脸上。

    王霁继续说方法:

    “我的优化策略是……”

    “首先,增加稀疏模式检测单元,实时识别矩阵中的非零块。”

    “用硬件实现自动掩码,根据当前稀疏模式来生成,跳过全零块。”

    “然后,在noc上集成优先级仲裁器,将稀疏计算任务拆分为细粒度子任务,高稀疏度任务优先分配至空闲核。”

    “最后,利用你们芯片已有的稀疏、密集模式,增加动态阈值判断。”

    “整体下来,transformer推理服务模拟测试延迟能降低50%以上。”

    “因为减少了稀疏计算的能耗,边缘侧芯片推理功耗降低40%以上……”

    这个问题,是其余红点的报错。

    今天花大半天搞定的。

    反正,闲着也闲着……

    就当买一送一。

    讲完后抬起头,看到几张几乎在淌口水的脸。

    莫远游擦了擦嘴,转头望向同样找不着下巴的ceo。

    钟景航怔了半晌,才反应过来。

    咽了口唾沫,对王霁道:

    “小王,这个问题是我们下个版本要解决的……”

    “我们准备投入20个人,集中半年时间,争取在年底前攻克……”

    :https://www.81efdc260.xyz。手机版:https://m.81efdc260.xyz


《 加入书签,方便阅读 》