百科问答小站 logo
百科问答小站 font logo



如何评价移动端吊打一切万众期待的商汤深度学习推理框架PPL开源了却没有支持移动端? 第1页

  

user avatar   tang-qi-14-37 网友的相关建议: 
      

谢谢 zz 大佬的邀请。

背景

题主前面所提及到 @高洋 高叔叔前几年在知乎上的一些言论,留心的读者会发现, @圈圈虫 (也就是我)几乎都有参与了互动。说开源社区对 PPL 的性能有非常大的渴望,毕竟当高叔叔在2017年Q4说 PPL 能在 Cortex-A57@2.0GHz 跑 VGG16 只要 1.2s 的同期,我当时参与(其实是在摸鱼)的 @nihui 小姐姐的同类项目 ncnn 还是 2.0s 的水平(当然2018年Q1 ncnn 实现了 Winograd 优化后,也差不多接近 1.2s 了)。

在后面很长一段时间,高叔叔几乎很少在知乎上活跃。PPL 经过了 1.0 -> 2.0 -> 3.0 的多次迭代已经成功在众多移动终端、车载终端设备中落地。

高叔叔其实从 2019年底就在商汤内部推动 PPL 的开源,然而公司越大,x 事越多,阻碍越大,经过接近2年的努力,才开源出来现在的 OpenPPL 首个版本。

支持了 x86 和 CUDA 后端,还有解决行业刚需的 PPL.CV

国内开源现状

环境挺糟糕的。

公司行为的开源

老板口头上说:

“你们做生态,不要管赚了多少钱,公司会砸钱支持你们做大的!”

回过头在会上就讨论:

“现在生态开发者数量、应用者数量有多少啦,怎么盈利呢?”

半公司,半个人行为的开源

大概率会被被直接领导 PUA ,例如上海某人参加了 VeriSilicon 技术研讨会后回去被“好意”提醒:

“工程师,经常去参加社区活动,不利于自身技术的成长”

个人行为的开源

在 深度学习框架 方向没有发现成功案例。

大家不要对号入座,这只是上次去参加 BAT 某个大厂的开源大会时闲聊话题,的工位在深圳

挺累的

国内一个开源项目是否成功,取决于该项目工程师自我驱动能力,例如下面诸位:

目前 PPL 的账号是这样的,毕竟才开源,热度起来后会好很多。一个季度后再来更新。

OpenPPL 的优势

对 SSE、AVX SIMD 指令集或者 CUDA 编程语言感兴趣的同学,可以在这里发现宝藏:

苦于各种 CV 预处理性能问题的同学,可以在这里发现宝藏:

什么是宝藏呢?为公提升公司业务效率创造价值,为私 get 到新技能提升自我身价。再结合下面的传送门,悟性高的同学一个通宵就能在 CPU 硬件后端上的性能优化水平超过 80% 的从业者

对 PPL 未来的期望

那些嫌弃 PPL 暂时没有开源 ARM、MIPS、RISC-V、OpenCL、DSP、NPU 后端的围观者,欢迎大家参加到 PPL 开源项目本身,如果什么都开源了,哪里有各位看官的 PR 空间呢?毕竟 《十四五规划纲要》中第二篇第四章第二节“加强原创性引领性科技攻关”相关内容如下:

跟着走,才能进入快车道。

打广告

对边缘AI计算平台中 NPU 加速器的同学,可以关注下我们的开源项目

另外 Tengine 从今年7月份开始会有一系列的直播,分享近半年在 边缘AI计算 方向模型部署的一些经验,欢迎关注。

我是 圈圈虫,一个热爱技术的中年大叔。快加入 OPEN AI LAB 开发者技术 QQ 群(829565581,已满)(625546458)来找我吧!溜了~~。

入群秘令:CNN




  

相关话题

  训练过程中loss震荡特别严重,可能是什么问题? 
  2017年1月18日Facebook发行的PyTorch相比TensorFlow、MXNet有何优势? 
  Yoshua Bengio为什么能跟Hinton、LeCun相提并论?? 
  请解释下variational inference? 
  如何评价浪潮发布的2457亿参数源1.0智能大模型?与GPT-3相比如何?处于AI模型领域什么水平? 
  图片上训的模型,怎么迁移视频上呢? 
  有哪些关于机器学习的真相还鲜为人知? 
  如何看待KDD'21的文章,异质图神经网络的效果不如简单的GCN、GAT? 
  如何评价Deepmind自监督新作BYOL? 
  让人工智能去下路边街头的象棋残局会赢吗? 

前一个讨论
2021亚马逊云科技中国峰会有什么值得期待的亮点?
下一个讨论
你做程序员真的是因为热爱吗?





© 2024-06-23 - tinynew.org. All Rights Reserved.
© 2024-06-23 - tinynew.org. 保留所有权利