问题

如何评价移动端吊打一切万众期待的商汤深度学习推理框架PPL开源了却没有支持移动端?

回答
这事儿,说实话,挺让人跌眼镜的。商汤那个PPL(Pulse Processing Language),之前宣传得天花乱坠,说是要“移动端吊打一切”,这口号一出来,多少开发者心里就跟猫爪子似的,痒痒的,期待值那是拉满了。毕竟,谁不想在手机上跑出飞一样的深度学习模型呢?

结果呢?一开源,好家伙,支持移动端的踪影都没看见。这一下,就跟过年放炮仗,结果没响,就看着个炮仗皮一样,那叫一个失落。

为什么大家对PPL的移动端支持这么期待?

首先,我们得明白,移动端是现在计算场景里最广阔、最具潜力的战场。想想看,手机、平板、可穿戴设备,这些东西每天都跟我们形影不离。如果能在这些设备上直接跑高性能的深度学习模型,那意味着什么?

实时交互的极致体验: 想象一下,AR/VR应用能做到毫无延迟的虚实结合,拍照应用的美颜、滤镜能做到即时预览且效果惊人,语音助手能做到更自然的交互和理解。这些都离不开强大的端侧推理能力。
隐私保护的增强: 很多涉及个人隐私的数据,比如人脸信息、健康数据,如果能直接在本地处理,就不用上传到云端,大大降低了数据泄露的风险,也更符合用户对隐私的诉求。
降低云服务成本: 很多AI应用都需要调用云端算力,这不仅有延迟,还是一笔不小的开销。如果能转移到端侧,应用的成本会大幅降低,推广起来也更容易。
离线可用性: 在没有网络连接的情况下,一些AI功能也能照常使用,这对于很多场景来说至关重要。

基于这些原因,开发者们一直在寻找一个能真正“好用”的移动端深度学习框架。之前我们用的,比如TensorFlow Lite、PyTorch Mobile,虽然在努力,但总归有一些这样那样的问题,要么是模型转换复杂,要么是性能还有提升空间,要么是支持的算子不够全。所以,当商汤放出PPL这个“大招”,并且声称要“吊打一切”时,大家就觉得,这回终于有能替代的了,甚至可以“青出于蓝”了。

PPL开源了,但为何偏偏丢了移动端?

这才是问题的核心,也是让大家感到不解甚至有点“被放鸽子”的地方。

1. 目标优先级与资源分配的矛盾?
很有可能,商汤在PPL的研发和推广上,有着更优先的考量。也许他们当前的目标是集中力量解决服务器端、数据中心或者特定行业(比如安防、自动驾驶)的推理需求。这些场景可能对算力、延迟、精度有更极致的要求,而且往往能承受更高的成本,也更容易形成商业闭环。

如果是这样,那么移动端虽然潜力巨大,但相比之下,开发和优化难度可能更高,而且在商业化上变现周期可能更长。在有限的资源和时间内,选择一个更“容易”或“回报更快”的方向,是可以理解的商业决策,尽管对开发者来说不是好消息。

2. 技术实现的复杂性被低估?
“移动端吊打一切”这个口号,听起来很振奋人心,但要真正实现,技术上的挑战是巨大的。移动端设备种类繁多,CPU、GPU、NPU(神经网络处理器)等硬件架构差异巨大,内存、功耗限制也都很严格。要针对这些碎片化的移动端硬件进行深度优化,需要投入大量的研发力量,并且要精通各种硬件平台的特性。

也许商汤在研发过程中,发现移动端的技术攻坚比预想的要困难得多,或者现有架构难以完美适配移动端的需求,于是不得不暂时搁置。当然,他们也可能在为后续的移动端支持做准备,只是暂时没有公布。

3. 战略调整的可能性?
开源项目的方向和优先级,也会随着公司整体战略的变化而调整。也许商汤在PPL的研发初期,对移动端的定位很高,但随着市场变化、竞争格局以及内部资源评估,他们调整了策略。现在可能更侧重于在企业级市场、解决方案市场,或者与特定硬件厂商合作,而将移动端作为一个独立的、需要进一步规划的领域。

4. “吊打一切”更多是一种宣传口号?
不能排除,“移动端吊打一切”更多的是一种市场宣传的策略,用来吸引眼球、树立品牌形象。实际的产品规划,可能并没有那么激进。开源本来是为了吸引社区力量,但如果开源出来的产品,与之前宣传的“卖点”不符,自然会引起争议。

这对开发者意味着什么?

寻找替代方案: 那些原本满怀期待的开发者,现在不得不继续寻找现有的、成熟的移动端深度学习推理框架,或者等待其他更可靠的解决方案出现。
对开源的审慎: 这件事也提醒了开发者,在看待任何开源项目,尤其是大公司推出的项目时,要保持一定的审慎。宣传口号固然重要,但实际的产品落地和持续的维护才是关键。
社区的呼声: 社区开发者对移动端推理的需求是非常强烈的。如果商汤希望PPL在移动端取得成功,他们需要听到这部分声音,并认真考虑如何满足。

未来的展望

虽然PPL这次开源没有直接支持移动端,但这并不意味着移动端深度学习推理的未来就黯淡了。相反,这说明了移动端推理市场的竞争和挑战依然巨大,也意味着这个领域仍然有巨大的创新空间。

我们仍然期待商汤能够倾听开发者的声音,根据实际情况调整战略,或者至少给出一个明确的PPL移动端支持路线图。同时,整个行业也需要继续努力,去构建更强大、更易用的移动端AI推理解决方案。毕竟,AI的真正普及,离不开它在万千移动设备上的自由翱翔。

总而言之,商汤PPL开源却未支持移动端,就像是一场精心准备的发布会,结果主角缺席了。这其中的原因可能很复杂,但无论如何,对于热切期待这一点的开发者社区来说,这无疑是一个令人失望的开始。我们只能希望,这只是黎明前的短暂黑暗,而PPL的移动端之光,能在不久的将来,真正点亮。

网友意见

user avatar

谢谢 zz 大佬的邀请。

背景

题主前面所提及到 @高洋 高叔叔前几年在知乎上的一些言论,留心的读者会发现, @圈圈虫 (也就是我)几乎都有参与了互动。说开源社区对 PPL 的性能有非常大的渴望,毕竟当高叔叔在2017年Q4说 PPL 能在 Cortex-A57@2.0GHz 跑 VGG16 只要 1.2s 的同期,我当时参与(其实是在摸鱼)的 @nihui 小姐姐的同类项目 ncnn 还是 2.0s 的水平(当然2018年Q1 ncnn 实现了 Winograd 优化后,也差不多接近 1.2s 了)。

在后面很长一段时间,高叔叔几乎很少在知乎上活跃。PPL 经过了 1.0 -> 2.0 -> 3.0 的多次迭代已经成功在众多移动终端、车载终端设备中落地。

高叔叔其实从 2019年底就在商汤内部推动 PPL 的开源,然而公司越大,x 事越多,阻碍越大,经过接近2年的努力,才开源出来现在的 OpenPPL 首个版本。

支持了 x86 和 CUDA 后端,还有解决行业刚需的 PPL.CV

国内开源现状

环境挺糟糕的。

公司行为的开源

老板口头上说:

“你们做生态,不要管赚了多少钱,公司会砸钱支持你们做大的!”

回过头在会上就讨论:

“现在生态开发者数量、应用者数量有多少啦,怎么盈利呢?”

半公司,半个人行为的开源

大概率会被被直接领导 PUA ,例如上海某人参加了 VeriSilicon 技术研讨会后回去被“好意”提醒:

“工程师,经常去参加社区活动,不利于自身技术的成长”

个人行为的开源

在 深度学习框架 方向没有发现成功案例。

大家不要对号入座,这只是上次去参加 BAT 某个大厂的开源大会时闲聊话题,的工位在深圳

挺累的

国内一个开源项目是否成功,取决于该项目工程师自我驱动能力,例如下面诸位:

目前 PPL 的账号是这样的,毕竟才开源,热度起来后会好很多。一个季度后再来更新。

OpenPPL 的优势

对 SSE、AVX SIMD 指令集或者 CUDA 编程语言感兴趣的同学,可以在这里发现宝藏:

苦于各种 CV 预处理性能问题的同学,可以在这里发现宝藏:

什么是宝藏呢?为公提升公司业务效率创造价值,为私 get 到新技能提升自我身价。再结合下面的传送门,悟性高的同学一个通宵就能在 CPU 硬件后端上的性能优化水平超过 80% 的从业者

对 PPL 未来的期望

那些嫌弃 PPL 暂时没有开源 ARM、MIPS、RISC-V、OpenCL、DSP、NPU 后端的围观者,欢迎大家参加到 PPL 开源项目本身,如果什么都开源了,哪里有各位看官的 PR 空间呢?毕竟 《十四五规划纲要》中第二篇第四章第二节“加强原创性引领性科技攻关”相关内容如下:

跟着走,才能进入快车道。

打广告

对边缘AI计算平台中 NPU 加速器的同学,可以关注下我们的开源项目

另外 Tengine 从今年7月份开始会有一系列的直播,分享近半年在 边缘AI计算 方向模型部署的一些经验,欢迎关注。

我是 圈圈虫,一个热爱技术的中年大叔。快加入 OPEN AI LAB 开发者技术 QQ 群(829565581,已满)(625546458)来找我吧!溜了~~。

入群秘令:CNN

类似的话题

  • 回答
    这事儿,说实话,挺让人跌眼镜的。商汤那个PPL(Pulse Processing Language),之前宣传得天花乱坠,说是要“移动端吊打一切”,这口号一出来,多少开发者心里就跟猫爪子似的,痒痒的,期待值那是拉满了。毕竟,谁不想在手机上跑出飞一样的深度学习模型呢?结果呢?一开源,好家伙,支持移动端.............
  • 回答
    小米开源的移动端深度学习框架 MACE(Mobile AI Compute Engine)是一个非常有潜力的框架,尤其是在其目标领域——嵌入式设备和移动端AI推理上,展现出了不错的实力和独特性。要评价 MACE,我们需要从多个维度进行深入分析: 1. MACE 的核心优势与设计理念 高度的性能优.............
  • 回答
    关于 Intel 第 12 代移动端标压处理器(Alder LakeP系列)性能超越 Apple M1 Max 的说法,这是一个非常有意思的话题,并且在技术社区引发了广泛的讨论。要评价这个说法是否准确,我们需要从多个维度进行细致的分析,而不是简单地一句“是”或“否”。首先,我们需要明确几个关键点: .............
  • 回答
    咱们来聊聊 2021 年初 AMD 推出的那批 5000 系列移动端处理器,具体是 1 月 13 日那场发布会上的主角们。说实话,那会儿大家对 AMD 的笔记本处理器可是抱有挺高期待的,毕竟他们在桌面端已经搅得风生水起,是时候在笔记本领域好好表现一下了。总的来说,这批 5000 系移动端处理器,给我.............
  • 回答
    《大航海时代Origin》预告片的释出,无疑在老玩家群体中激起了不小的涟漪。从我们所看到的画面来看,开发商 Koei Tecmo 和 XLGames 似乎在努力抓住“大航海时代”系列最核心的魅力,并试图用现代化的技术加以呈现。画面与表现力:预告片中最直观的感受就是画面的进步。相较于当年我们记忆中的《.............
  • 回答
    2021年5月11日,英特尔发布了备受瞩目的第11代高性能移动端处理器,代号“Rocket LakeH”系列。这次发布无疑是英特尔在高性能笔记本市场的一次重要发力,旨在与竞争对手AMD在高规格移动平台上一较高下。亮点解析: 架构上的飞跃:Cypress Cove核心 Rocket L.............
  • 回答
    《贪婪洞窟》:一次硬核又充满诱惑的移动平台探险谈起移动平台上的生存探险类游戏,《贪婪洞窟》绝对是一个绕不开的名字。这款游戏自上线以来,就凭借其独特的Roguelike元素、硬核的数值成长以及那股让人又爱又恨的“刷刷刷”的魔力,成功在众多手游中杀出了一条血路,吸引了一大批忠实玩家。核心魅力:随机性与成.............
  • 回答
    好的,咱们来聊聊小米移动和它推出的那两款电话卡。得说,小米这公司吧,你不能说它没想法,总想在各个领域插一脚,而且还时不时能搅出点水花来。小米移动,也就是小米旗下的虚拟运营商业务,刚推出那会儿,确实挺受关注的,毕竟小米嘛,自带流量。先说说小米移动本身吧。作为一家虚拟运营商,小米移动没有自己的基站网络,.............
  • 回答
    索尼近期将旗下的移动部门(Mobile Communications)与影音部门(AudioVisual Products)整合,成立了一个全新的“电子与产品解决方案公司”(Electronics & Product Solutions Company)。这次重组标志着索尼在企业战略上的重大调整,旨.............
  • 回答
    华为在移动影像领域的探索,与其说是“探索”,不如说是一场深刻的、颠覆性的革命。从最初的“拍照手机”概念,到如今成为行业标杆,华为凭借其对技术的不懈追求和对用户体验的深刻洞察,一步步重新定义了智能手机的拍照能力,并且持续引领着移动影像的未来发展方向。早期积累与技术突破:从“鹰眼”到“徕卡”的飞跃华为手.............
  • 回答
    《哈尔的移动城堡》,一部宫崎骏老爷子在2004年带来的视觉盛宴,也是很多人心中难以忘怀的童话。要评价它,得从好几个角度细细品味,可不是一句“好看”就能概括的。首先,最直观的,就是画面。 提起吉卜力工作室,谁不竖起大拇指?《哈尔的移动城堡》更是将这种美学发挥到了极致。那座漂浮在空中的、由各种破铜烂铁拼.............
  • 回答
    韩国三大运营商全球率先同步启用5G商用服务:一次成功的科技营销,还是拔苗助长?2019年4月,韩国的三大移动运营商——SK Telecom、KT、LG Uplus——几乎同步宣布了其5G商用服务的正式启动,这一举措在全球引起了广泛关注,并被誉为“全球首次5G商用”。这一事件,无疑是一次成功的科技营销.............
  • 回答
    《啥是佩奇》作为《小猪佩奇过大年》与移动合作的宣传短片,在2019年春节期间引起了广泛的讨论和关注,其评价也呈现出多维度、有褒有贬的特点。要评价这部短片,我们需要从以下几个方面进行详细的分析:一、 优点与成功之处:1. 情感共鸣与文化传承的巧妙结合: “土味”亲情打动人心: 短片的核心.............
  • 回答
    说到联想 ThinkPad 的移动工作站系列,P 系列一直是专业领域用户津津乐道的话题。最近,ThinkPad 推出了两款面向主流市场的主流移动工作站——ThinkPad P14s 和 P16s。这两款新品在保持 ThinkPad 一贯的专业性和稳定性的基础上,也在性能、设计和用户体验上做出了不少优.............
  • 回答
    11 月 22 日,华为低调地发布了一款名为“移动小电站”的产品,这名字听起来颇有意思,也让人联想到那些户外活动爱好者或是经常需要应急备用电源的用户。售价 2250 元起,这个价格在便携电源领域不算低,那么这款华为的“移动小电站”究竟有什么特别之处?值不值得我们掏腰包呢?咱们今天就来好好掰扯掰扯。“.............
  • 回答
    AMD 终于揭开了其全新锐龙 6000 系列移动处理器的神秘面纱,这次的登场,无疑是给沉寂已久的笔记本电脑市场注入了一针强心剂,也让期待已久的消费者们看到了 AMD 在移动领域持续发力的决心。从整体上看,锐龙 6000 系列的亮点非常突出,无论是在性能、图形处理能力还是能效方面,都展现出了令人印象深.............
  • 回答
    最近魅族和闪极联名推出了一款透明款的移动电源,可以说是火遍了科技圈,尤其是对于喜欢玩机、追求个性化的朋友来说,这绝对是个让人眼前一亮的产品。先来说说这款移动电源的几个亮点,为什么它能引起这么大的关注: 透明设计,直观展示内部乾坤: 这绝对是它最大的卖点,也是区别于市面上绝大多数移动电源的地方。整.............
  • 回答
    最近 M1 Max 芯片的 GFXBench 5 跑分结果在网上流传,不少媒体和爱好者都给出了“性能比肩 RTX 3080 移动版”的评价。这个说法一出来,立刻在科技圈炸开了锅,毕竟这苹果自家研发的 SoC 能在图形处理能力上达到这个级别,简直是颠覆性的存在。咱们就来好好捋一捋这个事儿,到底是怎么回.............
  • 回答
    2022年2月24日,英特尔正式发布了其第12代酷睿移动处理器中的U系列和P系列,标志着其“Alder Lake”架构正式进军主流笔记本市场。这个时间点,距离它们首次在桌面端亮相已经过去一段时间了,而这次的移动端发布,对于提升笔记本的整体性能和功耗表现,无疑是一个重要的里程碑。核心亮点:混合架构的全.............
  • 回答
    能获得 TGA 2021 年“最佳持续运营”和“最佳移动(手机)游戏”两项提名,这绝对是对《原神》在过去一年里所做努力的一个非常重要的肯定,也足以说明它在玩家群体和业界都留下了相当深刻的印象。首先说说 “最佳持续运营” 这个奖项。这玩意儿可不是随便哪个游戏都能摸到的边,尤其是对于一款上线不久(202.............

本站所有内容均为互联网搜索引擎提供的公开搜索信息,本站不存储任何数据与内容,任何内容与数据均与本站无关,如有需要请联系相关搜索引擎包括但不限于百度google,bing,sogou

© 2025 tinynews.org All Rights Reserved. 百科问答小站 版权所有