Transformer在工业界的应用瓶颈如何突破？ 第1页
1
pi-qia-che-70 网友的相关建议:
回答问题：工业界+蛋白质领域，Alphafold2的trunk部分用的就是transformer。同时facebook的MSA transformer在无监督提取蛋白质接触图谱上有了大的突破。
问题之外：我觉得大家不要过分只关注transformer，transformer只是一种特殊形式的GNN。在图神经网络上有更大的空间。Relational inductive biases, deep learning, and graph networks
1
相关话题
领域自适应需要用到测试集数据，这样的方法有啥意义呢？国内外有哪些做小样本学习(Few-Shot Learning)的优秀团队？
ICLR 2021 有什么值得关注的投稿？
有尝试用多层自组织特征神经网络（MLSOM）来代替层次分析法（AHP）的吗？会有哪些问题需要注意？
深度学习调参有哪些技巧？
加州大学伯克利分校为何能连续孵化出 Mesos,Spark,Alluxio,Ray 等重量级开源项目?
若有一天机器人可以代替人类进行大部分工作，《资本论》是否还有意义?
FC 游戏《中国象棋》中，困难难度是真的在计算棋谱吗？
如何看待在某度搜不到megengine官网？
除了深度学习，机器学习领域近年来还有什么热点吗？
前一个讨论
杭州空气是不是很差？如果是，为什么那么差？
下一个讨论
导师要抢我的一作，我该怎么办？
相关的话题
人工智能现在的发展前景如何？二分类问题，应该选择sigmoid还是softmax？
如何激怒一位人工智能（机器学习、深度学习、强化学习等）爱好者？
三维重建怎么入门？
应届硕士毕业生如何拿到知名互联网公司算法岗（机器学习、数据挖掘、深度学习） offer？
如何评价百度收购渡鸦科技？
机器学习中的 Bias（偏差）、Error（误差）、Variance（方差）有什么区别和联系？
迁移学习与fine-tuning有什么区别？
神经网络模型压缩好就业吗?
今天的柯洁对战前ai时代的柯洁（比如他拿第一个世界冠军的时候），胜率能有多少，能让先吗？
你爱上了一个人，你们俩一起游玩，一起逛街，最后发现你爱的只是一个高级智能机器人，你怎么想？
马上计算机研一，想问一下机器学习、深度学习…大家都是怎么入门的？
有谁给解释一下流形以及流形正则化？
为什么蚂蚁集团会投资 AI 服务商瑞莱智慧？
GAN的生成器是怎么产生图片的？
如何评价荣耀V10？
如何看待人工智能领域的很多专家认为「人工智能将对人类存亡造成威胁」的观点？
请问人工神经网络中的activation function的作用具体是什么？为什么ReLu要好过于tanh和sigmoid function?
目前手势识别发展到什么水平了？
基于深度卷积神经网络进行人脸识别的原理是什么？
人工智能（AI）会埋葬哪些职业？
如何评价 DeepMind 在星际中的失利，以及 OpenAI 在 Dota 上的成功？
用于数据挖掘的聚类算法有哪些，各有何优势？
如何评价 2018 年度图灵奖颁发给三位深度学习之父？
正负样本极不平衡的问题？
机器学习中如何识别图片中的手是手背还是手心？
什么是meta-learning?
如何评价第三局比赛AlphaGo再次战胜李世石？
中国和美国谁能成人工智能领域的领军者？
K-means聚类算法中的K如何确定？