如何评价 DeepMind 的新工作 AlphaCode? 第1页
1
lu-yu-feng-46-1 网友的相关建议:
关注code intelligence相关工作很久了，其实20年那会就已经能做到生成的短片段代码具备可执行能力，后来CodeX基于GPT3呈现了非常惊人的NL2PL的能力，Copilot又在代码补全上火了一把，这个领域从原本软件工程问题逐渐被NLPer渗透。大规模预训练在代码智能方面又有得天独厚的条件(数据量大，且没自然语言那么复杂)，不断出现各种突破是可以预见的(代替人应该还早)。
这里给大家看看最近做代码预训练的Paper就知道了，从ELMo开始就有人考虑用代码去做预训练了，虽然出发点不见得相同，有的人为了做特定任务，如注释生成，代码补全等等，有的为了研究代码的表示学习，但伴随着NLP技术的演进其实一直在发展。
顺带一提，其实做算法题应该算是代码智能各类任务中相对简单的(NL2PL里约束较多的问题，大家可以去对比CodeX想做到的，有context的纯自然语言描述编程)。可能一般看到这个问题都会觉得不明觉厉甚至产生些许AI替代程序员的YY(前景还是有的)，其实大可先多了解一下。这里附上微软亚洲研究院的CodeXGLEU，是近几年对代码智能任务整理最全的一个benchmark了
然后我自己因为长期在关注，也整理了一个列表(虽然其实不全)，大家也可以做个参考
1
相关话题
为什么身边的人都想学计算机，计算机真的有那么好吗？什么是蒙特卡罗 Dropout(Monte-Carlo Dropout)？
清华大学这样等级的学府为什么要与其他方合作进行“华智冰”这样恶劣的炒作？
如何用人工智能AI来学习围棋？
Meta 继续重组架构，人工智能团队合并至 AR/VR 部门，这样做的原因有哪些？会带来哪些影响？
三维重建怎么入门？
电影《我，机器人》表达了什么？你从结尾看到了什么？
各种机器学习算法的应用场景分别是什么（比如朴素贝叶斯、决策树、K 近邻、SVM、逻辑回归最大熵模型）？
CTC和Encoder-Decoder有什么关系?
如何激怒一位人工智能（机器学习、深度学习、强化学习等）爱好者？
前一个讨论
是否存在虚虚数j，使得j^2=-i？
下一个讨论
搞机器学习的生环化材是天坑吗？
相关的话题
假如我穿越到2017年第一个提出了Transformer、BERT等模型，我可以保送到清华北大吗？如何看待Hinton的论文《Dynamic Routing Between Capsules》？
LSTM如何来避免梯度弥散和梯度爆炸？
领域自适应需要用到测试集数据，这样的方法有啥意义呢？
如何看待Meta（恺明）最新论文ViTDet：只用ViT做backbone（不使用FPN）的检测模型？
算法工程师是否应该持续读论文？
GAN:固定训练好的判别器网络，去指导训练生成器为什么不可以？
目前有哪些比较成功的人工智能应用？
学习机器学习应该看哪些书籍？
在CV/NLP/DL领域中，有哪些修改一行代码或者几行代码提升性能的算法？
国内的自动驾驶技术目前发展到什么阶段了？
如何评价 DeepMind 于2016年9月12日公开的 AlphaGo 自战棋谱及3月人机大战解说？
如何评价微软亚研院提出的把 Transformer 提升到了 1000 层的 DeepNet？
当前深度学习理论基础薄弱是否意味着我们应该放弃深度学习应用(计算机视觉、自然语言处理)？
国内 top2 高校研一在读，为什么感觉深度学习越学越懵?
TensorFlow 中 padding 的 SAME 和 VALID 两种方式有何异同？
我们到底该不该继续发展人工智能？
Transformer中的Mask矩阵已经有顺序了，能去掉position embedding吗?
数字图像处理的工作是用传统算法更多还是用深度学习更多?
如何评价caffe作者贾扬清加入Facebook?
如何看待大热的人工智能机器人 Sophia？
人大理科试验班与南大AI选哪个?
2025 年机器将替代 8000 多万工作岗位，哪些岗位可能会被替代？又可能创造什么新的机会？
如何选购扫地机器人？
主动学习（Active Learning）近几年的研究有哪些进展，现在有哪些代表性成果？
深度学习cnn中，怎么理解图像进行池化（pooling）后的平移不变性？
因果推断会是下一个AI热潮吗？
为什么有些学数学的看不惯甚至鄙视 Deep Learning？
如何激怒一个科研工作者？
如何评价基于 AlphaGo master 的教学工具？