百科问答小站 logo
百科问答小站 font logo



你们学科究竟能有多烧钱? 第1页

  

user avatar   lokinko 网友的相关建议: 
      

GPT-3

Open-AI 设计了一个拥有1700亿参数的模型:GPT-3。

训练一个GPT-3模型需要“355个GPU年”(一块GPU运行355年的运算量)。

微软花钱攒了一个包含 10000 个 Nvidia Tesla V100 GPU的分布式集群,专门供 OpenAI 做模型训练。

不幸的是,在数据划分中存在bug导致部分数据重叠,但重新训练太太太太太贵了。

事实证明,炼丹师必须要配上极品炼丹炉以及各色异火,就能暴力炼丹。


user avatar   xxg1413 网友的相关建议: 
      

比如:训练一个GPT-3




  

相关话题

  如何看待北大古生物「一个人的毕业照」主人公转行计算机?「冷转码」(冷门专业转码农)现象反映出哪些问题? 
  有哪些有趣、脑洞大开的学术论文? 
  请问如何看待北大张海霞教授就北大退档事件斥责河南考试院行为卑鄙龌龊? 
  现在各高校那些特 X 副研究员三年或六年之后没能被续聘的话,之后的职业生涯会如何? 
  如何看待大学里优秀的同学自私且功利的情况? 
  网传华中师范大学监考老师顺走学生 iPad,校方回应「非本校老师,正在调查」,有什么信息值得关注? 
  哪所高校的录取通知书曾经惊艳了你? 
  新兵入伍有什么实用的东西推荐吗? 
  柯洁被清华大学免试录取,抛开运动员保送的问题,大学对名人的特殊招收方式是否妥当? 
  深大那么高分数,值得吗? 

前一个讨论
备受互联网巨头推崇的『开放计算』到底是什么?可以应用到传统行业吗?
下一个讨论
有没有材料科学和计算机相结合的专业方向?





© 2025-05-20 - tinynew.org. All Rights Reserved.
© 2025-05-20 - tinynew.org. 保留所有权利