百科问答小站 logo
百科问答小站 font logo



你们学科究竟能有多烧钱? 第1页

  

user avatar   lokinko 网友的相关建议: 
      

GPT-3

Open-AI 设计了一个拥有1700亿参数的模型:GPT-3。

训练一个GPT-3模型需要“355个GPU年”(一块GPU运行355年的运算量)。

微软花钱攒了一个包含 10000 个 Nvidia Tesla V100 GPU的分布式集群,专门供 OpenAI 做模型训练。

不幸的是,在数据划分中存在bug导致部分数据重叠,但重新训练太太太太太贵了。

事实证明,炼丹师必须要配上极品炼丹炉以及各色异火,就能暴力炼丹。


user avatar   xxg1413 网友的相关建议: 
      

比如:训练一个GPT-3




  

相关话题

  不发动态的女生怎么追? 
  如何看待北交大致死 3 人的实验室爆炸前曾被学生举报有 30 桶镁粉,「30 桶镁粉」的危险性有多大? 
  如何看待江西教育厅发文要求各校全面取消封闭式管理? 
  如何不带情绪地回应审稿意见? 
  申请留学过程中,GPA 的重要性有多大? 
  如何看待教育部答复「学校放假时间包括春秋假,各高校可结合实际具体安排」?哪些学校会安排春假秋假? 
  如何看待朱松纯受聘北大人工智能研究院院长? 
  高中物理、化学、数学那些难题对搞科研的人来说有用吗? 
  她这样,心里真的愿意跟我在一起吗,我俩真的合适吗? 
  为什么上学不是唯一出路,而我们却一定要上学? 

前一个讨论
备受互联网巨头推崇的『开放计算』到底是什么?可以应用到传统行业吗?
下一个讨论
有没有材料科学和计算机相结合的专业方向?





© 2024-05-17 - tinynew.org. All Rights Reserved.
© 2024-05-17 - tinynew.org. 保留所有权利