百科问答小站 logo
百科问答小站 font logo



你们学科究竟能有多烧钱? 第1页

  

user avatar   lokinko 网友的相关建议: 
      

GPT-3

Open-AI 设计了一个拥有1700亿参数的模型:GPT-3。

训练一个GPT-3模型需要“355个GPU年”(一块GPU运行355年的运算量)。

微软花钱攒了一个包含 10000 个 Nvidia Tesla V100 GPU的分布式集群,专门供 OpenAI 做模型训练。

不幸的是,在数据划分中存在bug导致部分数据重叠,但重新训练太太太太太贵了。

事实证明,炼丹师必须要配上极品炼丹炉以及各色异火,就能暴力炼丹。


user avatar   xxg1413 网友的相关建议: 
      

比如:训练一个GPT-3




  

相关话题

  怎样在大学里面谈场有意义的恋爱? 
  拿到博士学位再转行是否可行? 
  如何看待中南大学吴嘉老师怒怼教务办规定「学生成绩必须服从正态分布」? 
  什么人不适合做科研? 
  如何评价上海修建首条「行李箱专用道」? 
  为什么上了大学大家都不想为集体付出了? 
  清华北大是国家斥巨资打造的科研殿堂,众多学子考入后却放弃所学,毕业去当公务员,这是为什么? 
  湖南长沙有3所985高校,教育排名国内靠前,为什么没有发展全国知名的高新产业集群和科研中心? 
  大学生平均生活费近 2000 元,为啥还不够花?是物价上涨了,还是大学生消费水平提高了? 
  初中的操行评定分影响大学录取吗? 

前一个讨论
备受互联网巨头推崇的『开放计算』到底是什么?可以应用到传统行业吗?
下一个讨论
有没有材料科学和计算机相结合的专业方向?





© 2024-06-14 - tinynew.org. All Rights Reserved.
© 2024-06-14 - tinynew.org. 保留所有权利