Jaeaiot捷易科技-日本在线一区二区三区-英伟达AI显卡模组/日本在线天堂/GPU整机服务器供应商

ChatGPT爆火:OpenAI使用了約1萬顆英偉達GPU來訓練GPT-3.5模型
發布時間: 2023-10-24 10:35

被禁售、閹割的A100

價格水漲船高

ChatGPT爆火,它超算集群背后用的英偉達高端GPU也火了。

OpenAI使用了約1萬顆英偉達GPU來訓練GPT-3.5模型,為了進一步滿足服務器需求,OpenAI 使用的英偉達GPU數量已經增加到約2.5萬個,機構預計這個數量將超過3萬個。據外媒報道,如果谷歌需要將該技術應用到每一次的搜索中,則需要部署超過410萬個英偉達GPU。就算是國內初出茅廬的類ChatGPT系統MOSS,也采用了8個英偉達的A100 GPU。

ChatGPT帶來了A100等高端GPU需求的增長,而去年8月底,在這類芯片上我們又被“卡”了脖子

美國通過一紙禁令,禁止英偉達向中國出售包括最新的H100和A100在內的高端GPU。這些產品系當前領先技術的新一代GPU芯片,國產替代難度大,而市面上現存的A100均是存貨,據說這些A100的剩余使用壽命還有約4-6年,如果上量,應該很快會耗盡。

此前困于汽車芯片的小鵬汽車CEO何小鵬又為缺高端顯卡發聲,稱英偉達 A100/H100的限制令“會對所有自動駕駛云端訓練帶來挑戰”,好消息是:小鵬汽車剛好已經將未來幾年的需求提前買回來了。

小鵬汽車有提前備貨,但禁售令對自動駕駛或其他AI領域的中國企業有多大影響,就不得而知了。在市面上,A100因為變成稀缺品,價格開始水漲船高,從官方的1萬美元/枚,約合人民幣7萬,漲至8萬、9萬元,快要到10萬一枚。即便去年年底英偉達推出A100“閹割版”(帶寬被限制)——A800顯卡,于2022年Q3投入生產,在中國依然遭遇嚴重缺貨。

據了解,A800京東官網定價超過8萬元/枚,甚至超過A100官方定價。3月初,有云廠商人士接受財經十一人采訪表示,A800實際售價甚至高于10萬元/枚,價格還在持續上漲。A800目前在浪潮、新華三等國內服務器廠商手中是稀缺品,一次只能采購數百片。

來源:財經十一人

A100和A800在中國如此缺貨,禁令對英偉達的潛在影響高達4億美元,英偉達沒閑著,一邊催上游代工廠發貨,增加訂單,一邊爭取美國禁令的寬限時間。

去年9月,傳英偉達為滿足大陸客戶激增的需求,對臺積電下了“超級急件”訂單,計劃在緩沖期之內完成更多的交付。據悉,英偉達要求臺積電提前生產了原訂于2023年出貨的部分產品,總量約5000片晶圓,交期從5-6個月壓縮到了2-3個月,此前預計最快10月底至11月初開始陸續交貨。隨著近期ChatGPT大熱,3月有業內人士透露,英偉達還向臺積電增加了A100、H100、A800 GPU訂單。

通過與美國官方斡旋,除了將出口限制寬限延后至2023年3月,在2023年9月1日前,可以通過英偉達的香港公司繼續履行和運輸A100和H100芯片訂單。

英偉達此前靠“挖礦”賺得盆滿缽滿,如今“挖礦時代”終結,英偉達又站在人工智能這一新風口上,CEO黃仁勛宣稱人工智能的“iPhone時刻”已經到來,或許在A100這樣的高端顯卡市場,又會迎來和幾年前類似的需求暴漲?

A100作為H100的前代產品,雖然不是最新產品,但在人工智能領域依然能打。老黃在近期采訪中還多次推銷A100顯卡,在他看來,想要進入人工智能領域,購買A100就是最好的選擇。

2020年5月14日晚,英偉達創始人CEO黃仁勛以線上發布的形式,從自家廚房中“搬”出了A100 GPU,黃仁勛表示這是英偉達8代GPU史上最大的一次性能飛躍。這款高端顯卡集AI訓練和推理于一身,適用于自動駕駛、高端制造、醫療制藥等場景,其AI訓練和推理性能相比于前代V100提升了高達20倍。

動圖封面
這代DGX A100 AI系統包含8塊A100 GPU

ChatGPT主要就是用英偉達的A100進行訓練,這款顯卡也成為了最搶手的產品之一。某寶上關于A100 顯卡商品的問答中,就有購買者表示自己買來做深度學習,訓練模型。

在摩爾定律最好的十年,AI 處理速度提高了100萬倍,而到了黃仁勛提出的“黃氏定律”(Huang’s Law),從2012年的K20X到2020年的A100,英偉達的GPU推理性能提高到原來的317倍,遠超摩爾定律的發展速度。

GPU推理性能提升

GPU或將推動AI性能實現逐年翻倍。英偉達與數據科學家、AI 研究人員合作開發新模型,在整個跨度內,成功使大型語言模型處理速度提高了一百萬倍。

游戲、云計算、加密貨幣、元宇宙、ChatGPT……不管大家要挖金礦、銀礦還是鐵礦,站在什么樣的風口上,如果說英偉達是產業上游的“賣鏟人” ,那么它的A100、H100等高端顯卡,對各大企業來說就是最高效,最省力的“鏟子”。

粵公網安備 44030502006483號、 粵ICP備15047669號
  • 捷易科技聯系人
  • 主站蜘蛛池模板: 盘扣式脚手架-附着式升降脚手架-移动脚手架,专ye承包服务商 - 苏州安踏脚手架工程有限公司 | 24位ADC|8位MCU-芯易德科技有限公司 | 黄石东方妇产医院_黄石妇科医院哪家好_黄石无痛人流医院 | MOOG伺服阀维修,ATOS比例流量阀维修,伺服阀维修-上海纽顿液压设备有限公司 | 假肢-假肢价格-假肢厂家-河南假肢-郑州市力康假肢矫形器有限公司 | MVR蒸发器厂家-多效蒸发器-工业废水蒸发器厂家-康景辉集团官网 | UV-1800紫外光度计-紫外可见光度计厂家-翱艺仪器(上海)有限公司 | 太原装修公司_山西整装家装设计_太原室内装潢软装_肖邦家居 | 干式变压器厂_干式变压器厂家_scb11/scb13/scb10/scb14/scb18干式变压器生产厂家-山东科锐变压器有限公司 | 深圳货架厂_仓库货架公司_重型仓储货架_线棒货架批发-深圳市诺普泰仓储设备有限公司 | 查分易-成绩发送平台官网| 碳化硅,氮化硅,冰晶石,绢云母,氟化铝,白刚玉,棕刚玉,石墨,铝粉,铁粉,金属硅粉,金属铝粉,氧化铝粉,硅微粉,蓝晶石,红柱石,莫来石,粉煤灰,三聚磷酸钠,六偏磷酸钠,硫酸镁-皓泉新材料 | 熔体泵_熔体出料泵_高温熔体泵-郑州海科熔体泵有限公司 | 房间温控器|LonWorks|海思 | 云南成人高考_云南成考网| 氢氧化钙设备_厂家-淄博工贸有限公司 | 波纹补偿器_不锈钢波纹补偿器_巩义市润达管道设备制造有限公司 | 高压无油空压机_无油水润滑空压机_水润滑无油螺杆空压机_无油空压机厂家-科普柯超滤(广东)节能科技有限公司 | 家乐事净水器官网-净水器厂家「官方」 | 仪器仪表网 - 永久免费的b2b电子商务平台 | 恒湿机_除湿加湿一体机_恒湿净化消毒一体机厂家-杭州英腾电器有限公司 | 神马影院-实时更新秒播| 铝合金脚手架厂家-专注高空作业平台-深圳腾达安全科技 | 在线钠离子分析仪-硅酸根离子浓度测定仪-油液水分测定仪价格-北京时代新维测控设备有限公司 | 桁架机器人_桁架机械手_上下料机械手_数控车床机械手-苏州清智科技装备制造有限公司 | 全温恒温摇床-水浴气浴恒温摇床-光照恒温培养摇床-常州金坛精达仪器制造有限公司 | 浙江上沪阀门有限公司 | 消电检公司,消电检价格,北京消电检报告-北京设施检测公司-亿杰(北京)消防工程有限公司 | 顶呱呱交易平台-行业领先的公司资产交易服务平台 | 危废处理系统,水泥厂DCS集散控制系统,石灰窑设备自动化控制系统-淄博正展工控设备 | 北京网站建设首页,做网站选【优站网】,专注北京网站建设,北京网站推广,天津网站建设,天津网站推广,小程序,手机APP的开发。 | 小区健身器材_户外健身器材_室外健身器材_公园健身路径-沧州浩然体育器材有限公司 | 合肥办公室装修 - 合肥工装公司 - 天思装饰 | 好物生环保网、环保论坛 - 环保人的学习交流平台 | 齿轮减速机_齿轮减速电机-VEMT蜗轮蜗杆减速机马达生产厂家瓦玛特传动瑞环机电 | 超声波流量计_流量标准装置生产厂家 _河南盛天精密测控 | 一体化污水处理设备,一体化污水设备厂家-宜兴市福源水处理设备有限公司 | 合肥注册公司|合肥代办营业执照、2024注册公司流程 | 医学模型生产厂家-显微手术模拟训练器-仿真手术模拟训练系统-北京医教科技 | 免费网站网址收录网_海企优网站推荐平台 | 压砖机_电动螺旋压力机_粉末成型压力机_郑州华隆机械tel_0371-60121717 |