Graphcore擬未是一家人工智慧晶片公司,為人工智慧打造計算機系統,這些系統由先進的智慧型處理器(IPU)提供動力,旨在滿足人工智慧獨特的計算要求。2019年,公司在北京設立公司中國總部,並確定中文名“擬未”。目前,擬未已經設立了北京、上海、深圳和新竹辦公室。2016年公司成立,總部位於英國布里斯托。
擬未的計算系統在各行各業的人工智慧套用中得到廣泛套用,包括科學研究、氣象預測等領域。
盧濤先生現任擬未總裁、大中華區總經理。
基本介紹
- 中文名:擬未
- 外文名:Graphcore
- 地址:英國
合作,雲端IPU產品,IPU技術,MK2 IPU,MK1 IPU,Poplar,數據中心IPU產品,產品服務,生態,百度飛槳,阿里雲ODLA,NNFusion,發展經歷,所獲榮譽,領導團隊,
合作
擬未與阿里雲、百度、金山雲、騰訊雲、戴爾、浪潮、神州數碼、鑫聯大等展開了合作,共同幫助創新者創造機器智慧型新突破。
擬未獲得了一些世界技術投資者的支持,包括紅杉資本、富達國際、BMW iVentures、戴爾、微軟和三星,以及Deepmind聯合創始人Demis Hassabis和OpenAI的 Greg Brockman、Ilya Sutskever、Pieter Abbeel以及Scott Gray。
雲端IPU產品
Graphcore IPU雲服務現已在全球推出,免費試用,且提供多種價位選擇,幫助各地的創新者在機器智慧型領域實現新突破。在中國,用戶可在騰訊雲與金山雲上使用雲上IPU產品。
IPU技術
Bow IPU
2022年3月,擬未推出了第一款3D Wafer-on-Wafer處理器——Bow IPU。Bow IPU是Bow Pod人工智慧計算機系統的核心。與前代產品相比,它可為真實世界的人工智慧應用程式實現高達40%的性能提升和16%的電源效率提升,同時價格保持不變,且無需更改現有任何代碼。
Bow-2000和Bow Pod
Bow-2000 IPU Machine(Bow-2000)和戴爾、Atos、Supermicro、浪潮等品牌的主機伺服器相結合,形成Bow Pod系統。Bow-2000是整個Bow Pod系列的基礎構建塊,基於與第二代IPU-M2000 machine同樣魯棒的系統架構,但是配備了四個強大的Bow IPU處理器,可提供1.4 PFLOPS的人工智慧計算。
MK2 IPU
2020年7月,擬未正式發布第二代IPU以及大規模系統級產品IPU-Machine:M2000(IPU-M2000)。
IPU-M2000和IPU-POD
IPU-Machine:M2000(IPU-M2000)是一款即插即用的機器智慧型刀片式計算單元,由擬未的7納米Colossus第二代GC200 IPU提供動力,並由Poplar軟體棧提供全面支持。IPU-M2000可構建成IPU-POD64這一Graphcore全新模組化機架規模解決方案,可用於極大型機器智慧型橫向擴展。它可以從一個機架式本地系統擴展到高度互連的超高性能AI計算設施中的1000多個IPU-POD64系統。
MK1 IPU
2018年7月,擬未開始向早期訪問客戶提供IPU產品,並在瑞典斯德哥爾摩舉行的ICML 2018大會上首次公開展示了C2 IPU加速器PCle卡。2019年11月,IPU產品正式發布,並宣布了包括微軟在內的第一批客戶。
每個C2卡都配有兩顆Colossus IPU。每個Colossus IPU集成了236億個電晶體,具有1216個獨立的處理器核心,可以提供125 TFLOPS的算力。
Poplar
Poplar SDK是一個與IPU一同從零設計的完整軟體棧。通過Poplar SDK,用戶可以在靈活易用的軟體開發環境中使用擬未的計算圖工具鏈。
在較高的層次上,Poplar與標準的機器學習框架完全集成,因此開發人員可以輕鬆移植現有模型,並在熟悉的環境中立即啟動和運行新的應用程式。
這些框架之下便是Poplar。對於希望獲得完全控制以發揮IPU最大性能的開發人員,Poplar支持使用Python和C ++直接進行IPU編程。
2022年12月,Poplar SDK 3.1正式推出。
數據中心IPU產品
C600
C600是擬未為雲和數據中心打造的推訓一體加速卡,主打推理,兼做訓練,可以支持各種主流的AI套用,在搜尋和推薦等業務。
每張C600使用單顆IPU處理器。在擬未經典的Wafer-on-Wafer MK2 IPU的基礎上,C600增加了用於低精度和混合精度AI的FP8。C600所使用的單顆晶片可提供FP8浮點運算560 TFLOPS以及FP16浮點運算280 TFLOPS的AI計算能力,為C600帶來算力引擎。
C600可搭配市場上主流的AI伺服器使用,比如浪潮NF5468M6等。
Bow Pod系統
Bow Pod16 :作為探索AI的理想選擇,Bow Pod16提供算力、性能和靈活性,可滿足從試驗到投產整個過程中對快速跟蹤IPU原型和速度的各種要求。無論是探索語言和視覺的GNN(圖神經網路)和LSTM(長短期記憶人工神經網路),還是開拓全新的領域,簡單易用的Bow Pod16都是藉助IPU構建更富創新的優秀AI解決方案。
Bow Pod64:Bow Pod64專為多租戶和並發性構建,是一個強勁、靈活的構建塊,適用於企業數據中心、私有雲或公有雲。藉助雲原生功能,可支持跨多個小型vPod(虛擬Pod)的多用戶和混合工作負載,或作為單一系統用於大型訓練工作負載。Bow Pod64幫助實現現有模型的商業價值,開啟人工智慧應用程式。
Bow Pod256:當準備好在超級計算規模上提升AI算力時,請選擇Bow Pod256,該系統專為在企業數據中心、私有雲或公有雲中進行生產部署而設計。當大型語言訓練無需數月和數周,而是在數小時或數分鐘內完成時,可以體驗到效率和生產力的提升。 Bow Pod256可大規模提供人工智慧。
產品服務
Graphcore 計畫在2017年推出其智慧型晶片,這款晶片的套用範圍十分廣泛,包括無人駕駛卡車、雲計算、處理機器學習技術,等等。
事實上,有了高性能晶片的支持,就能利用大量數據來訓練人工智慧系統。據 Graphcore 公司透露,他們的處理器比市場上現有解決方案好一百倍,不僅能夠快速支持人工智慧系統學習,而且能耗也不高。
生態
擬未支持Hugging Face、PyTorch、PyTorch Lightning、TensorFlow、Keras、ONNX、百度飛槳、阿里雲HALO/ODLA、NNFusion等
百度飛槳
2020年,擬未正式加入百度飛槳硬體生態圈。
2021年,百度飛槳在擬未的IPU上實現訓練與推理全面支持。
在2022年的MLPerf v2.0中,百度飛槳使用Bow Pod16和Bow Pod64訓練BERT的提交顯示,其結果與擬未自己使用PopART提交的結果相當。
2022年,擬未加入硬體生態共創計畫。Poplar SDK 2.3與百度飛槳2.3已經完全集成。
阿里雲ODLA
2020年9月,擬未宣布支持阿里雲深度學習開放接口標準ODLA
2020年5月,阿里巴巴宣布擬未支持阿里巴巴ODLA接口標準。
2021年,擬未已攜手阿里雲在GitHub上開源了專為阿里雲HALO定製的代碼odla_PopArt,意味著從GitHub上下載HALO可以直接在IPU上適配
NNFusion
NNFusion
微軟亞洲研究院打造的深度神經網路編譯器NNFusion使用統一的接口,讓模型能夠在不同的硬體廠商的晶片上無縫的運行。研究表明,在IPU上,LSTM的訓練模型相比英偉達和AMD的GPU以及TPU,得到了3倍的提升。NNFusion現已在GitHub開源
發展經歷
2023
o Paperspace Gradient高級版notebooks推出。新的按需付費選項使用戶能夠快速、經濟實惠地提升他們的IPU能力,以滿足不斷增長的計算需求。擬未和Paperspace首次在IPU上引入Stable Diffusion模型。
2022
o 擬未宣布可以在IPU上運行開源文本-圖像模型Stable Diffusion。
o 在Wave Summit 2022深度學習開發者峰會上,擬未正式宣布成功實現新一代PCIe加速卡C600與雲邊端一體推理部署套件FastDeploy的適配。
擬未推出新一代PCIe加速卡C600。C600是擬未為雲和數據中心打造的高端推訓一體加速卡,主打推理,兼做訓練,可以支持各種主流的AI套用,在搜尋和推薦等業務上別具優勢。C600可搭配市場上主流的AI伺服器使用,比如浪潮NF5468M6等。
o 擬未將用於IPU的TensorFlow Serving包括進Poplar軟體棧。
o 擬未開源Argon Streams AV1視頻解碼器驗證工具。
o Paperspace支持機器學習開發者和研究人員在幾分鐘之內就可以獲取免費的擬未IPU,在Gradient中提供專用IPU訪問。
o 擬未與AMD提議將FP8作為AI行業標準。
o G-Core Labs的IPU雲在歐洲推出。它以擬未高度差異化的、專為人工智慧設計的IPU Bow Pod平台和成熟的軟體棧為特色。
o OpenMMLab宣布支持擬未IPU作為訓練晶片。
o 擬未分享MLPerf v2.0提交結果,Bow Pod16在ResNet-50上的訓練時間比更加昂貴的NVIDIA旗艦產品DGX-A100 640GB快31%。百度飛槳使用Bow Pod16和Bow Pod64訓練BERT的提交顯示,其結果與擬未自己使用PopART提交的結果相當。
o 擬未宣布將於2024年交付第一台超級智慧型AI計算機Good™ Computer(古德計算機)。
o 擬未推出一款3D Wafer-on-Wafer處理器Bow IPU和以Bow IPU為核心的Bow Pod人工智慧計算機系統。
o 擬未中國總部新址舉行插電儀式。
o G-Core Labs發布由擬未IPU支持的歐洲人工智慧雲。
o 擬未在Wave Summit 2022深度學習開發者峰會上正式宣布加入硬體生態共創計畫。Poplar SDK 2.3與百度飛槳2.3已經完全集成,相關代碼在百度飛槳的GitHub上線。
o 擬未宣布正式簽約授權大聯大控股旗下鑫聯大成為擬未中國區總代理之一。
擬未在Wave Summit 2022深度學習開發者峰會上正式宣布加入硬體生態共創計畫。Poplar SDK 2.3與百度飛槳2.3已經完全集成,相關代碼在百度飛槳的GitHub上線。
擬未攜手騰訊雲,正式發布騰訊雲公有雲上的IPU預覽
擬未宣布正式簽約授權大聯大控股旗下鑫聯大成為擬未中國區總代理之一。
2021
安捷中科全資子公司安捷數科與擬未正式宣布達成戰略合作。雙方將攜手合作,使用IPU進行氣象預測、精準灌溉和防災減災。
擬未分享MLPerf v1.1提交結果。IPU-POD16在計算機視覺模型ResNet-50方面的表現優於Nvidia的DGX A100。
IPU-POD128和IPU-POD256發布。
VMware的Project Radium將支持擬未IPU以作為其硬體分解倡議的一部分。
存儲合作夥伴加入擬未合作夥伴計畫。
擬未作為創始成員加入Hugging Face硬體合作夥伴計畫。
PyTorch Lightning支持IPU 。
擬未分享首次MLPerf提交結果。在IPU-POD64上,BERT的訓練時間只有9分多鐘,ResNet-50的訓練時間為14.5分鐘,已達到超級計算機級別的AI性能。
2021 Wave Summit+上,百度深度學習平台飛槳正式發布在擬未IPU上實現訓練和推理全流程支持的開原始碼庫。
擬未學術計畫正式啟動。
擬未與Cirrascale聯合推出基於第二代IPU的IPU-POD人工智慧雲服務Graphcloud。
升哲科技宣布正與擬未合作,打造基於IPU計算系統的城市ESG(環境、社會和治理)端到端解決方案。擬未與神州數碼建立合作夥伴關係,神州數碼正式成為擬未中國區總代理。
2020
擬未攜手阿里雲在GitHub上開源了專為阿里雲HALO定製的代碼odla_PopArt 。
第一套IPU-M2000和縱向擴展的IPU-POD64性能benchmark發布。
擬未宣布合作夥伴計畫。
擬未正式發布第二代IPU以及大規模系統級產品IPU-Machine:M2000(IPU-M2000)。IPU-M2000可構建成IPU-POD64模組化機架規模解決方案,可用於極大型機器智慧型橫向擴展。
擬未中國創新社區上線。
中國首款IPU開發者雲正式發布,部署在金山雲上,使用了IPU PCIe卡適配完成的浪潮NF5568M5伺服器和戴爾DSS8440伺服器。
Wave Summit 2020深度學習開發者峰會上,百度正式宣布Graphcore為百度飛槳硬體生態圈共建計畫夥伴之一。
阿里雲在OCP全球峰會上首次對外公布ODLA接口標準,並宣布已率先在擬未等生態夥伴上獲得支持。
在D2輪融資中,Graphcore籌集1.5億美元,估值達到19.5億美元。
2019
IPU產品正式發布,並宣布了包括微軟在內的第一批客戶。
公司中國總部在北京設立。
2018
在D輪融資中,Graphcore籌集了2億美元,估值達到17億美元。
開始向早期訪問客戶提供IPU產品,首次公開展示了C2 IPU加速器PCle卡。
2017
11月,紅杉資本在C輪融資中為Graphcore投資了5000萬美元,以支持Graphcore實現加速成長。
7月,在由Atomico領投的B輪融資中,Graphcore籌集了3000萬美元。
2016
2016年10月,Graphcore宣布獲得了一筆 3000 萬美元的 A 輪融資,希望能幫助他們對抗像英特爾和英偉達這樣的晶片製造巨頭。
公司成立,總部位於英國布里斯托。
所獲榮譽
2024年4月,該企業以170億人民幣的企業估值入選《2024·胡潤全球獨角獸榜》,排名第459名。
2023年4月18日,Graphcore企業以190億人民幣的企業估值入選《2023·胡潤全球獨角獸榜》,排名364名。
《Analytics Insight》2023年值得關注的100家人工智慧公司
「AI 中國」機器之心2022年度評選「AI 中國 · 企業榜」最佳人工智慧企業TOP 30
「AI 中國」機器之心2022年度評選「AI 中國 · 趨勢榜」年度 AI 趨勢先鋒·產業革新
· 2022年CB Insights年度AI 100全球榜單
曾獲2021世界物聯網排行榜500強,
2021CB Insights年度AI 100全球榜單,
2021EE Times Silicon 100榜單,
2020CB Insights年度AI 100全球榜單,
2020EE Times Silicon 100榜單,
《快公司Fast Company》2020最佳創新公司10,
《Analytics Insight》2020全球十大最值得為之工作的AI公司。
2020《麻省理工科技評論》“50家聰明公司”,
2020 智慧型汽車科技先鋒獎,
2020年8月4日,胡潤研究院發布《2020胡潤全球獨角獸榜》,Graphcore排名第169位。
雷鋒網2020 AI最佳成長榜
2020 最佳壁壘成長獎。
2019年10月21日,胡潤研究院發布《2019胡潤全球獨角獸榜》,Graphcore排名第138位。
領導團隊
Nigel Toon
Nigel現任擬未聯合創始人兼執行長。在創立擬未前,Nigel擔任過兩家獲風投支持晶片公司的執行長。
Simon Knowles
Simon是擬未的聯合創始人、CTO兼工程執行副總裁。他是IPU的創始設計師。三十多年來,他一直從事針對新興工作負載的新型處理器設計工作。
盧濤(Jason Lu)
盧濤先生現任擬未總裁,大中華區總經理,同時是執行委員會成員。盧濤先生全面負責擬未在大中華區的業務。