這個全球最大的晶片走進了“雲”

五個月前,當 Cerebras Systems推出其第二代晶圓級晶片系統 (CS-2) 時,該公司聯合創始人兼執行長 Andrew Feldman 暗示了公司即將推出的雲計劃,現在這些計劃已經實現。

日前,Cerrebras 和 Cirrascale Cloud Services 推出了 Cerebras Cloud @ Cirrascale 平臺,透過 Cirrascale 的雲服務提供對 Cerebras 的 CS-2 晶圓級引擎 (WSE) 系統的訪問。

CS-2 機器運行了 850,000 個 AI 最佳化計算核心,重約 500 磅,安裝在加利福尼亞州聖克拉拉的 Cirrascale 資料中心,但該服務將在全球範圍內提供,開放訪問CS-2 提供給任何有網際網路連線和每週 60,000 美元用於訓練非常大的 AI 模型的人。

“對於訓練,我們沒有發現延遲是一個問題,”Cirrascale 執行長 PJ Go 在上週與人工智慧硬體峰會同時舉行的媒體預釋出會上說。

Feldman 表示同意,並補充說:“如果你要進行 20 小時或更長時間的訓練,從克利夫蘭到聖何塞的光速可能不是什麼大問題。”

Cirrascale 的 Cerebras Cloud 客戶將獲得對 Cerebras 軟體和編譯器包的完全訪問許可權。

“編譯器工具集位於 Cirrascale 開發的雲工具集之下,”Feldman 說。“因此您將進入,您將獲得對計算叢集、儲存、CS-2 的訪問權;您將執行您的編譯堆疊,您將完成您的工作,您將被設定檢查點並存儲在 Cirrascale 基礎設施中,它將被識別,以便您可以稍後返回該工作。所有這些都已整合在一起。”

該環境支援 TensorFlow 和 PyTorch 等熟悉的框架,Cerebras Graph Compiler 自動將從業者的神經網路從其框架表示轉換為 CS-2 可執行檔案。據 Cerebras 稱,這消除了對叢集編排、同步和模型調整的需要。

透過每週最低買入——定價設定為每週 60,000 美元、每月 180,000 美元或每年 1,650,000 美元——Cirrascale 客戶可以訪問整個 CS-2 系統。“共享模式不適合我們,”Feldman 說。該存在的理由的晶圓級制度是為了“作為機器的大,你可以解決你的問題,你可以儘快,”他告訴HPCwire。

根據 Feldman 的說法,Cerebras 沒有透露其 CS 系統的標價,但直接購買 CS-2 系統將使您花費“數百萬美元”。

兩位 CEO 都認為“先試後買”是 Cerebras Cloud 產品的動機之一,它將對 CS-2 的功能印象深刻的租用者轉變為一個或多個系統的購買者。但這些公司也希望有很大一部分使用者堅持使用雲模式。

偏好 OPEX 是一個原因,但這也是技能和經驗的問題。談到這一點,Feldman 說:“關於我們行業的一個鮮為人知的事實是,實際上很少有人能夠真正構建大型 GPU 叢集,這種情況是多麼罕見——需要的技能,而不僅僅是金錢。將大型模型傳播到 250 多個 GPU 上的技能可能存在於世界上幾十個組織中。”

Cerebras Cloud 透過基於雲的硬體和軟體基礎設施提供效能,並透過 Cirrascale 門戶訪問計費、儲存和其他服務,從而簡化此過程。“對於我們來說,將我們的業務範圍擴充套件到不同型別的客戶是一個顯而易見的選擇,”費爾德曼說。

Cerebras 的第一個 CS 系統部署是在政府實驗室空間(美國能源部是一個根本性的勝利,在 2019 年人工智慧硬體峰會上宣佈)和商業網站,主要是製藥(葛蘭素史克是客戶)的內部部署。透過將 CS-2 作為託管服務進行訪問,Cerebras 正在追求更廣泛的組織,從初創公司到財富 500 強公司。

“我們一直致力於建立這種夥伴關係,”Cerebras Systems 產品副總裁 Andy Hock 在宣傳影片中說。“我們開始專注於從頭開始訓練大型自然語言處理模型,如 BERT,我們將從那裡擴充套件我們的產品。”

Cirrascale 創始人兼首席技術官 David Driggers 表示:“Cerebras CS-2 處理的工作負載是我們今天無法在 GPU 上完成的。“[這是]一個非常大規模的擴充套件場景,我們有一個模型,它不能並行化,但它可以處理大量資料。因此,當今最大的 NLP 模型需要大量的資料輸入以及大量的計算。由於需要 IO 通訊,因此在 [傳統] 叢集上很難做到這一點。

Cerebras CS-2 使我們能夠利用非常大的記憶體空間、大型內建網路和大量核心,將 NLP 擴充套件到我們以前無法做到的高度。”

參加預簡報電話會議的分析師 Karl Freun對合作夥伴關係表示贊同。“Cerebras 最近似乎在全力以赴,客戶獲勝,第二代 WSE,最近他們大膽聲稱他們正在構建一個比我們所見過的任何東西都大 1000 倍的大腦規模的 AI,”他告訴HPCwire 。

“你擁有的是一種非常熱門的商品(他們的技術),很多人都想嘗試它,但誰又不想花大筆錢購買和部署 CS-2。輸入 Cirrascale 和他們的 CS-2 雲產品,這將使科學家能夠更容易地、至少在某種程度上更實惠地獲得業內最大、最快的 AI 處理器。毫無疑問,這將為 Cerebras 的未來創造新的機會,無論是在雲中還是在本地。”

當被問及今天的 AI 晶片不適合未來的 AI 模型的風險時,Freund 說,“如果有的話,Cerebras 是一家公司,其架構正在向冰球前進的方向滑行:巨大的 AI。”

原文連結:

https://www。hpcwire。com/2021/09/16/cerebras-wafer-scale-engine-ai-system-is-now-available-in-the-cloud/