史上最快芯片Etched Sohu到來：一張能頂20張英偉達H100

初生牛犢不怕虎。

一、Etched.ai對英偉達下了戰(zhàn)書

英偉達最近真是一波未平一波又起，剛剛才扭轉了三天股價下跌4300億美元的勢頭，又被行業(yè)初創(chuàng)公司給盯上了，可謂是打江山容易，守江山難。

6月25日，Etched.ai公司宣布已完成1.2億美元的融資，將向Nvidia最引以為傲的AI芯片設計發(fā)起挑戰(zhàn)。

在當今這個由數據驅動的時代，人工智能（AI）芯片無疑站在了科技革命的前沿。它是智能算法的心臟，為機器學習、圖像識別、自然語言處理等提供了強大的計算支持。

在這樣的大背景下，三位哈佛輟學生Robert Wachen、Gavin Uberti和Chris Zhu，帶著對技術的熱愛和對創(chuàng)新的追求，投身于AI芯片行業(yè)，開啟了他們的創(chuàng)業(yè)之旅——Etched。

圖源：X（前Twitter）

其中，作為公司最早的兩名創(chuàng)始人之一的Gavin Uberti，曾在OctoML和Xnor.ai擔任要職，積累了豐富的行業(yè)知識和經驗。

而另一位華裔創(chuàng)始人Chris Zhu，除了在哈佛大學擔任過計算機科學的教學研究員外，還有在亞馬遜等公司的實習經歷，這些經歷讓他對技術的商業(yè)應用有了深刻的理解。

豐富的科技履歷加上哈佛大學做背書的頂尖學習能力，讓他們有了更高的眼界和更敏銳的意識，在2022年三人就打賭Transformer大模型將統(tǒng)治世界。

因此，他們將所有的精力都用來打造世界上第一個針對Transformer（即ChatGPT中的T）的專用芯片——Sohu。

談到AI芯片，英偉達的名字是繞不開的話題。憑借其在圖形處理單元（GPU）領域的深厚積累，英偉達在AI芯片市場占據了舉足輕重的地位。

其產品不僅廣泛應用于游戲和圖形設計，更在AI訓練和推理任務中展現出卓越的性能。

但正是這樣，Etched放出的狠話，“就Transformer而言，Sohu是有史以來最快的芯片，沒有任何芯片能與之匹敵”，才讓他們的這次融資備受矚目。

那么市面上有著如此多的AI模型，包括DLRM、Stable Diffusion等老牌強者，為什么Etched一定要做Transformer的專用芯片呢？

一張圖片告訴你答案：

圖源：Etched

在Transformer發(fā)力以前，許多公司都有著自己的大模型架構，而從GPT-2誕生開始一直到今天，所有大型科技公司（OpenAI、谷歌、亞馬遜、微軟、Facebook等）都開始使用Transformer模型。

Transformer由谷歌研究團隊于2017年提出，它的功能強大、實用且利潤豐厚。

市面上耳熟能詳的OpenAI 的GPT系列、谷歌的PaLM、Facebook的LLaMa，甚至Tesla的FSD都是Transformer架構。

這證明了Chris Zhu等人確實有著先見之明，也讓這場“賭局”的形勢似乎變得明朗起來，因此他們對英偉達發(fā)出的挑戰(zhàn)才會得到眾多業(yè)內人士的關注。

隨著Etched.ai技術的不斷成熟，它有望成為AI芯片行業(yè)的一股不可小覷的新興勢力，并且能為行業(yè)的發(fā)展注入了新的活力。

不過，Transformer并不是不可替代，目前依然還有SSM、RWKV等多個新架構正在被研究，Etched表示：“一旦Transformer被任何新架構取代，我們的Sohu芯片將毫無用處，但如果我們猜對了，Sohu將改變世界！”

創(chuàng)始人Uberti則更有信心：“發(fā)明了一種比 Transformer 更好的新架構成本非常高，并且這種情況十年內只會發(fā)生一兩次，就像半導體領域發(fā)生的那樣：光刻技術、掩模版/晶圓尺寸和光刻膠成分的變化確實在不斷優(yōu)化，但變化速度非常緩慢。”

二、Sohu芯片強在哪里

要想知道Etched的信心從何而來，他們一直宣傳的Sohu芯片就是關鍵。

在Etched看來，當前市場上流行的AI芯片，特別是英偉達的GPU，它們的芯片單位面積的計算能力 (TFLOPS) 幾乎保持不變。

圖源：Etched

也就是說，如今的AI顯卡的能力提升，靠的是物理上的堆疊，比如NVIDIA的B200、AMD的MI300、Intel的Gaudi 3和亞馬遜的Trainium2都是將兩塊芯片算作一張卡，來實現所謂的“雙倍”性能，總給人一種力大磚飛的感覺。

而Etched.ai的Sohu芯片采用了尖端的4nm工藝技術，這一工藝使得芯片在單位面積上集成了更多的晶體管，從而極大地提升了芯片的計算密度和能效比，顯著降低了能耗。

并且，Sohu芯片的核心優(yōu)勢在于其專為Transformer模型優(yōu)化的設計，在Transformer被用來處理的自然語言處理和圖像識別等方面擁有傳統(tǒng)GPU無法比擬的計算速度。

根據Etched官方發(fā)布的數據，一臺8 x Sohu服務器可以取代 160 個H100 GPU，一臺8 x Sohu 服務器每秒可以處理超過500,000個Llama 70B令牌。

圖源：Etched

與市場上的傳統(tǒng)GPU相比，Sohu芯片展現出了其高吞吐量和低延遲特性。這些特性使得Sohu在AI模型的推理和訓練任務中，擁有卓越的處理速度和能效。

這種性能上的優(yōu)勢，使得Sohu芯片在未來AI芯片市場中能夠占據一個獨特的位置，為那些尋求高性能、高效率AI解決方案的客戶提供新的選擇。

在這種背景下，Etched.ai被眾多投資者所看好。

由Primary Venture Partners和Positive Sum Ventures等知名風險投資公司領投，公司自成立以來，已經完成了幾輪融資，這一次1.2億美元的融資還吸引了包括Peter Thiel、Github CEO Thomas Dohmke以及Coinbase前CTO Balaji Srinivasan在內的一系列知名天使投資者。

他們的加入進一步增強了Etched的信譽和市場影響力，也為公司的研發(fā)和市場推廣提供了充足的資金支持。

值得一提的是，市場對Sohu芯片的預期非常高，目前Etched收到的預訂單的數額已經達到了數千萬美元，這對公司的創(chuàng)始人們來說無疑是一劑強心針。

Etched還在一篇文章中指出，當前AI芯片市場的需求已經達到前所未有的水平，Transformer的市場價值也從最開始不到5000萬美元，到如今已超過50億美元。

在創(chuàng)始人的透露下，Etched.ai的市場策略非常明確，公司專注于為那些對AI計算性能有極高要求的客戶提供服務，包括大型科技公司、云計算服務提供商、AI研究實驗室以及需要進行大規(guī)模數據處理的企業(yè)。

Etched.ai將通過深入了解這些客戶的需求，不斷優(yōu)化Sohu芯片的性能，確保其能夠滿足客戶在處理速度、能耗效率和成本效益方面的要求。

此外，公司也在積極構建生態(tài)系統(tǒng)，與軟件開發(fā)商、云服務提供商和其他硬件制造商建立合作伙伴關系。

這種開放合作的策略，不僅能夠在未來加速Sohu芯片技術的推廣和應用，也能夠幫助Etched.ai更好地理解市場動態(tài)，以快速響應客戶的需求。

在他們的預想下，Etched 有望在 2024 年第三季度將其Sohu AI芯片推向市場，初步計劃是向主要云提供商銷售。

用Uberti的話來說：“我們把賭注押在了Transformer和Sohu上，這兩都正在成為現實?！?/span>

三、Etched將成為世界上最大的公司之一

可以預見的是，Etched.ai的崛起的確會對英偉達構成一定的挑戰(zhàn)。

長久以來，英偉達憑借其GPU在AI芯片市場中占據著主導地位，而這次Sohu芯片的高性能特性，正在逐步吸引行業(yè)的目光。

Uberti更是大膽表示：“如果我們打賭真的成功，Etched 將成為世界上最大的公司之一”

不過他們也很清醒的知道，Sohu在大多數工作狀態(tài)下都無法擊敗GPU，因為它連Stable Diffusion都不支持，但在Transformer推理領域，Sohu將一舉清空市場，成為新一代獨屬于Transformer的ASIC王者。

從整個AI芯片市場來看，Etched.ai打造出的Sohu芯片，不僅是對英偉達的挑戰(zhàn)，更是在整個AI芯片行業(yè)技術進步的縮影。

Sohu芯片的推出，將激發(fā)行業(yè)內對更高效AI計算解決方案的探索和創(chuàng)新。這種創(chuàng)新的推動力，自然也會加速AI芯片技術的發(fā)展。

正如今半導體行業(yè)兩大龍頭企業(yè)（三星、臺積電）已經開始下一輪技術內卷，這也意味著芯片產業(yè)的發(fā)展又一次開上了快車道。

展望未來，Etched.ai和Sohu芯片的發(fā)展前景充滿希望，但也伴隨著不少挑戰(zhàn)。

技術的不斷進步和市場需求的不斷變化，要求Etched.ai持續(xù)進行研發(fā)投入和創(chuàng)新。

同時，英偉達等老牌強者可不是坐以待斃的風格，Etched.ai的專業(yè)芯片理念一旦被市場所認可，怎樣在擁有更大技術和供應鏈優(yōu)勢的強力對手面前活下來，Etched.ai任重而道遠。

總的來看，Etched.ai和三位創(chuàng)始人的故事，是對全球科技競爭中創(chuàng)業(yè)者精神的生動詮釋，也是一條充滿挑戰(zhàn)與機遇的旅程，其背后同樣代表著AI技術也在高速發(fā)展。

而隨著全球科技競爭日益激烈，他們的未來到底如何，是真的變成一家科技巨頭公司還是變成一段哈佛輟學生創(chuàng)業(yè)的新談資？或許要不了幾年就會有答案。