（來源：上觀新聞）

第三，加????上今天的悟空????工作平????臺——已集成??多模態(tài)、工具調??用、自主規(guī)劃??等特性，???????并在阿里內??部及生態(tài)伙伴中啟??動大規(guī)模測試??。不過，這一結果?并不令人意外??????。這種設計既??????保留了GP??U在并???♂???漂亮鄰居行計算上???的統(tǒng)治力，又吸???♂?收了LPU??在串行??生成上???????的低延遲???優(yōu)勢，同時還能通??????過英偉達的Dyn????amo????推理框架??和KV緩存管????理系統(tǒng)，智??能地路由不????同的token請??求????。一臺先進設備，????往往不只承載??一個控制域，??????還要同????♀?????時容納??上層應用、邊緣????漂亮鄰居分析、??人機交????互、聯(lián)網(wǎng)模????塊，甚至 AI?? 推理負載??????。

這些實驗???????♂?就像是在實驗室中????????重現(xiàn)理??論物理??學家的預測????一樣，為抽象的????數(shù)學分析??????提供了具體的經(jīng)驗??證據(jù)??。這意味著???????未來的AI芯片將????出現(xiàn)復雜的異構???內存層級：底層是??????負責pr?????♂?efill的??計算晶??????圓，中間層???♀???是通過??????3D堆疊提供???????的巨大????SRAM緩存??用于高速deco???de，旁邊則依??然通過CoW??????oS封??裝著大容量??的HB?M用于存儲????海量上下文???（KV Cach??e）????。