暮色在賽格大廈的玻璃幕墻上折出暗紅波紋,二樓走廊盡頭的改裝鋪亮著藍(lán)光。工業(yè)風(fēng)扇并沒有在凌晨兩點(diǎn)休息,魔改后的4090顯卡性能堪比H200,店主正在試圖讓全世界震驚的中國模型跑在自己的服務(wù)器上。五個小時后,屏幕上終于跳出了“DeepSeek R1”的標(biāo)簽。
華強(qiáng)北步行街的主街口,新建的無人機(jī)體驗(yàn)館日日爆滿,后方庫里測試員對每一臺無人機(jī)進(jìn)行試飛檢測;門前機(jī)器狗在給機(jī)器人拜年,人們圍在熱鬧的馬路中央,看剛剛上過春晚的宇樹G1機(jī)器人表演后空翻。
“DeepSeek、Kimi、豆包都能接,剛開始日本產(chǎn)的AI寵物要2000多元,現(xiàn)在AI玩具均價不會超過300元,曼哈一層全部都是?!币晃蝗诵螜C(jī)器人廠商告訴我們,這些玩具除了樣子不一樣,其他幾乎大同小異?!俺杀緫?yīng)該只有幾十塊錢”。
一位供應(yīng)鏈商家告訴我們:“華強(qiáng)北里有幾棟樓是華強(qiáng)集團(tuán)的,是上市公司,還有的是其他公司,他們相當(dāng)于租房給商家,且自己也有制造,產(chǎn)業(yè)鏈業(yè)務(wù),集成產(chǎn)業(yè)鏈能力,撮合大單貿(mào)易。強(qiáng)制撤柜,應(yīng)該是集團(tuán)推動的?!?/span>
店主蹲在收銀臺后,向每一位來往的買家介紹著這款眼鏡的芯片配置,身后的貨架上,AI翻譯機(jī)們具備七十二種語言,AI玩具們熱情地邀請人對話。
這就是華強(qiáng)北。
如果說去年年底,華強(qiáng)北只是被AI包圍了,今年2月份DeepSeek刮起一陣大模型龍卷風(fēng)以后,華強(qiáng)北開始大刀闊斧的換血,從面子,走向了里子。
魔改4090,狂跑DeepSeek
最近,在社交平臺、閑魚和廣州一些“買家群”里,突然出現(xiàn)了一批魔改后的4090顯卡,賣家堪稱“單卡跑DeepSeek速度起飛”,而且不挑系統(tǒng)不挑驅(qū)動。
如果兩張4090(大約5萬左右價格)就能部署DeepSeek R1,那推理成本立省百萬。
更重要的是一旦消費(fèi)級顯卡能夠支持大模型部署和推理,那將大大的打開大模型推理算力的空間,從一定程度上緩解算力資源不足的問題。
據(jù)了解,這些魔改后的顯卡大部分從深圳發(fā)貨,并向華強(qiáng)北一些店家確認(rèn),確實(shí)正在批量改造顯卡并對外銷售.但這并不是華強(qiáng)北的“最新發(fā)明”。
2月10日,清華大學(xué)KVCache.AI團(tuán)隊(duì)聯(lián)合趨境科技發(fā)布的KTransformers開源項(xiàng)目公布更新:一塊24G顯存的4090D就可以在本地運(yùn)行DeepSeek-R1、V3的671B“滿血版”。預(yù)處理速度最高達(dá)到286 tokens/s,推理生成速度最高能達(dá)到14 tokens/s。
通過深度挖掘硬件性能,同時調(diào)用CPU和GPU執(zhí)行計算任務(wù),解決資源限制問題,實(shí)現(xiàn)低顯存運(yùn)行大模型,打破了本地部署的資源限制。
DeepSeek R1滿血版是一個671B參數(shù)的超大尺寸模型,正常部署需要1200G顯存,需要8卡A100服務(wù)器才能帶動,硬件成本分分鐘百萬元起步,采用KTransformers后,理想情況可以實(shí)現(xiàn)14G顯存+382G內(nèi)存,即可運(yùn)行DeepSeek R1 Q4_k_M模型,最多不超過5萬就能拿下。
Github有用戶對方案成本進(jìn)行分項(xiàng)分析后稱,只要不到7萬元(4090D)就能實(shí)現(xiàn)R1模型的本地運(yùn)行,與A100/H100服務(wù)器動輒200萬元的價格相比,便宜了95%以上。
但這套看起來高價值的技術(shù),真要落地特別困難,由于KTransformers需要深度挖掘硬件的計算性能,因此部署和調(diào)用都會涉及到非常多硬件底層的操作,項(xiàng)目部署和使用門檻都非常高,稍有不慎,幾萬的4090就徹底改廢了。
簡單的說:理論上可以改造成功,但需要懂底層硬件的人做精細(xì)化處理,否則不如不改。這不就來到華強(qiáng)北老師傅們的舒適區(qū)了。
目前,華強(qiáng)北多以雙卡4090服務(wù)器形式對外售賣,有兩張空余卡槽,可后續(xù)加卡,三年質(zhì)保終身免費(fèi)技術(shù)支持。我們咨詢了一位購買過該服務(wù)器進(jìn)行本地部署的小微企業(yè),對方表示穩(wěn)定性很高,目前暫時沒有出現(xiàn)問題。
賽格通訊大廈五層,再壞的手機(jī)電腦電子設(shè)備,老師傅那都能妙手回春,如今,有一部分也轉(zhuǎn)型為新一代AI軟件提供基礎(chǔ)設(shè)施。最近一周,掮客們接到的需求單里也多了相關(guān)的產(chǎn)品。
DeepSeek引發(fā)了對推理側(cè)算力的高增長,在沒有高性能GPU的情況下,全國各地通過軟件和硬件的創(chuàng)新,發(fā)起了一場“技術(shù)游擊戰(zhàn)”。
中國有自己的CES
上個時代華強(qiáng)北令人驕傲的不止技術(shù)實(shí)力,還有成熟的供應(yīng)鏈體系。
走在華強(qiáng)北中央的步行街上,最好趕上一個不下雨的日子,你會發(fā)現(xiàn)這里就是中國本土的CES(國際消費(fèi)類電子產(chǎn)品展覽會)。每個轉(zhuǎn)角都是新奇的電子產(chǎn)品,每棟大樓都是一個微型展會。
華強(qiáng)北能迅速轉(zhuǎn)型為AI硬件中心,源于其強(qiáng)大的供應(yīng)鏈實(shí)力。這里匯集了從芯片、電路板到各類傳感器的完整電子產(chǎn)業(yè)鏈,任何新型硬件幾乎都能在這里找到所需的零部件,形成了一條龍的生產(chǎn)服務(wù)體系。
“在深圳這個地方就有這個好處,只要別人做出來的東西,我可以用最低的成本,不到7天的時間復(fù)刻出來。”一位從業(yè)十年的商戶自豪地說,“在一個IC模塊里集成麥克風(fēng)、喇叭、電池、顯示屏,成本價才三十多塊錢。然后寫一個軟件,從網(wǎng)上找一些開源的方案放進(jìn)去,基本不要錢,有些付費(fèi)也就幾十塊。”
這種高效的供應(yīng)鏈反應(yīng)能力,讓華強(qiáng)北在任何硬件熱潮興起時都能迅速跟進(jìn),從設(shè)計到量產(chǎn)僅需幾周時間,將創(chuàng)意變?yōu)楝F(xiàn)實(shí)的速度令人咋舌。
去年還讓人嘖嘖稱奇的AI玩具,今年在華強(qiáng)北已經(jīng)遍地可見,每一棟大廈都有相應(yīng)的產(chǎn)品,價格也從最初的上千元降到了幾百元??粗宅槤M目的AI產(chǎn)品,一位資深電子產(chǎn)品銷售商解釋道:“這樣的消費(fèi)級產(chǎn)品,其實(shí)沒有什么技術(shù)含量,外面創(chuàng)業(yè)說得神乎其神,其實(shí)都是來深圳拉一條供應(yīng)鏈。芯片配上幾年前的樂芯ESP,十幾塊錢一個,就能搞定?!?/span>
從支持DeepSeek的翻譯機(jī)、智能音箱、智能耳機(jī)到各種互動玩具,華強(qiáng)北的商家們早已將AI技術(shù)標(biāo)準(zhǔn)化。他們甚至開發(fā)了集成麥克風(fēng)、喇叭、電池于一體的標(biāo)準(zhǔn)化AI模塊,可以迅速裝配成各種形態(tài)的AI產(chǎn)品。這些低成本、快速迭代的AI設(shè)備,既滿足了大眾對新技術(shù)的好奇心,也為商家提供了測試市場和積累經(jīng)驗(yàn)的絕佳機(jī)會。
但簡單的消費(fèi)類硬件,并不足以滿足華強(qiáng)北的野心。隨著技術(shù)積累和市場拓展,華強(qiáng)北的目光轉(zhuǎn)向了更具挑戰(zhàn)性的領(lǐng)域——無人機(jī)和機(jī)器人。這是AI硬件革命的自然進(jìn)階:從簡單的語音交互到復(fù)雜的自主飛行,再到擬人化的機(jī)器人系統(tǒng)。
“以前華強(qiáng)北的凌晨發(fā)貨,貨倉里都是平衡車,現(xiàn)在半夜都是無人機(jī)在天上試飛?!币晃晃锪髫?fù)責(zé)人介紹道,“深圳是全國低空經(jīng)濟(jì)政策最好的城市,連廣場上都能看見老大爺玩無人機(jī)?!绷璩恳稽c(diǎn),發(fā)貨員正在倉庫忙碌著,將無人機(jī)和最新的AI硬件打包,送往即將駛向海外的貨船。
從機(jī)械制造的角度來看,無人機(jī)和機(jī)器人有著諸多共通之處,它們同樣需要感知中樞模塊、邊緣計算的芯片能力和動力系統(tǒng)(電池、電機(jī))。華強(qiáng)北的供應(yīng)鏈優(yōu)勢在這些領(lǐng)域發(fā)揮得淋漓盡致,讓更復(fù)雜的AI硬件能夠快速迭代并量產(chǎn)。
尤其在宇樹科技機(jī)器人登陸春晚后,深圳街頭瞬間刮起了機(jī)器人游街的風(fēng)潮。這些身高一米多的人形機(jī)器人成為各種活動的焦點(diǎn),也成為華強(qiáng)北新一輪技術(shù)革新的標(biāo)志。
“我去年11月份的時候預(yù)定了兩臺宇樹G1(身高一米三款),9萬9一臺的標(biāo)價現(xiàn)在轉(zhuǎn)手能賣20w,第一批除了給渠道商就是銷往海外了?!币晃粚I機(jī)器人的商戶回憶道,“現(xiàn)在很多領(lǐng)導(dǎo)上臺講話需要人型機(jī)器人陪站,最好的時候能租到一萬五一天,淡季也有6000一天。”從消費(fèi)級AI產(chǎn)品到高端機(jī)器人,華強(qiáng)北展示了中國制造業(yè)的完整進(jìn)階路徑。
如今的華強(qiáng)北正處于從電子零件集散地向AI硬件創(chuàng)新中心的關(guān)鍵過渡期:曼哈商場已全面轉(zhuǎn)型為AI和無人機(jī)基地,傳統(tǒng)柜臺全部改造;賽格、華強(qiáng)電子等傳統(tǒng)市場正在加速調(diào)整,將AI產(chǎn)品置于最顯眼的位置;還有一些區(qū)域仍在觀望,但也能感受到變革的壓力。
(審核編輯: 光光)
分享