職位描述
崗位職責(zé)1、搭建端到端部署流水線,集成模型壓縮、編譯優(yōu)化、服務(wù)編排等流程,支持一鍵式部署。2、設(shè)計并實現(xiàn)大模型(如GPT、LLaMA、PaLM等)的分布式推理架構(gòu),支持GPU/TPU集群的高效協(xié)同。3、優(yōu)化模型服務(wù)的并發(fā)處理能力,實現(xiàn)萬級QPS(每秒查詢數(shù))的高吞吐場景。4、開發(fā)自適應(yīng)負(fù)載均衡系統(tǒng),根據(jù)實時流量動態(tài)分配計算資源,避免服務(wù)雪崩。5、開發(fā)自動擴縮容策略,基于流量預(yù)測和實時監(jiān)控快速響應(yīng)峰值壓力。6、研究稀疏化推理、MoE模型部署、異構(gòu)計算加速(GPU+NPU)等方向,推動技術(shù)邊界。任職要求1、計算機/電子工程/數(shù)學(xué)相關(guān)專業(yè)碩士及以上,2年以上AI基礎(chǔ)設(shè)施或分布式系統(tǒng)開發(fā)經(jīng)驗。2、精通PyTorch/TensorFlow框架,熟悉大模型結(jié)構(gòu)(Transformer、Attention機制)及推理優(yōu)化技術(shù)。3、掌握分布式系統(tǒng)設(shè)計(Kubernetes、Ray Cluster、NCCL),具備大規(guī)模集群(100+節(jié)點)的部署調(diào)優(yōu)經(jīng)驗。4、有十萬級QPS在線服務(wù)開發(fā)經(jīng)驗,熟悉高并發(fā)場景下的性能瓶頸與解決方案(如異步IO、無鎖隊列)。5、深入理解網(wǎng)絡(luò)協(xié)議棧優(yōu)化(gRPC/HTTP2/QUIC)、連接池管理、長尾延遲治理。6、強烈的技術(shù)熱情,能快速復(fù)現(xiàn)論文方案并工程化落地。
企業(yè)介紹
一、公司概述:深圳市邁特芯科技有限公司成立于2023年底,由南方科技大學(xué)余浩教授領(lǐng)銜的深圳市孔雀團隊孵化,專注于具身智能芯片研發(fā)與端側(cè)大模型部署。公司以“低功耗、高能效”為核心競爭力,致力于為AI手機、穿戴設(shè)備、機器人及智能硬件提供國際領(lǐng)先的算力解決方案,推動人工智能在端側(cè)場景的規(guī)?;涞?。二、核心技術(shù):LPU芯片架構(gòu):采用22-40nm制程與3D-DRAM混合鍵合技術(shù),實現(xiàn)5W超低功耗下>200tps的推理性能,帶寬利用率達(dá)80%,兼容DeepSeek、GLM、Llama等主流大模型。端側(cè)優(yōu)化技術(shù):融合立方脈動架構(gòu)、張量壓縮算法、感算一體設(shè)計,顯著提升端側(cè)設(shè)備的實時決策與多模態(tài)數(shù)據(jù)處理能力。三、產(chǎn)品矩陣:7B MetaChip:旗艦級端側(cè)推理芯片(算力4.92 TOPS,性能>200Token/s),應(yīng)用于手機、平板、PC等核心終端。1B MetaChip:高集成泛端側(cè)芯片(功耗<200RMB),適配AI耳機、桌面機器人等輕量化場景。14B MetaChip:高性能SoC芯片,專為具身智能機器人、無人機設(shè)計,支持10B+大模型實時部署。四、市場與客戶千億級賽道:覆蓋端側(cè)大模型芯片1000億存量市場及具身智能硬件100億增量市場,技術(shù)對標(biāo)英偉達(dá)、高通。頭部合作:與華為、榮耀、大疆、優(yōu)必選等企業(yè)深度合作,產(chǎn)品應(yīng)用于:AGI-PC/手機:為華為預(yù)研項目提供端側(cè)大模型算力支持,人力降本效率提升>20倍。具身智能硬件:賦能大疆無人機視覺決策、優(yōu)必選人形機器人多模態(tài)交互,實現(xiàn)本地化低延遲推理。五、核心團隊創(chuàng)始人余浩教授:國家萬人計劃科技創(chuàng)新領(lǐng)軍人才、IEEE國際宣講人,20年+芯片設(shè)計經(jīng)驗,主導(dǎo)多項國家級科研項目。頂尖團隊:成員來自華為、ARM、英偉達(dá)等頭部企業(yè),涵蓋芯片架構(gòu)、AI算法、硬件量產(chǎn)全鏈路專家,累計發(fā)表頂會論文100+篇,獲吳文俊人工智能獎等權(quán)威榮譽。產(chǎn)學(xué)研協(xié)同:依托南方科技大學(xué)實驗室資源,與ARM中國、中興共建聯(lián)合實驗室,加速技術(shù)商業(yè)化落地。六、愿景與使命邁特芯以“讓智能觸手可及”為使命,通過革新端側(cè)算力技術(shù),推動AGI普惠化發(fā)展,成為全球具身智能芯片領(lǐng)域的標(biāo)桿企業(yè)。