據(jù)美國多家媒體報道,全球半導(dǎo)體巨頭英偉達即將以數(shù)億美元的估值收購人工智能初創(chuàng)企業(yè)Lepton AI。值得關(guān)注的是,,Lepton AI是由阿里云前副總裁賈揚清創(chuàng)立。該公司的多家投資機構(gòu)也得以順利退出,。
Lepton AI
Lepton AI做什么,?
Lepton AI成立于2023年,創(chuàng)始人為賈揚清和Junjie Bai,,目前擁有大約20名員工,,其客戶中包括多家風(fēng)險投資支持的初創(chuàng)公司。
據(jù)公司介紹,,該公司創(chuàng)立的平臺主要針對AI工作負載進行了優(yōu)化,,客戶既可以使用它來訓(xùn)練AI模型,也可以執(zhí)行推理,,即在訓(xùn)練后在生產(chǎn)環(huán)境中運行神經(jīng)網(wǎng)絡(luò)的任務(wù),。
此外,Lepton AI提供了一個可視化界面,,用于在其云中設(shè)置訓(xùn)練集群,。該公司提供多種英偉達顯卡供用戶選擇。而對于并排訓(xùn)練多個模型的團隊,,該平臺提供了一個工具,,可用于集中管理分配給每個項目的硬件數(shù)量。
在訓(xùn)練期間,,AI模型有時會遇到錯誤,,從而降低其輸出質(zhì)量。Lepton AI的平臺提供了檢測此類錯誤的功能,。它還發(fā)現(xiàn)了更微妙的技術(shù)問題,,例如神經(jīng)網(wǎng)絡(luò)在訓(xùn)練期間使用的內(nèi)存可能超過應(yīng)有的內(nèi)存。
模型開發(fā)完成后,,Lepton AI 客戶可以將其部署在公司云中的推理優(yōu)化實例上,。該平臺承諾提供每秒超過600個令牌的處理速度,同時將延遲保持在10毫秒以下,。當(dāng)需求增加時,,自動擴展功能會自動向客戶的推理環(huán)境添加更多硬件資源,。
此外,,Lepton AI還使用vLLM等開源工具加快推理速度。該技術(shù)將類似的LLM提示合并到單個請求中,,從而減少了模型必須執(zhí)行的處理量,。開發(fā)人員還使用vLLM來減少模型的內(nèi)存占用。
分析認為,英偉達作為目前全球AI芯片的主要提供商,,同時也面臨其最大客戶——云服務(wù)提供商的競爭壓力,,如亞馬遜和谷歌正試圖開發(fā)和低價租賃替代芯片來削弱英偉達的市場地位。英偉達正尋求多元化發(fā)展,,通過收購小型AI初創(chuàng)公司來推動其云和軟件業(yè)務(wù)的快速發(fā)展,,使得使用英偉達芯片構(gòu)建新的AI模型成為可能。
英偉達此次收購Lepton AI,,無疑是對其自身技術(shù)生態(tài)的一次有力補充,。通過吸納Lepton AI在AI應(yīng)用平臺方面的專長,英偉達將能夠更好地滿足市場對高效,、靈活A(yù)I解決方案的迫切需求,。同時,這也將為英偉達芯片在AI領(lǐng)域的廣泛應(yīng)用開辟新的道路,。
而對于Lepton AI而言,,加入英偉達大家庭意味著其將獲得更多的資源和支持,從而加速技術(shù)創(chuàng)新和市場拓展的步伐,??梢灶A(yù)見,在英偉達的強大助力下,,Lepton AI的技術(shù)成果有望更快地轉(zhuǎn)化為實際應(yīng)用,,為全球企業(yè)帶來更加智能、高效的AI解決方案,。
值得關(guān)注的是,,在傳出收購Lepton AI消息的同時,英偉達還將收購另外一家人工智能初創(chuàng)企業(yè)Gretel,。Gretel提供了用于創(chuàng)建合成數(shù)據(jù)的工具,,這些合成數(shù)據(jù)是自動生成的,可用于訓(xùn)練AI模型,。據(jù)報道,,這筆交易的價值超過3.2億美元。
創(chuàng)始人賈揚清
公開資料顯示,,賈揚清是全球AI架構(gòu)領(lǐng)域最知名的技術(shù)人才之一,。2002年考入清華大學(xué)自動化系,先后獲得學(xué)士和碩士學(xué)位,,后在美國加州大學(xué)伯克利分校獲得計算機科學(xué)博士學(xué)位,。
2013年賈揚清博士畢業(yè)后加入谷歌。2016年2月,,賈揚清從谷歌離職進入Facebook,,在時任Facebook人工智能實驗室負責(zé)人Yann Le Cun手下?lián)窝芯靠茖W(xué)家,。而在這個重要的人工智能實驗室里,賈揚清打造的深度學(xué)習(xí)框架Caffe,,成為了Facebook重點部署的框架之一,。2019年3月,阿里巴巴達摩院宣布,,原Facebook人工智能科學(xué)家賈揚清已正式加入阿里巴巴,,擔(dān)任技術(shù)副總裁崗位,領(lǐng)導(dǎo)大數(shù)據(jù)計算平臺的研發(fā)工作,。
2023年,,賈揚清離職創(chuàng)立了Lepton AI,該公司另外一位創(chuàng)始人Junjie Bai同樣在Meta工作過,。
2023年5月,,公司宣布完成天使輪融資,紅杉中國,、Fusion Fund和CRV成為其天使輪投資者,。英偉達此番收購的交易價值可能達數(shù)億美元,完成后,,三家機構(gòu)也將實現(xiàn)比較可觀的退出,。
校對:楊舒欣