快科技5月19日消息,當地時間周四,Meta宣布,它正在研發首款專門用于運行人工智能模型的定制芯片。
Meta并不像谷歌、微軟等科技巨頭從事銷售云計算服務的業務,過去公司從未公開談論其內部數據中心芯片項目。但Meta高管稱,全球科技界都對此表現出興趣,所以有必要與外界溝通。
這款芯片名為“Meta訓練和推理加速器”(Meta Training and Inference Accelerator,簡稱“MTIA”),功耗僅為25瓦,遠低于NVIDIA等廠商的芯片功耗。
據Meta介紹,首個MTIA芯片將專注于AI推理。Meta軟件工程師Joel Coburn表示,Meta最初考慮將GPU用于推理任務,但后來發現GPU并不不太適合推理工作。
“GPU在真實模型應用方面的效率仍然很低,而且部署起來成本高昂。”Meta軟件工程師Coburn表示,“這就是我們需要MTIA的原因。”
此外,Meta還介紹了一種稱作“可規?;曨l處理器”(MSVP)的芯片,可用于處理視頻并傳輸,同時降低能源需求,該公司稱,每天需要處理40億個視頻的任務。