
為此,阿里巴巴、亞馬遜 AWS、AMD、蘋(píng)果、Arm、Cerebras、谷歌、Graphcore、Hugging Face、英特爾、Meta 和英偉達 12 家科技巨頭宣布,聯(lián)合推出 OpenXLA 項目(包括 XLA、StableHLO 和 IREE 存儲庫),使開(kāi)發(fā)者能夠編譯和優(yōu)化來(lái)自所有領(lǐng)先 ML 框架的模型,以便在各種硬件上進(jìn)行高效培訓和服務(wù)。
據介紹,OpenXLA 項目提供了一個(gè)最先進(jìn)的 ML 編譯器,可以在復雜的 ML 基礎設施中擴展。這一通用的編譯器可以將不同的硬件設備橋接到當今使用的多個(gè)框架(例如 TensorFlow、PyTorch),通過(guò) OpenXLA 來(lái)幫助加速 AI 的開(kāi)發(fā)和交付來(lái)實(shí)現 AI 的實(shí)際潛力。
谷歌稱(chēng),使用 OpenXLA 的開(kāi)發(fā)者將看到訓練時(shí)間、吞吐量、服務(wù)延遲以及最終上市時(shí)間和計算成本方面的顯著(zhù)改進(jìn)。