奧特曼百萬年薪挖角谷歌TPU人才,想砸7萬億實現(xiàn)?!感酒杂伞??
編輯:喬楊 好困
【新智元導(dǎo)讀】最終,OpenAI自主研發(fā)芯片的計劃取得了實質(zhì)性的進(jìn)展。根據(jù)SemiAnalysis最近的一篇文章,他們正在從谷歌TPU團隊招聘人才,并擴大他們的芯片研發(fā)團隊。
關(guān)于OpenAI在芯片方面的欲望傳聞已經(jīng)很久了。
近幾年來,PC和AI行業(yè)兩次發(fā)生了重大半導(dǎo)體供應(yīng)危機,Sam Altman似乎認(rèn)為,傳統(tǒng)芯片制造商,如臺積電、三星代工和英特爾代工,沒有足夠的生產(chǎn)能力,無法滿足全球?qū)I芯片快速增長的需求。
不僅OpenAI的計算率需要降低對英偉達(dá)芯片的依賴度,奧特曼甚至希望為其他公司建造更多的晶圓工廠。
據(jù)華爾街日報報道,今年2月,奧特曼會見了軟銀CEO和臺積電的談判代表,討論合資事宜,并計劃在未來幾年內(nèi)共同建設(shè)和運營數(shù)十家芯片制造工廠。
亞利桑那州的TSMC新建工廠
不過,造芯片要燒的錢比訓(xùn)練大模型要少,不會多。
據(jù)奧特曼個人估計,新建半導(dǎo)體制造設(shè)備及相關(guān)基礎(chǔ)設(shè)施的費用可達(dá)5-7億美元。
因為傳統(tǒng)的私人風(fēng)險投資很難一下子花這么多錢,奧特曼曾經(jīng)去美國商務(wù)部長那里討論,甚至去新加坡和阿聯(lián)酋見當(dāng)?shù)毓賳T,尋求國有資產(chǎn)的支持。
經(jīng)過半年多的籌劃和發(fā)醇,OpenAI的芯片工作似乎真的要開始了!
谷歌,芯片人才大戰(zhàn) vs. OpenAI
根據(jù)SemiAnalysis的最新報道,OpenAI最近開始大規(guī)模招募,計劃將只有幾個人的芯片團隊擴展到幾十個人。
而且,他們延續(xù)了一貫的招聘策略——挖角谷歌。
最近招募的絕大多數(shù)研究人員,都是谷歌TPU現(xiàn)任或前任團隊成員。
與GPU最初設(shè)計的圖像處理和實時渲染不同,TPU是谷歌從零開始設(shè)計的,專門用于加快機器學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)的計算,可以更好地處理張量計算問題。
GPU以ALU作為核心部件(高級算術(shù)邏輯單元),TPU的核心是矩陣乘法器模塊(MXU),矩陣乘法和積累可以以高吞吐量進(jìn)行。
谷歌TPUv4
雖然TPU的任務(wù)沒有GPU那么實用,尤其是沒有CUDA這樣的編程接口,但是它在計算性能和能源效率方面都很出色,尤其是那些經(jīng)過谷歌團隊特別優(yōu)化的任務(wù)。
所以TPU可以說是世界性能/TCO最好的機器學(xué)習(xí)基礎(chǔ)設(shè)施(總體成本)。
雖然谷歌的TPU已經(jīng)取得了如此巨大的成就,但OpenAI芯片團隊的工作機會仍然具有許多吸引力。
第一,大公司和創(chuàng)業(yè)公司在發(fā)展速度世界上的本質(zhì)差異。
TPU首次發(fā)布于2013年,至今年5月推出的最新TPUv6。該團隊有十多年的開發(fā)經(jīng)驗。在珠玉之前,系統(tǒng)設(shè)計和微結(jié)構(gòu)很難有很大的變化,更多的是迭代和漸進(jìn)的改進(jìn)。

加入OpenAI就不一樣了,在重新設(shè)計、重新開發(fā)的過程中,成員們有機會嘗試更加創(chuàng)新、激進(jìn)的方法。
而且OpenAI一直都是雄心勃勃的,它們的目標(biāo)是建立一個由數(shù)百萬個加速器組成的系統(tǒng),比GPT-4的練習(xí)大幾個數(shù)量級。
此外,團隊合作模式還有很大的不同。
雖然TPU團隊也會與DeepMind合作,但是在尾大不掉的谷歌,仍然會遇到許多非技術(shù)障礙。
相比之下,OpenAI內(nèi)部的芯片與模型團隊之間的溝通與合作將更加緊密和順暢。
除此之外,還有薪資的差別。
事實上,Google 在半導(dǎo)體設(shè)計領(lǐng)域,TPU團隊已成為工資最高的團隊之一,工程師的平均收入遠(yuǎn)高于AMD。、大多數(shù)半導(dǎo)體公司,如英特爾、高通等,都可以與領(lǐng)先的企業(yè)英偉達(dá)相媲美。
雖然OpenAI的基本工資沒有那么豐厚,但作為一個沒有上市的創(chuàng)業(yè)團隊,每年向高級工程師提供的價值數(shù)百萬美元的股權(quán)更有吸引力。
由于這些因素的疊加,加上CEO奧特曼本人親自參與了大部分招聘工作,OpenAI招聘的人才質(zhì)量令人驚嘆。
GPT-4o和Sora模型發(fā)布的時候,團隊成員的背景,能力的強大總是讓網(wǎng)友大吃一驚。
GPT-4o 17人Omni金牌團隊首次揭秘!清北上交6名中國科技大學(xué)領(lǐng)銜
當(dāng)SemiAnalysis的記者向同行詢問這些挖角的TPU人才時,他們總能得到這樣的答案,「她們是我合作過的最好的工程師之一」。
OpenAI之所以看到谷歌的TPU團隊,不僅僅是為了獲得最先進(jìn)的技術(shù)和人才,更是為了商業(yè)競爭。
只有谷歌開發(fā)的TPU才能在硅谷眾多科技巨頭中成功取代英偉達(dá)的芯片,并在公司內(nèi)部部署云服務(wù)。
Meta、雖然亞馬遜和微軟等公司也在自主研發(fā)芯片方面做了很多努力,但仍然嚴(yán)重依賴英偉達(dá)。
AMD、英偉達(dá)等半導(dǎo)體公司在未來相當(dāng)長的一段時間內(nèi)仍將成為OpenAI合作伙伴,因此很容易得罪。
只有面對與生俱來的敵人谷歌,OpenAI才敢如此肆無忌憚地挖角。(即使是新聞發(fā)布會也必須在谷歌I/O大會的前一天召開)
雖然獲得了如此強大的人才隊伍,但芯片研發(fā)仍然需要付出巨大的努力。
預(yù)計OpenAI將于2027年底推出第一代自研芯片。在此之前,他們?nèi)匀煌耆蕾嚿虡I(yè)芯片。
漸漸地,與微軟的關(guān)系變得微妙
OpenAI自主研發(fā)芯片的決定有點混亂。為什么要燒錢自主研發(fā)芯片,依靠微軟的資金和Azure云服務(wù)的強大算率?
實際上,OpenAI和微軟之間的關(guān)系已經(jīng)越來越緊張,畢竟OpenAI對于微軟來說是一個非常奇怪的公司。
現(xiàn)在,它本質(zhì)上仍然是一個完全獨立的非營利組織,OpenAI Nonprofit管理。作為一個沒有投票權(quán)的股東會觀察員,微軟幾乎無法控制OpenAI的發(fā)展趨勢。
如果OpenAI股東因AGI安全問題要求停止協(xié)議,恢復(fù)模型的使用權(quán),微軟只能服從命令,沒有反擊的力量。
AGI從所有商業(yè)和知識產(chǎn)權(quán)許可協(xié)議中分離出來。
董事會決定我們什么時候?qū)崿F(xiàn)AGI。 再次強調(diào),AGI是一個高度自治的系統(tǒng),在有經(jīng)濟效益的工作中優(yōu)于人類的表現(xiàn)。這種系統(tǒng)不包括在與微軟簽署的IP許可和其他商業(yè)條款中。這些條款只適用于以前的AGI技術(shù)。
所以,雙方都在實施自己的目標(biāo)?!该撱^」計劃。
在芯片和算率方面,OpenAI需要逐步分開,微軟正試圖減少對OpenAI模型的依賴。
比如最近微軟投資Inflection AI,并組建自己的團隊開發(fā)Phi-3、MAI-一等模型,都是出于這方面的考慮。
當(dāng)前,許多企業(yè)客戶使用OpenAI技術(shù),包括財富500強企業(yè),擁有超過65%的財富。
微軟希望擁有自主研發(fā)的GPT-4級LLM,以及一系列滿足不同用戶需求的模型,以確保OpenAI在Azure的推理服務(wù)中被替換。
對于OpenAI來說,購買英偉達(dá)芯片并不是最好的選擇,因為它想在計算率上自給自足。因此,自研芯片似乎是唯一的出路。
實際上,不僅僅是OpenAI,Meta、同時,微軟、谷歌、亞馬遜等公司也在大力投資,開發(fā)自己的AI加速器。
在英偉達(dá)最大用戶的同時,這些AI巨頭也成為了最強大的競爭對手。

歸根結(jié)底,在模型訓(xùn)練過程中,計算率已成為最大的支出。若能夠?qū)①徺I芯片資金轉(zhuǎn)化為內(nèi)部投資,以制造成本部署GPU或TPU,模型成本也將大大降低。
參考資料:
https://www.semianalysis.com/p/openai-chip-team-is-now-serious
https://www.wevolver.com/article/tpu-vs-gpu-in-ai-a-comprehensive-guide-to-their-roles-and-impact-on-artificial-intelligence
本文來自微信微信官方賬號“新智元”(ID:AI_era),作者:新智元,36氪經(jīng)授權(quán)發(fā)布。
本文僅代表作者觀點,版權(quán)歸原創(chuàng)者所有,如需轉(zhuǎn)載請在文中注明來源及作者名字。
免責(zé)聲明:本文系轉(zhuǎn)載編輯文章,僅作分享之用。如分享內(nèi)容、圖片侵犯到您的版權(quán)或非授權(quán)發(fā)布,請及時與我們聯(lián)系進(jìn)行審核處理或刪除,您可以發(fā)送材料至郵箱:service@tojoy.com




