亚洲欧美日韩熟女|做爱高潮视频网址|国产一区二区三级片|国产Av中文字幕www.性色av|亚洲婷婷永久免费|国产高清中文字幕|欧美变态网站久re视频精品|人妻AV鲁丝第一页|天堂AV一区二区在线观看|综合 91在线精品

奧特曼百萬(wàn)年薪挖角谷歌TPU人才,想砸7萬(wàn)億實(shí)現(xiàn)?!感酒杂伞??

2024-06-12

【新智元導(dǎo)讀】OpenAI 自主研發(fā)芯片的計(jì)劃最終看到了實(shí)質(zhì)性的進(jìn)展。依據(jù) SemiAnalysis 最近的一篇文章,他們正在從谷歌開(kāi)始。 TPU 團(tuán)隊(duì)招聘人才,擴(kuò)大自己的芯片研發(fā)團(tuán)隊(duì)。


OpenAI 關(guān)于芯片的欲望傳聞已經(jīng)很久了。


近幾年見(jiàn)證了 PC 和 AI 經(jīng)過(guò)兩次重大的半導(dǎo)體供應(yīng)危機(jī),Sam Altman 傳統(tǒng)芯片制造商如臺(tái)積電、三星代工和英特爾代工似乎沒(méi)有足夠的生產(chǎn)能力,無(wú)法滿足全球的需求。 AI 需要快速增長(zhǎng)的芯片。


不單單是 OpenAI 為了減少對(duì)英偉達(dá)芯片的依賴,奧特曼甚至希望建造更多的晶圓廠,能夠穩(wěn)定地供應(yīng)給其他公司。


據(jù)華爾街日?qǐng)?bào)報(bào)道,今年 2 月亮,奧特曼會(huì)見(jiàn)軟銀 CEO 與臺(tái)積電的談判代表,探討合資事宜,計(jì)劃在未來(lái)幾年內(nèi)共同建設(shè)和運(yùn)營(yíng)數(shù)十家芯片制造廠。


TSMC 新建工廠位于亞利桑那州


不過(guò),造芯片要燒的錢(qián)比訓(xùn)練大模型要少,不會(huì)多。


據(jù)奧特曼個(gè)人估計(jì),建造新型半導(dǎo)體制造設(shè)備及相關(guān)基礎(chǔ)設(shè)施的成本可能高達(dá) 5-7 億美元。


因?yàn)閭鹘y(tǒng)的私人風(fēng)險(xiǎn)投資很難一下子花這么多錢(qián),奧特曼曾經(jīng)去美國(guó)商務(wù)部長(zhǎng)那里討論,甚至去新加坡和阿聯(lián)酋見(jiàn)當(dāng)?shù)毓賳T,尋求國(guó)有資產(chǎn)的支持。


經(jīng)過(guò)半年多的規(guī)劃和發(fā)醇,OpenAI 芯片工作似乎真的要開(kāi)始了!


谷歌,芯片人才大戰(zhàn) vs. OpenAI


據(jù) SemiAnalysis 最新報(bào)道,OpenAI 近期開(kāi)始大規(guī)模招募,計(jì)劃將只有少數(shù)人的芯片團(tuán)隊(duì)擴(kuò)展到數(shù)十人。


而且,他們延續(xù)了一貫的招聘策略——挖角谷歌。


最近招聘的絕大多數(shù)研究人員,都是谷歌現(xiàn)任或前任。 TPU 團(tuán)隊(duì)人員。


與最初設(shè)計(jì)的圖像處理和實(shí)時(shí)渲染不同 GPU,TPU 這是谷歌從零開(kāi)始設(shè)計(jì)的,專門(mén)用來(lái)加快機(jī)器學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)的計(jì)算,能更好地解決張量計(jì)算問(wèn)題。


GPU 以 ALU(高級(jí)算術(shù)邏輯單元)是核心部件, TPU 矩陣乘法器模塊的核心是(MXU),矩陣乘法和積累可以以高吞吐量進(jìn)行。


谷歌 TPUv4


盡管 TPU 任務(wù)的實(shí)用性不如 GPU,特別是沒(méi)有 CUDA 這類(lèi)編程界面,但在計(jì)算性能和能源效率方面表現(xiàn)良好,尤其是那些經(jīng)過(guò)谷歌團(tuán)隊(duì)特別優(yōu)化的任務(wù)。


所以可以說(shuō),TPU 這是世界性能 /TCO最好的機(jī)器學(xué)習(xí)基礎(chǔ)設(shè)施(總體成本)。


盡管谷歌的 TPU 雖然取得了如此高的成就, OpenAI 在許多方面,芯片團(tuán)隊(duì)的工作機(jī)會(huì)仍然具有吸引力。


第一,大公司和創(chuàng)業(yè)公司在發(fā)展速度世界上的本質(zhì)差異。


TPU 第一次發(fā)布是在那里 2013 年,到今年 5 月亮最新推出 TPUv6,團(tuán)隊(duì)有十多年的發(fā)展經(jīng)驗(yàn)。珠玉在前面,系統(tǒng)設(shè)計(jì)和微結(jié)構(gòu)很難有很大的變化,更多的是迭代和漸進(jìn)的改進(jìn)。


加入 OpenAI 然而,在重新設(shè)計(jì)、重新開(kāi)發(fā)的過(guò)程中,成員們有機(jī)會(huì)嘗試更加創(chuàng)新和激進(jìn)的方法。


并且 OpenAI 一向雄心勃勃,他們的目標(biāo)是建立一個(gè)由數(shù)百萬(wàn)個(gè)加速器組成的系統(tǒng),這比較 GPT-4 還有幾個(gè)量級(jí)的練習(xí)。


此外,團(tuán)隊(duì)合作模式還有很大的不同。


雖然谷歌在尾大不了, TPU 團(tuán)隊(duì)也會(huì)和 DeepMind 合作,但是仍然會(huì)遇到很多非技術(shù)障礙。


相比之下,OpenAI 內(nèi)部芯片與模型團(tuán)隊(duì)之間,溝通與合作將更加緊密順暢。


除此之外,還有薪資的差別。


事實(shí)上,Google TPU 在半導(dǎo)體設(shè)計(jì)領(lǐng)域,團(tuán)隊(duì)已成為工資最高的團(tuán)隊(duì)之一,工程師的平均收入遠(yuǎn)遠(yuǎn)高于 AMD、大多數(shù)半導(dǎo)體公司,如英特爾、高通等,都可以與領(lǐng)先的企業(yè)英偉達(dá)相媲美。


OpenAI 雖然基本工資并不豐厚,但作為一個(gè)未上市的創(chuàng)業(yè)團(tuán)隊(duì),每年向高級(jí)工程師提供的價(jià)值數(shù)百萬(wàn)美元的股權(quán)更具吸引力。


加上這些因素的疊加, CEO 奧特曼本人親自參加了大部分的招聘工作,OpenAI 招募的人才質(zhì)量令人驚嘆。


GPT-4o 和 Sora 在模型發(fā)布的時(shí)候,團(tuán)隊(duì)成員的背景,能力的強(qiáng)大總是讓網(wǎng)友大吃一驚。


GPT-4o 17 人 Omni 金牌隊(duì)首揭秘!清北上交中科大 6 位華人領(lǐng)銜


SemiAnalysis 記者向同行詢問(wèn)了這些挖角的人。 TPU 有才華的時(shí)候,總能得到這樣的答案,「她們是我合作過(guò)的最好的工程師之一」。


OpenAI 為什么要看谷歌? TPU 團(tuán)隊(duì)不僅希望獲得最先進(jìn)的技術(shù)和人才,而且在商業(yè)競(jìng)爭(zhēng)中也有考慮。


只有谷歌開(kāi)發(fā)的在硅谷的眾多科技巨頭中 TPU 可以成功地替代英偉達(dá)的芯片,并在公司內(nèi)部部署云服務(wù)。


Meta、雖然亞馬遜和微軟等公司也在自主研發(fā)芯片方面做了很多努力,但仍然嚴(yán)重依賴英偉達(dá)。


將來(lái)很長(zhǎng)一段時(shí)間,AMD 像英偉達(dá)這樣的半導(dǎo)體公司仍將是 OpenAI 合作伙伴,所以很容易得罪。


只有面對(duì)與生俱來(lái)的死敵谷歌,OpenAI 敢于如此肆無(wú)忌憚地挖角。(甚至連發(fā)布會(huì)都要搶谷歌。 I/O 會(huì)議前一天召開(kāi))


雖然獲得了如此強(qiáng)大的人才隊(duì)伍,但芯片研發(fā)仍然需要付出巨大的努力。


預(yù)估需到 2027 年末,OpenAI 可以推出第一代自研芯片。在此之前,他們?nèi)匀煌耆蕾嚿虡I(yè)芯片。


漸漸地,與微軟的關(guān)系變得微妙


OpenAI 自研芯片的決定有些令人摸不著頭腦。背靠微軟的資金和 Azure 云服務(wù)的強(qiáng)大算率,為什么要燒錢(qián)自研芯片?


事實(shí)上,OpenAI 和微軟的關(guān)系已經(jīng)越來(lái)越緊張了,畢竟對(duì)微軟來(lái)說(shuō),OpenAI 這是一家結(jié)構(gòu)很奇怪的公司。


現(xiàn)在,它本質(zhì)上仍然是一個(gè)完全獨(dú)立的非營(yíng)利組織, OpenAI Nonprofit 管理。作為一個(gè)沒(méi)有投票權(quán)的股東大會(huì)觀察員,微軟幾乎無(wú)法控制。 OpenAI 發(fā)展方向。


如果因?yàn)?AGI 安全問(wèn)題,OpenAI 股東大會(huì)要求中止協(xié)議,收回模型使用權(quán),微軟只能乖乖聽(tīng)命,沒(méi)有還手之力。


AGI 從商業(yè)和知識(shí)產(chǎn)權(quán)許可協(xié)議中分離出來(lái)。


董事會(huì)決定什么時(shí)候?qū)崿F(xiàn)? AGI。 再次強(qiáng)調(diào),AGI 它指的是一個(gè)高度自治的系統(tǒng),在有經(jīng)濟(jì)效益的工作中優(yōu)于人類(lèi)的表現(xiàn)。這種系統(tǒng)不包括在與微軟簽署的系統(tǒng)中。 IP 這些條款只適用于許可和其他商業(yè)條款。 AGI 以前的技術(shù)。


所以,雙方都在實(shí)施自己的目標(biāo)?!该撱^」計(jì)劃。


OpenAI 在芯片和計(jì)算率方面需要逐步分開(kāi),微軟正在努力減少。 OpenAI 依賴模型。


比如最近微軟的投資 Inflection AI,并組建自己的團(tuán)隊(duì)開(kāi)發(fā)團(tuán)隊(duì) Phi-3、MAI-1 等待模型,都是出于這方面的考慮。


當(dāng)前,許多企業(yè)客戶通過(guò) Azure 使用 OpenAI 技術(shù),包括超越 65% 的《財(cái)富》500 強(qiáng)公司。


希望微軟能擁有自研 GPT-4 等級(jí) LLM,以及一系列滿足不同用戶需求的模型,保證在 Azure 更換推理服務(wù) OpenAI。


對(duì)于 OpenAI 因此,要想在計(jì)算率上自給自足,購(gòu)買(mǎi)英偉達(dá)芯片的成本太高,并非最佳選擇。所以,自研芯片似乎是唯一的出路。


實(shí)際上,不只是 OpenAI,Meta、同時(shí),微軟、谷歌、亞馬遜等公司也在大力投資,開(kāi)發(fā)自己的 AI 加速器。


這些 AI 在成為英偉達(dá)最大用戶的同時(shí),巨頭也成為了最強(qiáng)大的競(jìng)爭(zhēng)對(duì)手。


畢竟,在模型訓(xùn)練的過(guò)程中,計(jì)算率已經(jīng)成為最大的支出。如果購(gòu)買(mǎi)芯片的資金可以轉(zhuǎn)化為內(nèi)部投資,就可以制造成本部署 GPU 或 TPU,模型的成本也會(huì)大大降低。


本文僅代表作者觀點(diǎn),版權(quán)歸原創(chuàng)者所有,如需轉(zhuǎn)載請(qǐng)?jiān)谖闹凶⒚鱽?lái)源及作者名字。

免責(zé)聲明:本文系轉(zhuǎn)載編輯文章,僅作分享之用。如分享內(nèi)容、圖片侵犯到您的版權(quán)或非授權(quán)發(fā)布,請(qǐng)及時(shí)與我們聯(lián)系進(jìn)行審核處理或刪除,您可以發(fā)送材料至郵箱:service@tojoy.com