一雪前恥!谷歌云怒推新 AI TPU、接入Meta大模型、工作助手
谷歌“掉隊(duì)了”,在新的 AI 浪潮下,這家硅谷巨頭從引領(lǐng)者變成了追隨者。
搜索巨頭顯然已經(jīng)開(kāi)始反攻,今年 5 月的 I/O 大會(huì)上,谷歌就亮出了接入 AI 的“谷歌全家桶”。而真正要反超對(duì)手,谷歌最大的戰(zhàn)場(chǎng)可能是云計(jì)算。
當(dāng)?shù)貢r(shí)間 8 月 29 日,谷歌云在舊金山舉行的 Next '23 大會(huì)上宣布了一系列產(chǎn)品更新,包括針對(duì) AI 基礎(chǔ)設(shè)施的改進(jìn)、更強(qiáng)大的 Vertex AI 平臺(tái)、以及 Duet AI 協(xié)作工具等創(chuàng)新。同時(shí),Vertex AI 平臺(tái)甚至引入了 Meta 和 Anthropic 等對(duì)手公司的重要模型,以供開(kāi)發(fā)者選擇。
據(jù)谷歌云首席執(zhí)行官 Thomas Kurian 稱,目前行業(yè)中超 50% 的 AI 初創(chuàng)公司、超過(guò) 70% 的生成式 AI 獨(dú)角獸都是谷歌云的客戶,其中包括 AI21、Anthropic、Cohere、Jasper、MosaicML、Replit、Runway 和 Typeface。谷歌云還宣布與通用汽車等公司建立新的合作。作為“萬(wàn)年老三”,谷歌云計(jì)算在 AI 上嘗試彎道超車。
一、更具效率的AI新基礎(chǔ)設(shè)施
在大會(huì)上,谷歌云發(fā)布了生成式 AI 關(guān)鍵的基礎(chǔ)設(shè)施進(jìn)展,其中包括 Cloud TPUv5e、搭載英偉達(dá) H100 GPU 的 A3 VM、GKE 企業(yè)版本、跨云網(wǎng)絡(luò)以及谷歌分布式云 GDC。
谷歌云首席執(zhí)行官 Thomas Kurian 稱,Cloud TPUv5e 是谷歌云迄今為止最經(jīng)濟(jì)、最多性和可擴(kuò)展性的專用 AI 加速器。用戶現(xiàn)在可以使用單一的 Cloud TPU 平臺(tái)來(lái)運(yùn)行大規(guī)模的 AI 訓(xùn)練和推理。
與上一代相比,TPUv5e 承諾每美元的訓(xùn)練性能提高了 2 倍,每美元的推理性能也提高了 2 倍甚至更多。谷歌云高管稱其為“迄今為止最具成本效益和易于使用的云 TPU?!?/span>
除了下一代 TPUs,谷歌云宣布,由英偉達(dá) H100 GPU 提供動(dòng)力的 A3 VM 將于下個(gè)月正式推出,能夠在之前一代 A2 上提供三倍的訓(xùn)練性能。
谷歌云還發(fā)布了 GKE 企業(yè)版本,使最具挑戰(zhàn)性的、關(guān)鍵任務(wù)的 AI/ML 工作負(fù)載所需的多集群橫向擴(kuò)展成為可能。據(jù) Thomas Kurian 稱,用戶已經(jīng)看到了 45% 的生產(chǎn)率提升,同時(shí)減少了 70% 以上的軟件部署時(shí)間,GKE 帶來(lái)的好處包括自動(dòng)擴(kuò)展、工作負(fù)載編排,可以與 Cloud TPU v5e 一起使用。
鑒于現(xiàn)在大多數(shù)大型企業(yè)采用多個(gè)云服務(wù)提供商,谷歌云發(fā)布了跨云網(wǎng)絡(luò)平臺(tái),旨在幫助用戶在云中連接和保護(hù)應(yīng)用程序,提供基于 ML 的零信任安全套件的支持。據(jù)稱,相較于不通過(guò)谷歌網(wǎng)絡(luò)傳輸流量的情況,使用跨云網(wǎng)絡(luò)可將網(wǎng)絡(luò)延遲降低 35%,成本降低 40%。
最后,在 Google 分布式云(GDC)方面,谷歌云正在增強(qiáng) GDC 產(chǎn)品組合,以在邊緣引入 AI,其中包括 Vertex AI 集成和 GDC Hosted 上的 AlloyDB Omni 的新托管版本。
二、“接入對(duì)手”的 Vertex AI 平臺(tái)
除了基礎(chǔ)設(shè)施更新,谷歌云還改進(jìn)了它的綜合 AI 平臺(tái) Vertex AI,該平臺(tái)讓用戶能夠構(gòu)建、部署和擴(kuò)展機(jī)器學(xué)習(xí)模型。
谷歌云首席執(zhí)行官 Thomas Kurian 稱其為“最全面的 AI 平臺(tái)”,并指出今年 4 月到 7 月,谷歌云的生成式 AI 客戶項(xiàng)目的數(shù)量增長(zhǎng)了 150 多倍,客戶可以訪問(wèn) 100 多個(gè)基礎(chǔ)模型,包括第三方和流行的開(kāi)源版本,以及面向行業(yè)的特定模型,如網(wǎng)絡(luò)安全和醫(yī)療等。
在大會(huì)上,谷歌云宣布 Vertex AI Search 和 Conversation 現(xiàn)在已普遍可用,這個(gè)工具使用戶能夠在幾分鐘內(nèi),使用自己的數(shù)據(jù)創(chuàng)建搜索和聊天應(yīng)用程序。
Vertex AI 的生成式 AI Studio 為用戶提供了調(diào)整和自定義模型的工具,包括 Text Embeddings API,該 API 允許開(kāi)發(fā)者基于對(duì)文本或圖像的語(yǔ)義理解構(gòu)建復(fù)雜的應(yīng)用程序,并通過(guò)強(qiáng)化學(xué)習(xí),深度定制和改進(jìn)模型性能。
Vertex AI 平臺(tái)還宣布推出了幾個(gè)新模型和工具,包括將 PaLM 2 升級(jí)到 32000 個(gè)上下文窗口(相當(dāng)于約 25000 個(gè)單詞,大約 80 頁(yè)雙倍行距的文本),以便企業(yè)可以輕松處理更長(zhǎng)的文檔,如研究論文和書(shū)籍。此外,他們還將提高 Imagen 的視覺(jué)吸引力,并在 Codey 中支持新語(yǔ)言。
在工具方面,對(duì)于 PaLM 2 和 Codey,谷歌云正面向市場(chǎng)提供適配器調(diào)整,并引入一種名為 Style Tuning 的新方法,以便企業(yè)可以使用少量參考圖像創(chuàng)建符合品牌需求的圖像。
在新模型方面,谷歌云宣布來(lái)自 Meta 的 Llama 2,和 Code Llama 已經(jīng)可供云客戶使用,還有 Technology Innovative Institute 的 Falcon LLM(一款熱門(mén)的開(kāi)源模型)以及 Anthropic 的 Claude 2 聊天機(jī)器人。對(duì)于 Llama 2,谷歌云將成為唯一提供適配器調(diào)整和 RLHF 的云服務(wù)提供商。
在 Vertex AI 擴(kuò)展方面,開(kāi)發(fā)人員可以訪問(wèn)、構(gòu)建和管理擴(kuò)展,提供實(shí)時(shí)信息,整合公司數(shù)據(jù),并代表用戶執(zhí)行操作,這為生成式 AI 應(yīng)用程序提供了新的可能性。
另外一個(gè)值得注意的更新是,谷歌發(fā)布了 Vertex AI 上的數(shù)字水印技術(shù),可以將數(shù)字水印嵌入到像素圖像中,對(duì)人眼來(lái)不可見(jiàn),難以篡改,用于負(fù)責(zé)任地創(chuàng)建和識(shí)別由 AI 生成的圖像。
谷歌云自稱是第一家為 AI 生成圖像提供此技術(shù)的超大規(guī)模云服務(wù)提供商,但它并不是第一家推出數(shù)字水印工具的科技公司。
今年 5 月,微軟承諾使用“加密方法”為 AI 生成的圖像和視頻添加水印,生成 AI 初創(chuàng)公司 Midjourney 也采用了相關(guān)指南,在生成 AI 創(chuàng)建的內(nèi)容中嵌入標(biāo)記,OpenAI 的 DALL-E 2 也會(huì)在生成的圖像右下角插入一個(gè)小水印。
谷歌云的數(shù)字水印工具與谷歌 DeepMind 合作推出,目前處于測(cè)試階段,只對(duì) Google Vertex AI 的部分用戶開(kāi)放,而且只支持由谷歌自家的圖像生成模型創(chuàng)建的圖像。根據(jù) DeepMind 的說(shuō)法,能夠識(shí)別 AI 生成的內(nèi)容對(duì)于防止虛假信息的傳播至關(guān)重要,該數(shù)字水印工具“并不是絕對(duì)可靠的,但它提供了一個(gè)有希望的技術(shù)途徑,可以幫助人們和組織負(fù)責(zé)任地處理 AI 生成的內(nèi)容。”
此外,據(jù)谷歌云首席執(zhí)行官 Thomas Kurian 稱,當(dāng)用戶使用 Vertex AI 自定義和訓(xùn)練模型時(shí),包括來(lái)自 SaaS 應(yīng)用程序、數(shù)據(jù)庫(kù)或其他專有源的私有文檔和數(shù)據(jù),這些數(shù)據(jù)不會(huì)暴露給基礎(chǔ)模型,用戶的提示和數(shù)據(jù)不會(huì)用于改善他們的模型,也不會(huì)被其他客戶訪問(wèn)。
三、更多功能的 Duet AI
Duet AI 是一款在線 AI 協(xié)作工具,于 5 月的 I/O 大會(huì)首次亮相,當(dāng)時(shí)他們展示了它的各種功能。自那以來(lái),谷歌一直在擴(kuò)展其功能,并將其整合到谷歌 Workspace 和谷歌云的各種產(chǎn)品和服務(wù)中。
首先是 Workspace,據(jù)稱已經(jīng)有 30 多億的用戶和 1000 多萬(wàn)的付費(fèi)客戶。Duet AI 為 Workspace 增加了許多功能,包括在 Gmail 和 Google Docs 中幫用戶編寫(xiě)和改進(jìn)內(nèi)容,在 Google Slides 中創(chuàng)建原始圖像,以及將數(shù)據(jù)轉(zhuǎn)化為 Google Sheets 中的見(jiàn)解等。
據(jù)谷歌云首席執(zhí)行官 Thomas Kurian 稱,自 Duet AI 發(fā)布以來(lái),成千上萬(wàn)家公司和超過(guò) 100 萬(wàn)測(cè)試人員已經(jīng)用過(guò)它。在 Next '23 大會(huì)上,谷歌云還宣布了 Duet AI 一些新的增強(qiáng)功能。
首先是 Google Meet 中的 Duet AI,它可以在視頻會(huì)議期間記錄筆記、發(fā)送會(huì)議摘要,還可自動(dòng)將字幕翻譯成 18 種語(yǔ)言。
然后是 Google Chat 中的 Duet AI,用戶將能夠直接與 Duet AI 聊天,詢問(wèn)有關(guān)內(nèi)容的問(wèn)題,獲取在一個(gè)空間中共享的文檔摘要,并跟蹤錯(cuò)過(guò)的對(duì)話。
Google Chat 的產(chǎn)品經(jīng)理形容,這相當(dāng)于讓用戶擁有“一個(gè)具有無(wú)限記憶和驚人記憶力的同事”。
根據(jù)谷歌云的介紹,如果在會(huì)議中遲到,谷歌可以顯示會(huì)議中間摘要,讓人了解前面發(fā)生了什么;在會(huì)議期間,還可以與谷歌的聊天機(jī)器人私下交談,討論會(huì)議細(xì)節(jié);在會(huì)議結(jié)束后,可以保存會(huì)議摘要,以便后續(xù)查看。
此外,用戶甚至可以不用出席一場(chǎng)會(huì)議,讓 Duet AI 代為出席,谷歌可以自動(dòng)生成用戶可能想討論的內(nèi)容。
事實(shí)上,除了谷歌,微軟和 Zoom 已經(jīng)推出了基于自身服務(wù)的 AI 會(huì)議摘要,這類 AI 總結(jié)有效的前提是會(huì)議內(nèi)容清晰,能夠被準(zhǔn)確捕捉,谷歌是否能夠如其宣傳的那樣,真的幫人開(kāi)會(huì),實(shí)際應(yīng)用中 AI 是否會(huì)出錯(cuò),還需要市場(chǎng)進(jìn)一步驗(yàn)證。
除了 Workspace,Duet AI 現(xiàn)在還可以在各種谷歌云產(chǎn)品和服務(wù)中提供 AI 輔助,例如作為編程助手、專家顧問(wèn)、數(shù)據(jù)分析師和安全顧問(wèn)等。Duet AI 在谷歌云上的進(jìn)展涵蓋軟件開(kāi)發(fā)、應(yīng)用程序運(yùn)營(yíng)、數(shù)據(jù)分析、網(wǎng)絡(luò)安全等方方面面。
在軟件開(kāi)發(fā)方面,Duet AI 在整個(gè)軟件開(kāi)發(fā)生命周期中提供專家支持,通過(guò)最小化上下文切換來(lái)幫助開(kāi)發(fā)人員更長(zhǎng)時(shí)間保持流程狀態(tài),從而提高生產(chǎn)力。除了代碼生成,它還可以協(xié)助代碼重構(gòu),通過(guò)簡(jiǎn)單的自然語(yǔ)言提示即可完成。
在應(yīng)用程序和基礎(chǔ)設(shè)施運(yùn)營(yíng)方面,運(yùn)營(yíng)商可以在谷歌云控制臺(tái)的多個(gè)服務(wù)中,使用自然語(yǔ)言與 Duet AI 聊天,以快速檢索有關(guān)基礎(chǔ)設(shè)施配置等信息。
在數(shù)據(jù)分析領(lǐng)域,BigQuery 中的 Duet AI 為編寫(xiě) SQL 查詢和 Python 代碼提供上下文幫助,生成完整的函數(shù)和代碼塊,幫助用戶分析和可視化數(shù)據(jù),并以自然語(yǔ)言解釋 SQL 語(yǔ)句,并可以根據(jù)模式和元數(shù)據(jù)生成建議。
在網(wǎng)絡(luò)安全方面,Duet AI 還將應(yīng)用于安全產(chǎn)品,在 Google Cloud Security Command Center 中提供安全建議,幫助識(shí)別、分類和快速解決漏洞和威脅。
谷歌云還聲明,“數(shù)據(jù)就是你的數(shù)據(jù)”,用戶代碼、輸入到 Duet AI 以及由 Duet AI 生成的建議將不會(huì)用于訓(xùn)練共享模型,也不會(huì)用于開(kāi)發(fā)任何產(chǎn)品。
作為 AI 界的巨頭和云計(jì)算領(lǐng)域的重要玩家,谷歌的身份類似微軟,兩者都既有云計(jì)算“基建”,同時(shí)在 C 端有大量應(yīng)用,可供 AI 落地——兩者的策略,從某種程度上也代表了巨頭公司在這一波 AI 浪潮中的典型動(dòng)作和思考。
例如,在 Vertex AI 平臺(tái),引入 Meta 和 Anthropic 的大語(yǔ)言模型,似乎印證了在 AI 工具平臺(tái)層面,單模型模式一定走不通,而用更開(kāi)放的心態(tài),引入多模型模式,才符合大勢(shì)。Duet AI 在 Google Meet 上的總結(jié)、替代開(kāi)會(huì)等功能,又和釘釘剛剛發(fā)布的“數(shù)字員工”有異曲同工之處,說(shuō)明在辦公 SaaS 領(lǐng)域,AI 落地時(shí)能玩出的花樣還不多,反而可能是更有潛力百花齊放的領(lǐng)域。
本文僅代表作者觀點(diǎn),版權(quán)歸原創(chuàng)者所有,如需轉(zhuǎn)載請(qǐng)?jiān)谖闹凶⒚鱽?lái)源及作者名字。
免責(zé)聲明:本文系轉(zhuǎn)載編輯文章,僅作分享之用。如分享內(nèi)容、圖片侵犯到您的版權(quán)或非授權(quán)發(fā)布,請(qǐng)及時(shí)與我們聯(lián)系進(jìn)行審核處理或刪除,您可以發(fā)送材料至郵箱:service@tojoy.com