3D模型+AIGC,vivo移動影像的下一步棋
進入 2023 年下半年,智能手機市場在影像上的軍備競賽有增無減。更大面積的傳感器、光學防抖、全焦距的焦段覆蓋,正在成為高端智能手機的標配,也有著逐漸普及的趨勢。
然而智能手機畢竟是一種大眾消費品,重量和體積都會制約影像配置的無限增長。而在消費者端,用戶往往對于影像原理不甚了解。因此就需要廠商不斷在軟件、算法層面,去解決實際的問題。
7 月底,vivo 首次向外界展示了其位于重慶工廠的 3D 影像實驗室,并宣布相關(guān)技術(shù)將會率先應(yīng)用在下一代 X 系列旗艦手機上。
vivo 3D 影像實驗室,主要是由 100 余臺單反相機,配合閃光燈、處理器、控制器和服務(wù)器所組成。通過采集大量的人體軀干、面部信息,最終實現(xiàn)對于智能手機人像拍攝的提高。
采集人體信息時,vivo 3D 影像實驗室會同時調(diào)動 100 多臺單反相機,從不同的角度進行拍攝,生成 100 余張 2D 圖片,隨后通過局域網(wǎng)上傳至存儲服務(wù)器,再通過 2D 圖片進行 3D 匹配,生成 3D 模型。
基于生成的 3D 模型,vivo 可以實現(xiàn)對于算法的訓練,提升人像模式下,模擬背景虛化的精確性。據(jù) vivo 工作人員介紹,預計每年將會有上萬組 3D 人像模型。
傳統(tǒng)的智能手機人像虛化算法,往往是在 2D 層面,判斷人的輪廓來實現(xiàn)虛化,不具備 3D 層面的深度信息,因此主體與背景之間往往會過渡的比較生硬," 摳 " 出來的背景也會缺少層次。
通過大量的 3D 模型進行預訓練,vivo 的算法可以變得更加智能,智能手機可以更好的判斷人的縱深信息,使得虛化更具有漸進感也更加細膩。
此外 3D 模型加入之后,智能手機的人像虛化算法應(yīng)用范圍可以進一步擴大。目前人像虛化算法由于缺乏深度方向的信息,只能拍攝全身像或是半身像,未來則可以近距離貼臉拍攝眼睛的特寫虛化畫面。
在 3D 模型之外,vivo 有一套 " 重打光 " 的設(shè)備。由 96 個可編程的同步光源搭配 vivo 的工業(yè)相機。與拍照工作站以及服務(wù)器共同組成,可以模擬不同光照條件下的成像圖片,為自研人像算法做數(shù)據(jù)支撐,促進 3D 重建和 3D 算法方面的開發(fā)和預研,提升手機上的算法效果。
例如在加入重打光技術(shù)后,vivo 手機可以對前期拍攝到的 " 逆光黑臉 " 進行高精度補光,甚至是調(diào)整光線的冷暖色溫。生成式人像編輯則能通過紋理重建與光照估計算法等技術(shù),讓用戶基于自身喜好對光照、年齡、發(fā)型、表情等內(nèi)容進行重新編輯。
基于人像 3D 重建感知能力,vivo 還可以疊加 AIGC 算法,通過 vivo 手機即可拍攝出虛擬與實景結(jié)合更為自然的照片,實現(xiàn) " 足不出戶拍出四季人像大片 " 的人性化體驗。
在此之外,3D 影像的相關(guān)技術(shù)可以應(yīng)用在如今火爆的 3D 虛擬人應(yīng)用上。包括抖音上比較火的 3D 數(shù)字人直播、3D 表情驅(qū)動、3D 的虛擬場景編輯以及相應(yīng)的一個動畫制作。
此外還有基于 3D 影像衍生的 3D 換裝應(yīng)用,可以根據(jù)采集者的人體模型,在虛擬場景內(nèi)實現(xiàn)足球游戲,目前在 vivo 手機和平板電腦上已經(jīng)可以進行演示。
vivo 3D 影像實驗室于 2022 年下半年組建,全球共有 7 個實驗室。預期 2023 年下半年到 2024 年將會采集幾萬組數(shù)據(jù)。這些高質(zhì)量的數(shù)據(jù)未來將會與 vivo 全球的用戶一起組建兼顧質(zhì)量和數(shù)量的龐大數(shù)據(jù)庫。據(jù) vivo 工作人員介紹,相關(guān)技術(shù)落地,將會在 vivo X 系列的下一代產(chǎn)品上率先應(yīng)用。
鈦媒體 App 了解到,類似 vivo 這種通過大量采集數(shù)據(jù),建立數(shù)據(jù)庫以優(yōu)化算法的實驗室,在傳統(tǒng)相機領(lǐng)域早已有之,但 vivo 應(yīng)該是通過 3D 模型實現(xiàn)多重優(yōu)化以及 AIGC 相關(guān)應(yīng)用的第一家智能手機廠商。
某種意義上,自建影像實驗室標志著 vivo 在影像領(lǐng)域的研究進入了深水區(qū),而能夠借助 AI 的東風,擴展智能手機影像的邊界,則是 vivo 探索出來的一條創(chuàng)新之路,也許會開拓出智能手機影像的全新方向。
本文僅代表作者觀點,版權(quán)歸原創(chuàng)者所有,如需轉(zhuǎn)載請在文中注明來源及作者名字。
免責聲明:本文系轉(zhuǎn)載編輯文章,僅作分享之用。如分享內(nèi)容、圖片侵犯到您的版權(quán)或非授權(quán)發(fā)布,請及時與我們聯(lián)系進行審核處理或刪除,您可以發(fā)送材料至郵箱:service@tojoy.com