用AI摳圖 谷歌新應用讓你成為各大視頻的“主角”
編 | 白鴿智東西3月2日消息,據Tech Crunch報道,今日,谷歌為You Tube添加了一項新的AI功能。即通過構建的卷積神經網絡,讓用戶拍攝視頻時可自動更換視頻背景(摳圖)。據悉,摳圖是一門應用了幾十年的特效技術,不過做起來很費時間,也很復雜。如在拍電影時,導演會讓演員在綠幕前表演,之后使用計算機的數字特效更換綠屏。此前,因計算機在一秒內至少需要計算30次,所以在移動設備上想要更換普通的
2018-03-04 08:30:15
來源:智東西??

編 | 白鴿

智東西3月2日消息,據Tech Crunch報道,今日,谷歌為You Tube添加了一項新的AI功能。即通過構建的卷積神經網絡,讓用戶拍攝視頻時可自動更換視頻背景(摳圖)。

123

據悉,摳圖是一門應用了幾十年的特效技術,不過做起來很費時間,也很復雜。如在拍電影時,導演會讓演員在綠幕前表演,之后使用計算機的數字特效更換綠屏。此前,因計算機在一秒內至少需要計算30次,所以在移動設備上想要更換普通的RGB圖像,也不是很容易。如此可見想要更換視頻背景的難度。

谷歌工程師們則認為這是一個挑戰(zhàn),并為此建立了一個卷積神經網絡結構,使其通過數千張被標記的圖片進行訓練。

image5

通過訓練,該神經網絡可以分辨臉部特征,如眼睛、頭發(fā)、眼鏡、嘴等部位的特點,并將這些特征與其它東西區(qū)分開來。為了做到這一點,谷歌工程師對其進行了一系列的優(yōu)化,從而降低了需要壓縮的數據量。此外,它還將先前的計算結果作為下一步的計算基礎,盡管它看起來有點作弊,但卻可以進一步降低移動設備的負荷。

在研發(fā)該功能中,其具體的任務是制作一個二進制蒙版,以計算從前景到背景進行分離的每一幀視頻所用的時間。其中,實現計算跨幀蒙版的時間的一致性是關鍵點。目前的方法是利用LSTM或 GRU進行計算,但對于移動設備來說,這樣操作是非常昂貴的。而谷歌研究人員則通過將之前計算掩碼作為之后計算掩碼的基礎進行計算,從而保持時間上的一致性,如下圖所示:

image7

(原始幀(左)在其三個顏色通道中分開,并與之前的蒙版連接,并被用作神經網絡的輸入來預測當前幀的蒙版(右))

而在視頻分割過程中,還要實現幀到幀的時間連續(xù)性,同時也要考慮到諸如在拍攝視頻過程中突然出現其他人物,以至于造成時間上不連續(xù)等問題。為訓練其模型適應這些問題,谷歌研究人員通過以下幾點對其進行優(yōu)化:

1、清空之前的蒙版,訓練神經網絡在第一幀和第一個場景人物之間正常工作,并且模擬出了某人出現在相機中的場景。

2、將其轉換為真正的背景蒙版,通過轉換訓練,可使神經網絡將其調整到前一幀蒙版之前。

3、轉換圖像。該功能實現了在相機中進行平滑流暢且快速的圖像轉化。

這樣做的結果就是其神經網絡在移動設備上運行的速度非???,如在iPhone 7上實現了運行速度100+ FBS,在Pixel 2上實現了40+ FBS,并且其更換背景的準確性非常高。

刪除或替換背景工具對用戶來說很具有吸引力,所以該功能的推出對于很多人來說都是一個好消息。想要體驗該功能嗎?遺憾的是,它目前只能讓 YouTube Stories用戶使用該功能。

原文來自:Tech Crunch、Google Blog

最新文章
1
快手電商新增近800個“0元開店”類目,推出多項新商入駐權益
2
快手可靈AI攜手東方衛(wèi)視中秋晚會 打造文化與科技交融的視聽盛宴
3
3i與科沃斯的“全球首款”爭議背后:清潔電器進入創(chuàng)新慢周期?
4
康佳G9Pro新品電視9月23日晚20點正售開啟,多重好禮福利大放送
5
年底新旗艦手機中,一加13將獨家搭載24GB LPDDR5X內存?
6
三大面板企業(yè)國慶將放假,減產應對連跌三月的液晶面板價格?
7
TCL首超三星登頂Mini LED電視出貨榜,中國電視高端化戰(zhàn)略見效?
8
享受以舊換新補貼盛宴之時 也應思考補貼停止后該怎么辦?
9
高通收購英特爾,達成雙贏?
10
高光時刻之后 蘋果今年還可能有這些新品
11
中國智能音頻眼鏡線上最新銷量:華為第一 獨攬60.3%份額
12
iPhone 16 Pro系列首發(fā)翻車:用戶實測觸摸屏失靈
13
中國移動開展公益守護行動推進“數字惠民”
14
容聲516WILL養(yǎng)鮮冰箱領“鮮”上市 打造“果蔬生長莊園”
15
官宣:容聲冰箱牽手養(yǎng)鮮生活大使姜妍,516WILL冰箱同步首發(fā)
16
激光顯示,海信十年劍成
17
洗碗機增長幾近“失速” 認知普及將助力行業(yè)提速
18
小空間投影終級形態(tài)——極米神燈Sunlight來了!全光譜吸頂燈更護眼
19
2024年冷年空調市場總結:規(guī)模下探,結構降級,空調行業(yè)邁入新周期
20
下一代工業(yè)智能終端:重新定義制造業(yè)的未來
關于我們

微信掃一掃,加關注

商務合作
  • QQ:61149512