原標題:真大神!利用一部手機,成功實現 “跨界” 複製貼上 ,這位設計師把 AR 玩出了新花樣!
聰明的人確實是可以做很多事的。
近日,一位身兼數職的斜槓青年 Cyril Diagne 設計了一個複製貼上的工具,只要你擁有一個支援 AR 功能的智慧手機,在手機上預裝這款名為 AR Cut & Paste 的工具,然後拍下你想複製的東西,便可將影象複製貼上進 Photoshop。
這裡是影片連結:http://t。cn/A6A6NL1q 。
正如上面幾張圖片所示,這款工具什麼都可以一鍵複製,設計師們再也不用擔心素材不夠用了!不過,目前該工具的剪下延遲大約為 2。5 秒,貼上延遲大約為 4 秒,流程還可以進一步加速。
令人期待的是,作者還給大家留了一個小驚喜:下週將會發布另一個 AI+UX 原型!
平面設計師的福音
也許是設計師出身的緣故, Cyril Diagne 總是有很多出人意料的想法。
比如,他曾經研究出一種人臉塗鴉工具,藉助 Tensorflow。js、FaceMesh 和 Three。js 即可在網頁瀏覽器上使用 AR 對臉部進行塗鴉。
還有一款可在 Instagram 個人主頁影象上新增 3D 效果的 chrome 擴充套件程式,效果生成類似於 Facebook 3D 照片功能,讓 2D 照片也能呈現多角度的景象。
那麼,這款工具又是如何實現將現實照片直接複製進 Photoshop 的呢?
據作者上傳到 github 的資料顯示,AR Cut & Paste 工具是一個 AR+ML 原型(prototype),它可以從周圍環境中複製固定物件,並貼上在影象編輯軟體中(Photoshop)。不過,這款工具目前只適用於 Photoshop 軟體,未來可能支援處理不同的輸出。
該原型作為 3 個獨立模組執行:即移動應用、本地伺服器和顯著性檢測和背景去除服務。
具體使用方法如下:
首先,你需要在手機上預裝這款工具;
npm install
其次,你需要更新一下 IP 地址,並指向你的本地配置;
3: const URL = “http://192。168。1。29:8080”;
最後,顯著目標檢測和背景移除由外部服務執行(即 BASNet 技術)。
curl https://download。pytorch。org/models/resnet34-333f7ec4。pth -o resnet34-333f7ec4。pt
docker build -t basnet 。
docker run ——rm -p 8080:8080 basnet
BASNet 是什麼?
BASNet 是一種關於邊界的顯著性檢測,其聚合了多層深度特徵的網路,它更關注整個影象的全域性對比度上,而不是區域性或畫素特徵,所以,相比其他的顯著性檢測方法,能夠大大減少誤差。
在架構上,主要分為兩個模組:
圖自:BASNet : Boundary-Aware Salient Object Detection 論文
預測模組:設計成編解碼網路,因為這種結構能同時捕獲高層次的全域性上下文和低層次的細節。編碼器有一個輸入卷積層和由基本res塊組織稱的六部分。為了更進一步捕捉全域性資訊,在編碼器和解碼器之間加了一個橋接塊,包含三個卷積層。解碼器與編碼器基本對稱,每個階段的輸入是解碼器的前一階段的上取樣和編碼器相應階段輸出的級聯。取最後一層精度最高的圖作為預測模組的輸出。
最佳化模組:透過殘差塊最佳化粗糙的顯著圖。粗糙包括:1)模糊有噪聲的邊界;2)不均勻預測的區域機率。實際的粗糙預測圖兩種都包含。殘差最佳化模組最初被提出用來用於邊界最佳化,然而,由於設計的模組很淺,難以捕獲高階資訊進行最佳化。RRM採用殘差編解碼器架構,包含輸入層,編碼器,橋接層,解碼器和輸出層,編碼器和解碼器包含4個階段,每個階段只有一個卷積層。
總的損失等於每個輸出圖的損失的加權和。共有 8 個輸出,7 個來自預測模組,1 個來自最佳化模組。
每層的損失包括三個部分:BCE loss、SSIM loss 和 IoU loss。
這樣一來,就能獲得高置信度顯著圖和清晰邊界。
然後,利用 OpenCV SIFT 找出手機在電腦螢幕上對準的位置。只需要一張手機照片和截圖,就可以得到準確的 x, y 螢幕座標系。
這就是這款軟體的全部使用細節及技術細節,感興趣的童鞋可以自己輸入程式碼嘗試下。
需要注意的是,該設計的作者也表示,目前這只是一個研究原型,但根據 Diagne 影片的回覆,似乎已經有數家公司在開發類似的軟體。相信在不久的將來你可能會在應用商店看到類似的工具。
而這項設計的深遠意義則在於它巧妙地顛倒了通常的增強現實正規化,不是將數字影象投射到物理世界,而是將物理世界帶入數字世界。
參考來源:
[1]https://www。hindustantimes。com/tech/googler-shows-the-future-of-copy-and-paste-functionality-using-augmented-reality/story-bUw5GUnfRatsYoK5C0FlSL。html
[2]https://github。com/cyrildiagne/ar-cutpaste
[3]https://www。theverge。com/2020/5/4/21246386/augmented-reality-ar-copy-cut-paste-real-world-photoshop-demo
[4]http://openaccess。thecvf。com/content_CVPR_2019/papers/Qin_BASNet_Boundary-Aware_Salient_Object_Detection_CVPR_2019_paper。pdf