歡迎關注“創(chuàng)事記”微信訂閱號：sinachuangshiji
文/郭一璞
來源：量子位（ID:QbitAI）
從上海，到北京，每個城市都在搞垃圾分類。
干垃圾、濕垃圾、有害垃圾，豬不能吃、豬能吃、豬吃了會死……你是不是還在為這些垃圾分別是什么而苦惱呢？
要是能自動給垃圾分類就好了。
Alphabet X，就是之前孵化了無人車的Google X，終于造出了垃圾分類機器人。
這些機器人可以把垃圾分類、把分錯類的垃圾放到正確的地方，還能在辦公室里游走撿垃圾。
比如，放錯地方的礦泉水瓶，機器人可以撿起來放到正確的地方去：
放錯地方的易拉罐，也要讓它和別的罐罐在一起：
他們在Alphabet公司的辦公室測試后，發(fā)現(xiàn)這臺機器人可以顯著降低垃圾造成的污染，將本能回收利用卻被送去垃圾填埋場的垃圾占比從20%降到不到5%。
怎么做到的
想讓機器人學會垃圾分類，需要用到感知、移動和操作，借助計算機視覺技術(shù)進行感知以及幫助機器人前行的自動駕駛能力都是業(yè)界熟悉的，但如何學會在復雜環(huán)境中用“手”拉開柜子、打開抽屜、撿走垃圾則是必須要讓機器自行學會的操作。
因此，Alphabet X用到了三個方法來讓機器人學會靈活用“手”。
跟人類學習
第一種是跟人類學習，模仿人類的動作和做法。
這里就用到了Play-LMP算法，它在沒有特定數(shù)據(jù)集訓練的情況下，讓機器人跟人類的演示學習，最終實現(xiàn)平均成功率85.5%。
學出來的成績，大概是這樣的，左邊是任務要求，右邊是執(zhí)行過程：
跟其他機器人學習
和其他機器人學習是通過無模型的強化學習，讓許多個機器人共享經(jīng)驗。
具體的實現(xiàn)方式是這樣的：
讓機器人學習借助門把手開門這個技巧，一起學習的每個機器人都裝了一份神經(jīng)網(wǎng)絡，并且他們每臺機器人都連到了一個中央服務器上。
每個機器人開始對著這個門和門把手琢磨，摸索著考慮怎么開。
這個過程中，每個機器人每一步的行動和結(jié)果都被傳輸?shù)奖澈蟮闹醒敕掌魃?，中央服務器里的神?jīng)網(wǎng)絡就開始借助這些傳輸來的經(jīng)驗，迭代改進神經(jīng)網(wǎng)絡。
這樣整個過程就好像司令部派了幾個士兵出去偵查，再把每個士兵送回來的線索匯總，形成整體的作戰(zhàn)思路，再告訴士兵們應該如何如何行動。
所以改進之后，機器人們就都學會了開門這項技能。
在云端學習
機器人要撿垃圾，必須學會靈活的使用自己的“手”來抓東西，要不斷的練習，有大量數(shù)據(jù)來訓練模型才可以。
現(xiàn)實世界里，機器人一天只能練習5000次抓取，數(shù)據(jù)量是遠遠不夠的。
而借助隨機到規(guī)范適應網(wǎng)絡（Randomized-to-Canonical Adaptation Networks，簡稱RCANs），在云中模擬訓練的數(shù)據(jù)就可以用在模型的實際訓練中，這樣機器人抓物體的成功率就提升到了70%。
之后，再結(jié)合5000次在現(xiàn)實世界抓取的數(shù)據(jù)，對模型進行微調(diào)，成功率就到了91%。
這個過程，相當于在真實世界抓了58萬次的結(jié)果，一下子省了99%的練習次數(shù)。
這樣，原來需要花3個月的時間來訓練機器人學習抓取，現(xiàn)在只要不到一天就可以了。
另外，這篇論文也發(fā)了今年的CVPR。
結(jié)構(gòu)化和非結(jié)構(gòu)化環(huán)境里的機器人
現(xiàn)在的機器人領域內(nèi)，雖然有不少成熟的機器人，但它們都是技能專精、價格昂貴的。
他們在工廠流水線上這種單一而結(jié)構(gòu)化環(huán)境里，用非常高的效率處理某一項任務，但無法在每天情況都不一樣、復雜而非結(jié)構(gòu)化的生活環(huán)境中解決洗衣做飯這些麻煩的任務。
Alphabet X的最終目標是造出可以在日常生活中使用的機器人，比如它可以在家里疊疊被子洗洗碗，在辦公室里端茶倒水取外賣……每天都會用到，所以這個項目也因此被叫做Everyday Robots。
不過，其難度可想而知。
美國國家公路交通安全管理局給出了這張示意圖。
橫軸左側(cè)是執(zhí)行專精的任務，右邊是日常的多種復雜任務；縱軸下半部分是在結(jié)構(gòu)化的環(huán)境中，上半部分是在非結(jié)構(gòu)化的環(huán)境中。
顯然，右上角那種在各種復雜環(huán)境都能隨機應變、十八般武藝樣樣都行的機器人，人類創(chuàng)造它的難度要遠遠高于左下角只會在流水線上固定位置完成固定任務的工業(yè)機器人。
而在右上方象限內(nèi)，就有正在發(fā)展中的自動駕駛汽車，Everyday Robots，要比自動駕駛的難度更上一個量級。
傳送門
最后，關于這個垃圾分類機器人的三種學習方式，相關的論文、技術(shù)博客鏈接如下。
跟人類學習
Learning Latent Plans from Play
作者：Corey Lynch, Mohi Khansari, Ted Xiao, Vikash Kumar, Jonathan Tompson, Sergey Levine, Pierre Sermanet
https://learning-from-play.github.io/
跟其他機器人學習
https://ai.googleblog.com/2016/10/how-robots-can-acquire-new-skills-from.html
在云端學習
Sim-to-Real via Sim-to-Sim: Data-efficient Robotic Grasping via Randomized-to-Canonical Adaptation Networks
作者：Stephen James, Paul Wohlhart, Mrinal Kalakrishnan, Dmitry Kalashnikov, Alex Irpan, Julian Ibarz, Sergey Levine, Raia Hadsell, Konstantinos Bousmalis
https://arxiv.org/abs/1812.07252
我們所熟知的那個創(chuàng)投“常識”是：美國出資本和技術(shù)，中國出人才和市場，以中國為始、以美國為終。但如今它已經(jīng)來到一個十字路口。詳細
將國外優(yōu)秀的影視作品帶到國內(nèi)，激發(fā)起國內(nèi)觀眾的興趣并擴寬他們的認知，甚至鼓勵更多創(chuàng)作者的創(chuàng)新，字幕組都起到了關鍵的作用。詳細
不認識到人性中的這些缺陷，就無法應對那些利用人性缺陷設下的騙局。即使沒有虛擬幣，也會有“實體幣”，總有一把鐮刀適合你。詳細
