阿爾法狗再進化 自學 3 天就 100:0 碾壓李世石版舊狗

10-19

倫敦當地時間 10 月 18 日 18:00(北京時間 19 日 01:00),AlphaGo 再次登上世界頂級科學雜志——《自然》。

一年多前,AlphaGo 便是 2016 年 1 月 28 日當期的封面文章,Deepmind 公司發表重磅論文,介紹瞭這個擊敗歐洲圍棋冠軍樊麾的人工智能程序。

今年 5 月,以 3:0 的比分贏下中國棋手柯潔後,AlphaGo 宣佈退役,但 DeepMind 公司並沒有停下研究的腳步。倫敦當地時間 10 月 18 日,DeepMind 團隊公佈瞭最強版 AlphaGo ,代號 AlphaGo Zero。它的獨門秘籍,是 " 自學成才 "。而且,是從一張白紙開始,零基礎學習,在短短 3 天內,成為頂級高手。

團隊稱,AlphaGo Zero 的水平已經超過之前所有版本的 AlphaGo。在對陣曾贏下韓國棋手李世石那版 AlphaGo 時,AlphaGo Zero 取得瞭 100:0 的壓倒性戰績。DeepMind 團隊將關於 AlphaGo Zero 的相關研究以論文的形式,刊發在瞭 10 月 18 日的《自然》雜志上。

"AlphaGo 在兩年內達到的成績令人震驚。現在,AlphaGo Zero 是我們最強版本,它提升瞭很多。Zero 提高瞭計算效率,並且沒有使用到任何人類圍棋數據,"AlphaGo 之父、DeepMind 聯合創始人兼 CEO 戴密斯?哈薩比斯(Demis Hassabis)說," 最終,我們想要利用它的算法突破,去幫助解決各種緊迫的現實世界問題,如蛋白質折疊或設計新材料。如果我們通過 AlphaGo,可以在這些問題上取得進展,那麼它就有潛力推動人們理解生命,並以積極的方式影響我們的生活。"

不再受人類知識限制,隻用 4 個 TPU

AlphaGo 此前的版本,結合瞭數百萬人類圍棋專傢的棋譜,以及強化學習的監督學習進行瞭自我訓練。

在戰勝人類圍棋職業高手之前,它經過瞭好幾個月的訓練,依靠的是多臺機器和 48 個 TPU(谷歌專為加速深層神經網絡運算能力而研發的芯片)。

AlphaGo Zero 的能力則在這個基礎上有瞭質的提升。最大的區別是,它不再需要人類數據。也就是說,它一開始就沒有接觸過人類棋譜。研發團隊隻是讓它自由隨意地在棋盤上下棋,然後進行自我博弈。值得一提的是,AlphaGo Zero 還非常 " 低碳 ",隻用到瞭一臺機器和 4 個 TPU,極大地節省瞭資源。

AlphaGo Zero 強化學習下的自我對弈。

經過幾天的訓練,AlphaGo Zero 完成瞭近 5 百萬盤的自我博弈後,已經可以超越人類,並擊敗瞭此前所有版本的 AlphaGo。DeepMind 團隊在官方博客上稱,Zero 用更新後的神經網絡和搜索算法重組,隨著訓練地加深,系統的表現一點一點地在進步。自我博弈的成績也越來越好,同時,神經網絡也變得更準確。

AlphaGo Zero 習得知識的過程

" 這些技術細節強於此前版本的原因是,我們不再受到人類知識的限制,它可以向圍棋領域裡最高的選手—— AlphaGo 自身學習。" AlphaGo 團隊負責人大衛?席爾瓦(Dave Sliver)說。

據大衛?席爾瓦介紹,AlphaGo Zero 使用新的強化學習方法,讓自己變成瞭老師。系統一開始甚至並不知道什麼是圍棋,隻是從單一神經網絡開始,通過神經網絡強大的搜索算法,進行瞭自我對弈。

隨著自我博弈的增加,神經網絡逐漸調整,提升預測下一步的能力,最終贏得比賽。更為厲害的是,隨著訓練的深入,DeepMind 團隊發現,AlphaGo Zero 還獨立發現瞭遊戲規則,並走出瞭新策略,為圍棋這項古老遊戲帶來瞭新的見解。

自學 3 天,就打敗瞭舊版 AlphaGo

除瞭上述的區別之外,AlphaGo Zero 還在 3 個方面與此前版本有明顯差別。

AlphaGo-Zero 的訓練時間軸

首先,AlphaGo Zero 僅用棋盤上的黑白子作為輸入,而前代則包括瞭小部分人工設計的特征輸入。

其次,AlphaGo Zero 僅用瞭單一的神經網絡。在此前的版本中,AlphaGo 用到瞭 " 策略網絡 " 來選擇下一步棋的走法,以及使用 " 價值網絡 " 來預測每一步棋後的贏傢。而在新的版本中,這兩個神經網絡合二為一,從而讓它能得到更高效的訓練和評估。

第三,AlphaGo Zero 並不使用快速、隨機的走子方法。在此前的版本中,AlphaGo 用的是快速走子方法,來預測哪個玩傢會從當前的局面中贏得比賽。相反,新版本依靠地是其高質量的神經網絡來評估下棋的局勢。

AlphaGo 幾個版本的排名情況。

據哈薩比斯和席爾瓦介紹,以上這些不同幫助新版 AlphaGo 在系統上有瞭提升,而算法的改變讓系統變得更強更有效。

經過短短 3 天的自我訓練,AlphaGo Zero 就強勢打敗瞭此前戰勝李世石的舊版 AlphaGo,戰績是 100:0 的。經過 40 天的自我訓練,AlphaGo Zero 又打敗瞭 AlphaGo Master 版本。"Master" 曾擊敗過世界頂尖的圍棋選手,甚至包括世界排名第一的柯潔。

對於希望利用人工智能推動人類社會進步為使命的 DeepMind 來說,圍棋並不是 AlphaGo 的終極奧義,他們的目標始終是要利用 AlphaGo 打造通用的、探索宇宙的終極工具。AlphaGo Zero 的提升,讓 DeepMind 看到瞭利用人工智能技術改變人類命運的突破。他們目前正積極與英國醫療機構和電力能源部門合作,提高看病效率和能源效率。

精彩圖片
文章評論 相關閱讀
© 2016 看看新聞 http://www.kankannews.cc/