谷歌、OpenAI爭相讓旗下AI玩《精靈寶可夢》游戲:衡量AI真正實(shí)力

電競體育01月25報(bào)道 據(jù)科技媒體 Tom's Hardware 今天報(bào)道,當(dāng)今時(shí)代我們有無數(shù)種跑分測試和評測方法來衡量 AI 的聰明程度與能力,但最近一種相對小眾的測試方法也在 AI 圈內(nèi)引發(fā)關(guān)注。
目前,谷歌、OpenAI 和 Anthropic 等 AI 巨頭正在讓自家模型游玩經(jīng)典的《精靈寶可夢》系列游戲,以此來評估 AI 性能表現(xiàn)。
Anthropic 公司 AI 部門負(fù)責(zé)人 David Hershey 對此表示:“《精靈寶可夢》之所以能吸引機(jī)器學(xué)習(xí)社區(qū)關(guān)注,是因?yàn)樗幌瘛禤ong》等簡單游戲那樣受限。這種游戲?qū)﹄娔X程序來說非常具有挑戰(zhàn)性”。
Hershey 從去年開始在 Twitch 平臺進(jìn)行直播,每天的日常就是用公司自產(chǎn)模型 Claude 玩《精靈寶可夢》。這名負(fù)責(zé)人平時(shí)的工作就是幫助客戶部署 AI,因此他開直播本質(zhì)上也是在測試模型。
這名負(fù)責(zé)人給自家 AI 直播游戲的做法也啟發(fā)了不少自由開發(fā)者,他們也陸續(xù)搞了“Gemini 玩《寶可夢》”“GPT 玩《寶可夢》”等類似的直播節(jié)目。
后來,這些直播甚至被谷歌和 OpenAI 注意到,開發(fā)團(tuán)隊(duì)有時(shí)還會客串直播間親自調(diào)整模型參數(shù),在官方力量注入下,Gemini 和 GPT 已經(jīng)成功通關(guān)了 Gam Boy 時(shí)代的《寶可夢藍(lán)》,目前已在挑戰(zhàn)續(xù)作;而 Claude 至今還沒打通任何一個(gè)版本。
至于為何要用《寶可夢》評估 AI 性能?Hershey 對此解釋道:“因?yàn)樗o我們提供了直觀的方法觀察模型表現(xiàn),還能用量化指標(biāo)評估性能”。
通常來講,玩家在《寶可夢》系列游戲中需要升級、訓(xùn)練已有 / 剛抓的寶可夢,還要打敗道館館主來捕捉新的寶可夢。這種游戲流程并非線性,而是充滿著判斷和取舍。
而且,玩家還要經(jīng)常在游戲中做出選擇:是先冒險(xiǎn)挑戰(zhàn)強(qiáng)大的訓(xùn)練家以獲取珍稀寶可夢,還是穩(wěn)扎穩(wěn)打造出一支實(shí)力均衡的隊(duì)伍。
顯然,人類非常擅長做此類決策,這也是游戲的樂趣所在,但對于 AI 來說,這是一場關(guān)乎邏輯推理、風(fēng)險(xiǎn)評估以及長期規(guī)劃能力的綜合考驗(yàn)。
因此研究人員會深入剖析 AI 在游戲里的決策方式,深入理解模型的能力邊界。
Hershey 還會將 AI 玩《寶可夢》的結(jié)果分享給客戶以改進(jìn)控制框架(IT之家注:harness),幫助他們提升算力使用效率,讓模型更高效運(yùn)轉(zhuǎn)。