8月1日,F(xiàn)acebook 關(guān)閉“失控”AI 系統(tǒng)的消息經(jīng)社交媒體和科技媒體傳播之后,引發(fā)一輪熱議。
報(bào)道根據(jù)外媒的一篇報(bào)道,稱Facebook 不得不拔掉其研究人員正在研究的人工智能系統(tǒng)的插頭,因?yàn)槭虑槭Э亓?。?wèn)題是,當(dāng)這些機(jī)器人因互相談判而獲得獎(jiǎng)勵(lì)時(shí),他們卻沒(méi)有因?yàn)橛糜⒄Z(yǔ)談判而得到獎(jiǎng)勵(lì),這導(dǎo)致了機(jī)器人開(kāi)發(fā)了自己的語(yǔ)言。
報(bào)告指出:人工智能并沒(méi)有在全球范圍內(nèi)關(guān)閉電腦或類似的東西,但它停止使用英語(yǔ),并開(kāi)始使用它所創(chuàng)建的語(yǔ)言。
最初,人工智能的代理們使用英語(yǔ)互相交談,但后來(lái)他們創(chuàng)造了一種只有人工智能系統(tǒng)才能理解的新語(yǔ)言,從而違背了他們的目的。這使得 Facebook 的研究人員關(guān)閉了人工智能系統(tǒng),迫使他們只能用英語(yǔ)交談。
外媒報(bào)道所引用的報(bào)告源頭,名為《Deal or No Deal end-to-end learning for NegoTIaTIon Dialogues》,這篇需要付費(fèi)才能下載的文章中描述了上述部分內(nèi)容。但是,本身并不是直接對(duì)整個(gè)AI的否定。
百度深度學(xué)習(xí)研究院創(chuàng)立者、地平線公司創(chuàng)始人余凱稱,F(xiàn)acebook“只不過(guò)是關(guān)閉了一個(gè)沒(méi)有前景的小項(xiàng)目”,公司關(guān)閉一些不成功的項(xiàng)目很正常,但是這個(gè)事件被國(guó)內(nèi)媒體“過(guò)分解讀,危言聳聽(tīng)”。就技術(shù)本身而言,余凱稱,程序生成一堆隨機(jī)亂碼,很常見(jiàn)。
可能是Facebook產(chǎn)品路線不清晰的一個(gè)小小的調(diào)整策略,在國(guó)內(nèi)被放大到AI系統(tǒng)、人工智能威脅到人類的地步。甚至關(guān)聯(lián)到斯蒂芬·霍金教授、特斯拉創(chuàng)始人馬斯克等對(duì)人工智能的一些只言片語(yǔ)。
馬斯克曾經(jīng)強(qiáng)調(diào)人類應(yīng)該對(duì)AI及其潛在危險(xiǎn)保持警惕?!把芯緼I,好比在召喚惡魔。什么有個(gè)人擁有某種神秘力量,什么圣戰(zhàn)這些亂七八糟的故事你肯定聽(tīng)過(guò),然后那些人一開(kāi)始總是自信能夠控制惡魔——但結(jié)果大家都知道?!边@番話是馬斯克在2014年所言。這段話日后可能會(huì)經(jīng)常被用到人工智能威脅論之中。
怡達(dá)通微信公眾號(hào)
芯倉(cāng)寶微信公眾號(hào)
電話:0755-82256631
傳真:0755-82243232
郵箱:andy@icck.com.cn
地址:深圳市龍華區(qū)民治街道龍光玖鉆5A棟2001(深圳地鐵4號(hào)線/6號(hào)線:紅山地鐵B出口左側(cè))
? 2014 深圳市怡達(dá)通進(jìn)出口有限公司
技術(shù)支持:企方網(wǎng)絡(luò)