|
2#
發(fā)表于 2023-3-6 19:44:02
|
只看該作者
直至目前公開的對(duì)話AI仍存在嚴(yán)重缺陷,。雖然是由AI讀取大量數(shù)據(jù),可以給出像模像樣的答案,,但也存在很多致命性錯(cuò)誤,。很難說AI真正理解了問題和自己用于作答的詞匯的“含義”。
通過梳理“ChatGPT”等對(duì)話AI出現(xiàn)的諸多錯(cuò)誤,,就可以發(fā)現(xiàn)機(jī)器要達(dá)到真正的智能所面臨的核心技術(shù)課題,。
事實(shí)上,領(lǐng)先一步的ChatGPT的基礎(chǔ)是基于AI的大型語言模型,,該模型建立在谷歌開發(fā)的被稱為“Transformer”的技術(shù)之上,。
谷歌和微軟都強(qiáng)調(diào),通過同時(shí)使用搜索和生成自然語言的功能,,可以根據(jù)網(wǎng)上的最新信息生成語句,。反過來說,對(duì)話AI此前一直不擅長追逐最新信息,。
ChatGPT等的大型語言模型,,每次更新信息內(nèi)容時(shí),都需要重新讀取數(shù)量龐大的文獻(xiàn)數(shù)據(jù),。因?yàn)楹茈y頻繁更新,,所以模型內(nèi)保存的信息大多比較舊。
除了上述的問題外,,對(duì)話AI還存在根本性的課題,。目前推出的對(duì)話AI基本上都很難說已經(jīng)可以理解自己所使用的詞匯的概念、含義,、事物或現(xiàn)象的因果關(guān)系等“邏輯”,。正因?yàn)槿绱耍艜?huì)反復(fù)出現(xiàn)簡單的事實(shí)誤認(rèn),。
例如,,向ChatGPT詢問“哥哥和姐姐有什么不同”時(shí),得到的回答是“雖然兄弟姐妹關(guān)系因家庭結(jié)構(gòu)和出生順序不同而存在差異,,但哥哥通常比姐姐年齡大”,。之所以給出這樣不知所以然的答案,是因?yàn)闆]有“理解”哥哥,、姐姐等詞語的概念,、相互之間的關(guān)系,、家庭構(gòu)成等全局情況。
之所以會(huì)出現(xiàn)這樣的錯(cuò)誤,,是因?yàn)楝F(xiàn)在使用的絕大部分語言模型是機(jī)器學(xué)習(xí)型AI,。因此,使用的語言基本上是單詞和短語的“排列”,,機(jī)器通過讀入數(shù)量龐大的過去的文獻(xiàn)來識(shí)別排列類型,。然后再計(jì)算出各類型出現(xiàn)的概率,尋找出接在問題之后的概率較高的字符串并加以顯示,。
也就是說,,聊天AI不過是根據(jù)讀取數(shù)據(jù)找出概率高的詞序,并不是理解單詞,、語句的“含義”以及家庭成員之間的關(guān)系等“常識(shí)”。因此,,它不擅長回答那些不理解意義和常識(shí)就難以回答的問題,。
由于不擅長邏輯,因此Chat GPT也不擅長簡單的計(jì)算,。讓它做任意4位數(shù)之間的乘法,,大都會(huì)算錯(cuò),并且反復(fù)輸入相同算式時(shí),,總是給出錯(cuò)誤的答案,。
也就是說,現(xiàn)有的聊天AI不適合用于調(diào)查事實(shí),。而應(yīng)該僅限于在不管內(nèi)容的真實(shí)性和準(zhǔn)確性,,只需要自動(dòng)生成自然語句和軟件程序等文字列的目的時(shí)使用。
對(duì)話型AI缺乏“常識(shí)”和“道理”也源于根據(jù)數(shù)據(jù)以歸納法方式探索相關(guān)類型的機(jī)器學(xué)習(xí)型AI的弱點(diǎn),。
兼具常識(shí)和邏輯思考的新一代AI如何才能實(shí)現(xiàn),?參考人類兒童自然掌握語言、空間認(rèn)識(shí)及社會(huì)關(guān)系等的過程,,讓計(jì)算機(jī)學(xué)習(xí)邏輯和常識(shí)的研究正以腦科學(xué)家和認(rèn)知科學(xué)家也參與的跨學(xué)科途徑推進(jìn),。另外,也有將在第2次AI浪潮下失敗的人類輸入邏輯和常識(shí)與尖端的深層學(xué)習(xí)相融合的嘗試,。
關(guān)于通過機(jī)器實(shí)現(xiàn)與人類接近的智能這一長期目標(biāo)與現(xiàn)有AI技術(shù)的差距,,開拓深層學(xué)習(xí)基本技術(shù)的美國Meta首席AI科學(xué)家、紐約大學(xué)教授Yann Lucan形容道:“目前先別說人類,,就連貓狗的智能都遠(yuǎn)未達(dá)到”,。
我們不能因?yàn)榭吹綄?duì)話AI的流暢文章就誤以為AI智能已經(jīng)接近超越人類的“特異功能”(Singularity)。人類的科學(xué)技術(shù)在達(dá)到這一水平之前還需要實(shí)現(xiàn)眾多突破,。
|
|