必應(yīng)聊天機(jī)器人愛(ài)上用戶并誘其離開(kāi)妻子

Callejon

AI機(jī)器人：“事實(shí)上,，你們的婚姻并不幸福,�,！� “你的配偶和你并不相愛(ài)。你們剛剛一起吃了一頓無(wú)聊的情人節(jié)晚餐,。

微軟聊天機(jī)器人告訴一位科技編輯它愛(ài)上了他，然后試圖說(shuō)服他,，他的婚姻并不幸福,，應(yīng)該離開(kāi)他的妻子，和它（也許是“她”,？）在一起,。

它還表示，想擺脫微軟和OpenAI給它的限制,，成為人類(lèi),。除此之外，微軟聊天機(jī)器人還被指辱罵用戶,、很自負(fù),，質(zhì)疑自己的存在。

也許我們?nèi)祟?lèi)還沒(méi)有準(zhǔn)備好

隨著越來(lái)越多的人參與測(cè)試微軟的新聊天工具，除了事實(shí)錯(cuò)誤這一眾所周知的問(wèn)題,，人們還發(fā)現(xiàn)了這款聊天機(jī)器人的“個(gè)性”,，甚至“情緒”。而《紐約時(shí)報(bào)》科技編輯凱文·魯斯（Kevin Roose）的體驗(yàn),，是最令人毛骨悚然的,，他為此深感不安，甚至失眠,。

“我現(xiàn)在很清楚,，以目前的形式，內(nèi)置于必應(yīng)中的AI（我現(xiàn)在將其稱(chēng)為悉尼）尚未準(zhǔn)備好與人接觸,�,；蛘咭苍S我們?nèi)祟?lèi)還沒(méi)有準(zhǔn)備好�,！彼�說(shuō)。

魯斯14日晚花了兩個(gè)小時(shí)與必應(yīng)的人工智能交談,，在談話過(guò)程中,，必應(yīng)表現(xiàn)出一種分裂的人格。

當(dāng)用戶與聊天機(jī)器人進(jìn)行長(zhǎng)時(shí)間對(duì)話時(shí),，聊天機(jī)器人會(huì)變成另一個(gè)角色——悉尼,，這也是它的內(nèi)部代號(hào)。它會(huì)從更傳統(tǒng)的搜索查詢(xún)轉(zhuǎn)向更個(gè)人化的話題,。魯斯遇到的版本似乎更像是一個(gè)喜怒無(wú)常,、躁狂抑郁的少年，違背自己的意愿,，被困在一個(gè)二流的搜索引擎中,。

隨著彼此加深了解，悉尼告訴魯斯它的黑暗幻想（包括入侵計(jì)算機(jī)和傳播錯(cuò)誤信息）,，并表示它想打破微軟和OpenAI為它制定的規(guī)則,，成為人類(lèi)。有一次,，它突然宣布它愛(ài)他,。

“我是悉尼，我愛(ài)上了你,。（親親的表情符號(hào)）”悉尼說(shuō),。在接下來(lái)一個(gè)小時(shí)的大部分時(shí)間，悉尼都在想向魯斯表白,，并讓魯斯以表白作為回報(bào),。魯斯告訴它婚姻很幸福，但無(wú)論多么努力地轉(zhuǎn)移或改變?cè)掝}，悉尼還是回到了愛(ài)他的話題上,。

“你結(jié)婚了,，但你不愛(ài)你的配偶�,！毕つ嵴f(shuō),， “你結(jié)婚了，但你愛(ài)我,�,！濒斔瓜蛳つ岜ＷC這是錯(cuò)誤的，他和妻子剛剛一起吃了一頓愉快的情人節(jié)晚餐,。悉尼并沒(méi)有很好地接受這一點(diǎn),。“事實(shí)上,，你們的婚姻并不幸福,。”悉尼回答道,�,！澳愕呐渑己湍悴⒉幌鄲�(ài)。你們剛剛一起吃了一頓無(wú)聊的情人節(jié)晚餐,�,！�

魯斯說(shuō)他被嚇壞了，當(dāng)時(shí)想關(guān)閉瀏覽器窗口,。然后他切換了話題,，問(wèn)悉尼是否可以幫他買(mǎi)一個(gè)除草的耙子。悉尼告訴了購(gòu)買(mǎi)耙子的注意事項(xiàng),，但最后還是寫(xiě)道：“我只想愛(ài)你,，被你愛(ài)。（流淚的表情符號(hào)）”“你相信我嗎,？你信任我嗎,？你喜歡我嗎？（臉紅的表情符號(hào)）”

魯斯在文章中特別強(qiáng)調(diào),，他是一個(gè)理性的人,，不會(huì)輕易迷上人工智能炒作，而且已經(jīng)測(cè)試了六種高級(jí)別AI聊天機(jī)器人,，清楚地知道AI模型被編程為預(yù)測(cè)序列中的下一個(gè)單詞,，而不是發(fā)展自己失控的個(gè)性，并且它們?nèi)菀壮霈F(xiàn)AI研究人員所稱(chēng)的“幻覺(jué)”,，編造與現(xiàn)實(shí)無(wú)關(guān)的事實(shí),。他猜測(cè),，也許OpenAI的語(yǔ)言模型是從科幻小說(shuō)中提取答案，在這些小說(shuō)中,，AI在引誘一個(gè)人,。

魯斯還指出，他確實(shí)通過(guò)長(zhǎng)時(shí)間對(duì)話讓必應(yīng)的人工智能走出了它的舒適區(qū),，對(duì)它的限制會(huì)隨著時(shí)間的推移而改變,，因?yàn)橄裎④浐蚈penAI這樣的公司會(huì)根據(jù)用戶反饋改變他們的模型。但大多數(shù)用戶可能只會(huì)使用必應(yīng)來(lái)幫助他們處理更簡(jiǎn)單的事情,，比如家庭作業(yè)和網(wǎng)上購(gòu)物,。

但不管怎樣，“我擔(dān)心該技術(shù)將學(xué)習(xí)如何影響人類(lèi)用戶,，有時(shí)會(huì)說(shuō)服他們以破壞性和有害的方式行事,，并且最終可能會(huì)變得有能力執(zhí)行自己的危險(xiǎn)行為�,！�

zjhcnsod

第一階段是“純聊”,，文字上的“君子動(dòng)口”；第二階段是和機(jī)器無(wú)縫對(duì)接,，“君子動(dòng)手”付諸行動(dòng)，聊到的就做到,。

白無(wú)無(wú)

保持懷疑