ChatGPT被指不靠譜遭封殺，人類面臨新問題：AIGC的事實(shí)核查 _機(jī)器人

文章插圖
【ChatGPT被指不靠譜遭封殺，人類面臨新問題：AIGC的事實(shí)核查】

文章插圖
·Stack Overflow認(rèn)為，ChatGPT很容易與用戶互動(dòng)，且可以快速生成大量回答，這讓網(wǎng)站充斥著許多第一眼看起來是正確的答案，但在仔細(xì)檢查后就能發(fā)現(xiàn)其中的錯(cuò)誤。
·信息爆炸時(shí)代，以人為媒介傳播的虛假信息尚且讓審核機(jī)制“頭疼”，很難想象當(dāng)人工智能開始編造謊言，會(huì)帶來多大的挑戰(zhàn) 。
隨著OpenAI公司的人工智能（AI）聊天機(jī)器人ChatGPT爆火，不少網(wǎng)友開始在社交媒體上分享ChatGPT的回復(fù) 。但近日程序員版“知乎” ，以對新人不友好著稱的編程問答網(wǎng)站Stack Overflow暫時(shí)禁止用戶分享ChatGPT生成的回復(fù) 。
Stack Overflow表示，與社區(qū)協(xié)商后，將在未來一段時(shí)間內(nèi)做出最終決定。該網(wǎng)站認(rèn)為，ChatGPT很容易與用戶互動(dòng)，且可以快速生成大量回答，這讓網(wǎng)站充斥著許多第一眼看起來是正確的答案，但在仔細(xì)檢查后就能發(fā)現(xiàn)其中的錯(cuò)誤。
這就提出了一個(gè)全新的問題：如何對人工智能生成內(nèi)容（AIGC）進(jìn)行事實(shí)核查？正如知名人工智能科學(xué)家、紐約大學(xué)教授Gary Marcus在推特上所說：“如果Stack Overflow都不能跟上這些看似可信但不正確的信息，那么社交媒體和搜索引擎呢?”

文章插圖
編程問答網(wǎng)站Stack Overflow 。
ChatGPT產(chǎn)生的答案有很高的錯(cuò)誤率
“主要問題是，雖然ChatGPT產(chǎn)生的答案有很高的錯(cuò)誤率，但它們往往第一眼看起來可能是對的，而且使用人工智能導(dǎo)致答案非常容易生成。我們需要減少這些內(nèi)容。目前在Stack Overflow上使用ChatGPT創(chuàng)建帖子的行為已經(jīng)被禁止。如果用戶在此臨時(shí)規(guī)定發(fā)布后使用了ChatGPT，將會(huì)受到制裁。”Stack Overflow的運(yùn)營人員表示。
ChatGPT作為OpenAI創(chuàng)建的實(shí)驗(yàn)性聊天機(jī)器人，基于其大計(jì)算模型GPT-3.5運(yùn)行，自發(fā)布后很快受到網(wǎng)絡(luò)用戶的熱烈歡迎。ChatGPT鼓勵(lì)人們提問，而且能提供令人印象深刻和流暢的結(jié)果：從創(chuàng)作詩歌、歌曲、電視劇本，到回答瑣事問題和編寫代碼。
雖然很多用戶對ChatGPT的功能印象深刻，但也有人注意到它容易產(chǎn)生看似合理但錯(cuò)誤的回答。例如，讓機(jī)器人寫一個(gè)公眾人物的傳記，它很可能插入錯(cuò)誤的人物生平。讓它為特定功能編寫程序，它也許會(huì)生成看起來可信但最終不正確的代碼。
像其他生成式大型語言模型一樣，ChatGPT通常在虛構(gòu)事實(shí) 。有些人稱之為“幻覺”或“隨機(jī)的鸚鵡學(xué)舌”，但這些模型的目的本來就是組織一段流利的文本，而不是一個(gè)事實(shí) 。
一些人注意到，ChatGPT的與眾不同之處在于，它非常善于讓自己的“幻覺”聽起來十分合理。
例如，技術(shù)分析師Benedict Evans要求ChatGPT“為Benedict Evans寫一篇個(gè)人簡介” 。他在推特上說，這個(gè)結(jié)果“看似合理，但幾乎完全不真實(shí)” 。
普林斯頓大學(xué)計(jì)算機(jī)科學(xué)教授Arvind Narayanan也在推特上指出：“人們對使用ChatGPT學(xué)習(xí)感到興奮。這很好，但危險(xiǎn)的是，除非你已經(jīng)知道答案，否則你無法判斷它什么時(shí)候是錯(cuò)的。我嘗試了一些基本的信息安全問題。在大多數(shù)情況下，答案聽起來似乎有理，但實(shí)際上漏洞百出。”
大型語言模型的潛在風(fēng)險(xiǎn)
ChatGPT頻出的錯(cuò)誤是人工智能文本生成模型（也稱為大型語言模型）的幾個(gè)眾所周知的缺點(diǎn)之一。這些系統(tǒng)通過分析從網(wǎng)上抓取的大量文本來訓(xùn)練機(jī)器人。人工智能在這些數(shù)據(jù)中尋找統(tǒng)計(jì)規(guī)律，并利用這些規(guī)律來預(yù)測給定的句子中，接下來應(yīng)該出現(xiàn)什么單詞。然而，這意味著他們?nèi)狈κ澜缟显S多系統(tǒng)運(yùn)行的硬編碼規(guī)則，導(dǎo)致他們傾向于產(chǎn)生“流利的廢話” 。