ChatGPT被指不靠譜遭封殺，人類面臨新問題：AIGC的事實核查 _機器人

文章插圖
【ChatGPT被指不靠譜遭封殺，人類面臨新問題：AIGC的事實核查】

文章插圖
·Stack Overflow認為，ChatGPT很容易與用戶互動，且可以快速生成大量回答，這讓網站充斥著許多第一眼看起來是正確的答案，但在仔細檢查后就能發現其中的錯誤。
·信息爆炸時代，以人為媒介傳播的虛假信息尚且讓審核機制“頭疼”，很難想象當人工智能開始編造謊言，會帶來多大的挑戰。
隨著OpenAI公司的人工智能（AI）聊天機器人ChatGPT爆火，不少網友開始在社交媒體上分享ChatGPT的回復。但近日程序員版“知乎” ，以對新人不友好著稱的編程問答網站Stack Overflow暫時禁止用戶分享ChatGPT生成的回復。
Stack Overflow表示，與社區協商后，將在未來一段時間內做出最終決定。該網站認為，ChatGPT很容易與用戶互動，且可以快速生成大量回答，這讓網站充斥著許多第一眼看起來是正確的答案，但在仔細檢查后就能發現其中的錯誤。
這就提出了一個全新的問題：如何對人工智能生成內容（AIGC）進行事實核查？正如知名人工智能科學家、紐約大學教授Gary Marcus在推特上所說：“如果Stack Overflow都不能跟上這些看似可信但不正確的信息，那么社交媒體和搜索引擎呢?”

文章插圖
編程問答網站Stack Overflow 。
ChatGPT產生的答案有很高的錯誤率
“主要問題是，雖然ChatGPT產生的答案有很高的錯誤率，但它們往往第一眼看起來可能是對的，而且使用人工智能導致答案非常容易生成。我們需要減少這些內容。目前在Stack Overflow上使用ChatGPT創建帖子的行為已經被禁止。如果用戶在此臨時規定發布后使用了ChatGPT，將會受到制裁。”Stack Overflow的運營人員表示。
ChatGPT作為OpenAI創建的實驗性聊天機器人，基于其大計算模型GPT-3.5運行，自發布后很快受到網絡用戶的熱烈歡迎。ChatGPT鼓勵人們提問，而且能提供令人印象深刻和流暢的結果：從創作詩歌、歌曲、電視劇本，到回答瑣事問題和編寫代碼。
雖然很多用戶對ChatGPT的功能印象深刻，但也有人注意到它容易產生看似合理但錯誤的回答。例如，讓機器人寫一個公眾人物的傳記，它很可能插入錯誤的人物生平。讓它為特定功能編寫程序，它也許會生成看起來可信但最終不正確的代碼。
像其他生成式大型語言模型一樣，ChatGPT通常在虛構事實。有些人稱之為“幻覺”或“隨機的鸚鵡學舌”，但這些模型的目的本來就是組織一段流利的文本，而不是一個事實。
一些人注意到，ChatGPT的與眾不同之處在于，它非常善于讓自己的“幻覺”聽起來十分合理。
例如，技術分析師Benedict Evans要求ChatGPT“為Benedict Evans寫一篇個人簡介” 。他在推特上說，這個結果“看似合理，但幾乎完全不真實” 。
普林斯頓大學計算機科學教授Arvind Narayanan也在推特上指出：“人們對使用ChatGPT學習感到興奮。這很好，但危險的是，除非你已經知道答案，否則你無法判斷它什么時候是錯的。我嘗試了一些基本的信息安全問題。在大多數情況下，答案聽起來似乎有理，但實際上漏洞百出。”
大型語言模型的潛在風險
ChatGPT頻出的錯誤是人工智能文本生成模型（也稱為大型語言模型）的幾個眾所周知的缺點之一。這些系統通過分析從網上抓取的大量文本來訓練機器人。人工智能在這些數據中尋找統計規律，并利用這些規律來預測給定的句子中，接下來應該出現什么單詞。然而，這意味著他們缺乏世界上許多系統運行的硬編碼規則，導致他們傾向于產生“流利的廢話” 。