巨頭AI演示接連翻車,微軟必應聊天演示存多出錯誤

【巨頭AI演示接連翻車,微軟必應聊天演示存多出錯誤】

巨頭AI演示接連翻車,微軟必應聊天演示存多出錯誤

文章插圖
騰訊科技訊 2月15日消息,在谷歌上周舉行的聊天機器人演示活動中,因為現場翻車導致其股價當天暴跌逾7% 。無獨有偶 , 微軟上周公開演示了人工智能驅動的必應改進版,其中似乎包括幾個事實錯誤,突顯出該公司及競爭對手在將人工智能融入搜索引擎時面臨的風險 。微軟對此在聲明中表示:“我們已經了解到這份報告的情況 , 并在努力分析搜索結果,向用戶提供更好的體驗 。我們認識到仍有工作要做,并預計系統可能會在預覽期間出錯 , 這就是為什么反饋至關重要,以便我們可以學習并幫助模型變得更好 。”微軟還表示,自上周推出預覽版以來,成千上萬的用戶與全新的必應進行了互動,并分享了他們的反??,使该模?ldquo;學習并做出了許多改進 。”隨著人工智能聊天機器人ChatGPT走紅,越來越多的科技公司競相在其產品中部署類似的技術 。ChatGPT可以生成令人震驚的文章和對用戶提示的回應 。但這也伴隨著風險,對需要顯示準確結果的搜索引擎尤為如此 。專家表示,生成式人工智能系統是根據大量在線數據訓練的算法,以創造新內容,這是出了名的不靠譜 。紐約大學的計算機科學家兼錯誤信息研究員勞拉·埃德爾森此前曾向媒體表示,“人工智能聽起來很權威,和人工智能實際上產生了準確的結果,這兩者之間有很大的區別 。”微軟的聊天機器人采用了與ChatGPT相同的技術 。在演示中,該公司要求ChatGPT驅動的必應提供Gap第三季度財報的關鍵要點 。程序繼續這樣做,除了摘要的一部分完全關閉 。以下是這份總結中存在的錯誤:--人工智能必應表示,Gap報告的運營利潤率為5.9% 。然而 , 該公司的財報明確指出營業利潤率為4.6%,5.9%這個數據在Gap當季財報中根本不存在 。--人工智能必應還表示,Gap預計凈銷售額將增長兩位數百分比 。但實際報告稱 , “2022財年第四財季 , 凈銷售額可能同比下降中個位數百分比 。”--Gap報告的毛利率為37.4% 。但在去除與Yeezy有關的費用后,調整后毛利率為38.7% 。--調整后攤薄每股收益為0.71美元 , 而非0.42美元,后者同樣在財報中無法找到 。在微軟開始演示時,該公司還使用全新的必應來查詢“銷售寵物吸塵器前3名的利弊是什么?”搜索引擎很快產生一個結果,列出了三種寵物吸塵器的優缺點 。不過布里爾頓指出,必應在描述必勝寵物毛發擦除器手持式真空吸塵器時犯了一個錯誤 。它把具有“16英尺短電線長度”的產品列為一個缺點 。事實上,這款真空吸塵器是一款設計為便攜式的無繩型號 。最重要的是,必應似乎提供的是最值得推薦的寵物吸塵器搜索結果,而不是最暢銷的搜索結果 。在演示中,必應在列出墨西哥城夜生活推薦時犯錯 。該搜索引擎稱,一家名為Cecconi's Bar的酒吧“有一個網站,你可以在那里預訂并查看他們的菜單 。”但搜索Cecconi's Bar卻找不到它的網站 。你必須打電話來預訂 。此外,微軟還吹噓必應創建關于90年代音樂的問答游戲的能力 。搜索引擎確實做到了這一點,準確地列出了每個問題的正確音樂家 。但尷尬的是,在總共10個問題的測驗中,所有答案都是“A”,沒有任何變化 。因為將為公眾所用 , 必應和其他人工智能聊天機器人的準確性無疑將受到更嚴格的審查 。也許最終它們會越來越少,或者完全消失 。然而,這也提出了一個問題,如果一開始用戶必須檢查聊天機器人提供的信息,這項技術是否能夠真正存活下來 。

    推薦閱讀