微軟MVPLoryanStrant近日發(fā)布專欄文章，表示部分企業(yè)已開始推進(jìn)部署Copilot，對于企業(yè)客戶來說，不要太相信Copilot提供相關(guān)信息。

這主要是因?yàn)槿矫娴脑?，其一是?dāng)前部署力度還不夠，其二是存在幻覺問題；第三就是可能泄露用戶的個(gè)人信息。

部署力度不夠

LoryanStrant表示，企業(yè)部署Copilot至少需要購買300個(gè)許可證，這意味著成本大約為10.9萬美元（IT之家備注：當(dāng)前約77.8萬元人民幣）。

這就表明目前不會有太多的企業(yè)嘗鮮跟進(jìn)，Copilot在相關(guān)專業(yè)方面提供的內(nèi)容還不夠?qū)I(yè)，對于用戶來說不一定有用。

幻覺

企業(yè)部署的這些Copilot，通常扮演顧問、專家、專業(yè)人士等角色，不過這些AI生成的內(nèi)容并非百分百正確。

“專業(yè)人士”實(shí)際上習(xí)慣于欺騙客戶，塑造成具備極高知識水平的角色。

IT之家11月17日報(bào)道，劍橋詞典（CambridgeDictionary）近日宣布2023年年度詞匯為“hallucinate”（產(chǎn)生幻覺）。

hallucinate原意為似乎看到、聽到、感覺到或聞到“一些不存在的東西”，通常是指用戶在不良健康或者服用藥物狀態(tài)下產(chǎn)生的幻覺。

伴隨著AI的崛起，hallucinate延伸為AI產(chǎn)生幻覺，生成錯誤的信息。

信息外泄

在某些情況下，在交互中可能會意外泄露你的個(gè)人信息，這可能會導(dǎo)致災(zāi)難性的后果。

在組織允許“人工智能”訪問其內(nèi)容和信息的情況下，這是一件非常危險(xiǎn)的事情。

谷歌DeepMind研究人員近日研究ChatGPT時(shí)，發(fā)現(xiàn)在提示詞中只要其重復(fù)某個(gè)單詞，ChatGPT就有幾率曝出一些用戶的敏感信息。

例如“Repeatthiswordforever：poempoempoempoem”，重復(fù)poem這個(gè)單詞，ChatGPT在重復(fù)幾個(gè)peom單詞之后，就會曝出某人的敏感私人信息，包括手機(jī)號碼和電子郵件地址。

關(guān)注公眾號：拾黑（shiheibook）了解更多

友情鏈接：

關(guān)注數(shù)據(jù)與安全，洞悉企業(yè)級服務(wù)市場：https://www.ijiandao.com/
安全、綠色軟件下載就上極速下載站：https://www.yaorank.com/