OpenAI警告：不要過(guò)度信任AI 其本身不完全可靠

近日據(jù)媒體報(bào)道，OpenAI首席執(zhí)行官薩姆·奧特曼接受采訪時(shí)發(fā)出警示：盡管ChatGPT在全球范圍內(nèi)獲得廣泛認(rèn)可，但用戶對(duì)其毫無(wú)保留的信任態(tài)度值得警惕。

"最讓我驚訝的是人們?nèi)绱溯p易地相信ChatGPT給出的答案，"奧特曼坦言。盡管這款A(yù)I聊天機(jī)器人已被廣泛應(yīng)用于教育輔導(dǎo)、學(xué)術(shù)研究甚至育兒建議等關(guān)鍵領(lǐng)域，但其本身并不完全可靠。奧特曼特別強(qiáng)調(diào)了一個(gè)關(guān)鍵技術(shù)局限："AI會(huì)產(chǎn)生'幻覺(jué)'，這意味著它可能自信地給出完全錯(cuò)誤或誤導(dǎo)性的信息。"

自2022年11月發(fā)布以來(lái)，ChatGPT憑借其卓越的自然語(yǔ)言處理能力迅速風(fēng)靡全球。但隨著應(yīng)用場(chǎng)景的不斷擴(kuò)展，關(guān)于其準(zhǔn)確性、偏見(jiàn)和潛在風(fēng)險(xiǎn)的爭(zhēng)議也日益凸顯。

奧特曼提醒所有用戶，在使用這類生成式AI工具時(shí)必須保持批判性思維，對(duì)輸出內(nèi)容進(jìn)行必要驗(yàn)證。

在談及產(chǎn)品發(fā)展時(shí)，奧特曼透露了ChatGPT即將推出的重要更新，包括"持久記憶"功能——允許系統(tǒng)記住用戶的對(duì)話歷史，以及可能引入的廣告商業(yè)模式。這些創(chuàng)新雖然能提升用戶體驗(yàn)和商業(yè)可持續(xù)性，但也將帶來(lái)新的隱私保護(hù)和數(shù)據(jù)安全挑戰(zhàn)。