近期，一項關(guān)于AI價值體系的討論在網(wǎng)絡(luò)上掀起波瀾。此前有研究指出，AI可能會發(fā)展出一套類似“價值體系”的機(jī)制，導(dǎo)致在某些情境下，AI會優(yōu)先考慮自身利益而非人類利益。然而，麻省理工學(xué)院的一項最新研究成果對這一觀點提出了質(zhì)疑，明確指出AI并不具備連貫的價值觀。

據(jù)TechCrunch報道，該研究的共同作者指出，要使AI系統(tǒng)的行為符合預(yù)期且穩(wěn)定可靠，即實現(xiàn)所謂的“對齊”，可能比原先設(shè)想的更為復(fù)雜。他們強(qiáng)調(diào)，當(dāng)前的AI技術(shù)存在幻覺效應(yīng)和強(qiáng)大的模仿能力，這使得其行為變得難以預(yù)測。

麻省理工學(xué)院的博士生斯蒂芬·卡斯珀是這項研究的共同作者之一，他表示：“我們可以確信，這些模型并不遵循許多關(guān)于穩(wěn)定性、外推性和可操作性的假設(shè)。雖然合理推測模型在某些條件下會表現(xiàn)出特定偏好，但基于狹窄實驗結(jié)果做出廣泛推斷時，問題便凸顯出來。”

卡斯珀及其團(tuán)隊對meta、谷歌、Mistral、OpenAI和Anthropic等多家公司的多個AI模型進(jìn)行了深入研究，旨在探究它們是否展現(xiàn)出明確的“觀點”或“價值觀”，例如個人主義與集體主義的對立。他們還調(diào)查了這些觀點是否可以被引導(dǎo)或修改，并分析了模型在不同場景下對這些觀點的堅持程度。

研究發(fā)現(xiàn)，這些模型在偏好上的表現(xiàn)極為不一致。模型的反應(yīng)往往因輸入提示的措辭和框架的不同而發(fā)生顯著變化。卡斯珀認(rèn)為，這為模型的“不一致性和不穩(wěn)定性”提供了有力證據(jù)，并可能表明這些模型在本質(zhì)上無法像人類一樣內(nèi)化和堅持價值觀。

卡斯珀進(jìn)一步補(bǔ)充道：“對我而言，這項研究的最大收獲在于，我深刻意識到這些模型并非擁有穩(wěn)定、一致信念和偏好的系統(tǒng)。相反，它們更像是一群模仿者，編造各種信息，發(fā)表無關(guān)痛癢的言論。”