近期，英國(guó)《衛(wèi)報(bào)》報(bào)道了一項(xiàng)引人深思的研究發(fā)現(xiàn)，麻省理工學(xué)院的AI安全領(lǐng)域?qū)＜荫R克斯·泰格馬克提出了一項(xiàng)令人警醒的預(yù)測(cè)。他參考了美國(guó)物理學(xué)家阿瑟·康普頓在“三位一體”核試驗(yàn)前的概率計(jì)算方法，對(duì)高度發(fā)達(dá)的AI可能帶來的生存威脅進(jìn)行了評(píng)估。

據(jù)悉，康普頓在1945年推進(jìn)歷史性核試驗(yàn)前，曾確認(rèn)原子彈引發(fā)大氣層燃燒的可能性極低。泰格馬克借鑒這一思路，與三位麻省理工學(xué)生共同發(fā)表了一篇論文，其中提出了一個(gè)類似的概念——“康普頓常數(shù)”，用以衡量強(qiáng)AI失控的概率。

泰格馬克強(qiáng)調(diào)，AI企業(yè)不應(yīng)僅憑直覺行事，而應(yīng)通過嚴(yán)謹(jǐn)?shù)挠?jì)算來評(píng)估“人工超級(jí)智能”（ASI）失控的風(fēng)險(xiǎn)。他指出，就像康普頓在確認(rèn)失控核聚變幾率極低后才批準(zhǔn)核試驗(yàn)一樣，打造超級(jí)智能的公司也必須計(jì)算出具體的失控概率，即“康普頓常數(shù)”。他說：“光說‘我們有信心’是不夠的，必須拿出具體數(shù)據(jù)。”

泰格馬克進(jìn)一步提出，如果多家公司能夠聯(lián)合起來計(jì)算這一常數(shù)并形成共識(shí)，將有助于在全球范圍內(nèi)推動(dòng)AI安全機(jī)制的建立。他認(rèn)為，這樣的合作對(duì)于確保AI技術(shù)的安全發(fā)展至關(guān)重要。

作為麻省理工學(xué)院的物理學(xué)教授及AI研究者，泰格馬克不僅是這一研究的推動(dòng)者，還是致力于AI安全發(fā)展的非營(yíng)利組織“未來生命研究所”的創(chuàng)辦者之一。2023年，該機(jī)構(gòu)發(fā)布了一封公開信，呼吁暫停開發(fā)更強(qiáng)大的AI系統(tǒng)。這封信迅速獲得了超過3.3萬人的簽名支持，其中包括知名企業(yè)家埃隆·馬斯克和蘋果聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克。

公開信中警告說，各大實(shí)驗(yàn)室目前正陷入一場(chǎng)“失控競(jìng)賽”，競(jìng)相開發(fā)越來越強(qiáng)大的AI系統(tǒng)。然而，這些系統(tǒng)卻“人類無法理解、預(yù)測(cè)或可靠控制”，從而帶來了巨大的潛在風(fēng)險(xiǎn)。泰格馬克及其團(tuán)隊(duì)的研究和呼吁，無疑為這一領(lǐng)域的發(fā)展敲響了警鐘。