在人工智能技術的迅猛發(fā)展中，一個不容忽視的現(xiàn)象是，生成式AI正逐漸成為黑客和不法分子的得力助手。從深度偽造企業(yè)高管形象到偽造財務文件，這些技術的濫用邊界正在不斷被拓寬。

OpenAI，作為生成式AI領域的領頭羊，深刻意識到這一潛在風險。為了應對這一挑戰(zhàn)，OpenAI近期投資了一家專注于防御此類攻擊的AI初創(chuàng)公司——Adaptive Security。這一舉措不僅顯示了OpenAI對行業(yè)安全的關注，也體現(xiàn)了其對未來技術發(fā)展趨勢的敏銳洞察。

總部位于紐約的Adaptive Security在本周三宣布，成功完成了4300萬美元的A輪融資，本輪融資由OpenAI創(chuàng)業(yè)基金和Andreessen Horowitz聯(lián)合領投。據(jù)OpenAI向TechCrunch確認，這是他們首次投資網(wǎng)絡安全領域的初創(chuàng)公司。

Adaptive Security通過模擬AI生成的黑客攻擊，為員工提供實戰(zhàn)訓練，幫助他們識別并應對這些新型威脅。例如，員工可能會接到一個電話，電話那頭聲稱是公司的CTO，要求輸入驗證碼。然而，這很可能是一個由Adaptive Security生成的模擬攻擊，旨在提高員工的警惕性。

Adaptive Security的平臺不僅限于電話模擬，還包括短信和電子郵件的偽造。通過全面覆蓋這些通信渠道，該平臺能夠評估公司內(nèi)部哪些環(huán)節(jié)可能最脆弱，并針對性地培訓員工識別潛在風險。

這家初創(chuàng)公司專注于防范那些利用人類心理弱點進行攻擊的黑客行為。這些黑客往往會誘導員工點擊惡意鏈接或執(zhí)行不當操作。盡管這類“社會工程”攻擊看似簡單，但其造成的經(jīng)濟損失卻不容小覷。以Axie Infinity為例，該公司因一起社會工程攻擊損失了超過6億美元。

Adaptive Security的聯(lián)合創(chuàng)始人兼首席執(zhí)行官Brian Long向TechCrunch透露，人工智能工具使得社會工程攻擊變得更加容易。自2023年成立以來，Adaptive Security已經(jīng)擁有超過100家客戶。Long表示，客戶的積極反饋為OpenAI等投資者的加入奠定了堅實基礎。

Long是一位經(jīng)驗豐富的企業(yè)家，他曾在移動廣告和廣告技術領域取得過顯著成就。他創(chuàng)立的TapCommerce于2014年被Twitter收購，而另一家公司Attentive在2021年的估值超過100億美元。憑借這些成功經(jīng)驗，Long對Adaptive Security的未來充滿信心。

Long表示，Adaptive Security將利用最新獲得的資金聘請更多工程師，以加速產(chǎn)品開發(fā)，并在與不法行為者的人工智能“軍備競賽”中保持領先地位。隨著人工智能威脅的不斷演變，這家初創(chuàng)公司正致力于構建更加堅固的防御體系。

除了Adaptive Security之外，還有多家網(wǎng)絡初創(chuàng)公司正在積極應對人工智能威脅的激增。Cyberhaven以10億美元的估值籌集了1億美元資金，旨在阻止員工將敏感信息泄露給ChatGPT等工具。Snyk則歸因于不安全的人工智能生成代碼的興起，其年度營收超過3億美元。深度偽造檢測初創(chuàng)公司GetReal也成功籌集了1750萬美元資金。

面對日益復雜的人工智能威脅，Long為那些擔心自己聲音被黑客克隆的公司員工提供了一個實用的建議：“刪除你的語音郵件。”他強調，這是減少潛在風險的一種簡單而有效的方法。