Forrester Research的網(wǎng)絡安全分析師Jeff Pollard稱：“大多數(shù)安全領導者擔心的是，其中一些功能缺乏能見度，無法進行監(jiān)控，或不具有可解釋性?！?/span>

人們對生成式AI的興趣為Protect AI這樣的初創(chuàng)企業(yè)創(chuàng)造了機會，該公司旨在通過一個其稱之為“機器學習物料清單”的平臺，幫助企業(yè)追蹤各自自主研發(fā)的AI系統(tǒng)的組件。Protect AI表示，該公司平臺還能識別違反安全策略的行為和惡意代碼注入攻擊。

Protect AI總部位于西雅圖，聯(lián)合創(chuàng)始人兼總裁Daryan "D" Dehghanpisheh表示，該公司近期在熱門開源機器學習工具MLflow中發(fā)現(xiàn)了一個漏洞，攻擊者可以利用這個漏洞控制公司的云賬戶憑據(jù)并訪問訓練數(shù)據(jù)。

Dehghanpisheh表示，這些類型攻擊與“提示注入”等新攻擊形式都是首席信息官需要考慮的基于AI的供應鏈所涉及的風險?！疤崾咀⑷搿惫糁负诳褪褂谩疤崾尽被蚧谖谋镜闹噶顏聿倏v生成式AI系統(tǒng)以共享敏感信息。

Protect AI的聯(lián)合創(chuàng)始人兼首席執(zhí)行官Ian Swanson說，雖然生成式AI的快速發(fā)展已催生大量新工具和AI模型，但多數(shù)公司仍在試圖把握自己的數(shù)據(jù)、代碼和AI運營的全貌。

與此同時，一些科技公司領導人，比如總部位于舊金山的銷售和營銷軟件公司6sense的首席信息官Bryan Wise，在簽約新生成式AI功能之前，已經(jīng)側(cè)重于向供應商提出一些更尖銳的問題。

“如果有人提出關(guān)于生成式AI產(chǎn)品的請求，”Wise稱，“我們就得越發(fā)打起點兒精神來，跟對方說，‘告訴我這些數(shù)據(jù)會如何被使用？你如何能確保我們的數(shù)據(jù)不會被用來改進你的模型？’”

文章轉(zhuǎn)載自華爾街日報中文網(wǎng)