- 思科塔洛斯(Cisco Talos)發現了數百台Ollama服務器,這些服務器可以濫用各種網絡犯罪
- 潛在威脅包括模型提取攻擊,越獄和內容濫用,或後門注入和模型中毒(部署惡意軟件)
- 思科警告說,企業正在忽略基本安全實踐。
專家聲稱,在公共互聯網上發現了1,100多個Ollama服務器,打開了各種網絡犯罪的大門。
經過快速的Shodan搜索,安全研究人員Cisco Talos找到了服務器,這些服務器是本地或遠程系統,它們在不依賴外部雲提供商的情況下運行大型語言模型。它們允許用戶直接在自己的硬件或私人基礎架構上下載,管理和運行AI模型。這種設置通常由需要更多控制,隱私和降低潛伏期的開發人員和企業使用。
當這些服務器接觸到更廣泛的互聯網時,它們可以啟用模型提取攻擊(攻擊者重建模型參數),越獄和內容濫用(迫使LLMS生成受限或有害內容)或後門注入和模型中毒(部署 惡意軟件),除其他外。
休眠和主動服務器
在發現的1,100台服務器中,大多數(約80%)是“休眠” – 這意味著它們沒有運行任何模型,因此無法在網絡犯罪中濫用。
但是,其餘20%的人“正如思科塔洛斯(Cisco Talos)所說,“主動託管了容易受到未經授權訪問的模型”。研究人員警告說,“他們的裸露界面仍然可以在涉及資源耗盡,拒絕服務或橫向運動的攻擊中利用。 ”
大多數裸露的服務器都在美國發現(36.6%),其次是中國(22.5%)和德國(8.9%)。
對於思科塔洛斯(Cisco Talos),這些發現“突出了對AI系統部署中訪問控制,身份驗證和網絡隔離等基本安全實踐的廣泛忽視。”
在許多方面,這與錯誤配置或暴露的數據庫無關,這些數據庫可以輕鬆地訪問這些數據庫,竊取用於網絡釣魚或社會工程攻擊的數據。
通過 寄存器
您可能還喜歡
#數百個LLM服務器在網上曝光 #這就是我們所知道的