對於目前的業務領導者來說,似乎幾乎無法避免兩個小詞:AI代理商。代理商建立在AI模型的“大腦”上,並具有特定的目的和訪問工具,是自主決策者越來越多地整合到實時業務流程中。
與普通的AI工具不同,它依靠用戶提示,基於代理的代理 – AI可以迭代執行任務,做出帶來實際業務後果的決策以及實際的治理風險。簡而言之,代理不是工具,是隊友。除了坐在組織的技術堆棧中,他們還坐在其組織圖表上。
馬克·貝尼奧夫(Marc Benioff),聯合創始人,董事長兼首席執行官 這家價值2600億美元的軟件巨頭Salesforce表示,今天的首席執行官將是最後一個管理全人類勞動力的人。 (貝尼奧夫(Benioff)回答說:“我希望有一天能取代他,“我希望如此。”)越早認識到這一轉變,他們可以越來越快地確保AI並管理AI來加速創新。
正如人類工人屬於人力資源(HR)的傘一樣,將代理人視為非人類資源(NHRS)也很有用。就像人類一樣,使用NHR(包括計算,體系結構和安全成本)也有成本,並且他們需要歸納,培訓和適當的限制以及如何做的事情以及如何做。
尤其如此,因為這些NHR向價值鏈提升了曾經屬於中級人才的高技能任務。例如,自主代理人正在積極管理供應商談判,處理付款條款,甚至基於商品和市場變化調整價格 – 通常由訓練有素的分析師團隊處理的功能。
企業無法確保他們不了解的東西
在企業層面引入NHR,需要整個治理的重新考慮和 安全。這是因為現有的網絡安全著重於內部和外部管理人類風險。它並不是為了以機器速度理解,思考和行動的始終對立,自我指導的代理的現實。
像最好的員工一樣,最有效的代理商將可以訪問企業數據和應用程序,從人員配備信息和敏感財務數據到專有產品秘密。訪問使組織開放了外部攻擊的風險,並從內部濫用。
2024年,全球數據洩露的平均成本為490萬美元,上一年增長10%,是有史以來最高的總成本 – 那是在引入代理商之前。在AI時代,壞演員可以使用新武器,從迅速注射攻擊到數據和模型中毒。
在內部,未對準的代理可以觸發一系列失敗,從損壞的分析到監管違規行為。當失敗源於內部批准的AI時,可能沒有明顯的攻擊者,只是一個符合有缺陷假設的特工。在代理時代,當行動是由非確定性模型驅動的時,無意的行為就是違規行為,尤其是在保障措施不足的情況下。
想像一下,代理的任務是使數據庫保持最新,並具有訪問和權限以插入或刪除數據。它可以通過準確查找和刪除“快速公司”一詞來刪除與快速公司有關的條目。
但是,它可以同樣決定刪除所有包含“快速”或以“ f”開頭的條目的條目。這種粗略的行動將實現相同的目標,但會帶來一系列意想不到的後果。有了代理商,他們如何完成任務的問題至少與該任務一樣重要。
像員工一樣的入職代理商
隨著組織介紹代理團隊,甚至主要由代理商組成,他們合作迅速做出決定並採取高度不透明的行動,風險大大放大。
從一開始,有效採用代理的關鍵是一種有條不紊的方法。只需重新重新重新審核現有的機器學習或Genai活動,例如 聊天機器人作為“代理”(一種稱為“代理洗滌”的做法)是令人失望的投資回報率的秘訣
同樣地,任意實施代理而不理解他們真正需要的地方與僱用不適合預期角色的員工相同:它會浪費時間,資源,並且可以在勞動力中造成緊張和混亂。相反,企業必須確定哪些用例適合代理活動並建立適當的技術和業務模型。
使用模擬攻擊以暴露弱點和設計缺陷,應將代理基礎模型的AI模型的安全性進行廣泛的紅色團隊。當代理可以訪問工具和數據時,關鍵測試是其能夠抵抗學習和不起作用的代理攻擊的能力,並相應地適應。
從那裡開始,治理意味著不僅僅是只是監督。這意味著編碼組織價值,風險閾值,升級路徑和“停止”條件為代理DNA。將其視為數字入職。但是,這些代理人沒有滑動甲板和人力資源訓練,而是攜帶嵌入式文化代碼,這些培養代碼定義了它們的行為,尊重的界限以及何時尋求幫助。
隨著自主代理商攀登(虛擬)公司階梯,真正的風險不是採用 – 這是自滿的。將AI代理視為工具而不是動態的,負責任的團隊成員的企業將面臨不斷升級的失敗,從而削弱客戶之間的信任。
從第一天開始建立跨職能的治理
沒有明智的業務會讓新的畢業生在第一天舉行十億美元的劃分。同樣,不得在沒有進行結構化培訓,測試和緩刑的情況下,不應允許AI代理進入關鍵任務系統。企業需要繪製責任,表面隱藏的依賴關係,並澄清哪些決策需要循環中的人。
例如,想像一個由人類分析師組成的全球運營部門,AI代理人自主監視五個市場,一名機器主管優化所有這些市場。誰管理誰 – 誰得到信譽或責備?
表演什麼?傳統指標,例如記錄的時間或 完成任務,不要捕獲代理每小時運行數百個模擬的生產力,進行測試和迭代並創建複合價值。
為了幫助浮出水和回答這些問題,許多企業正在僱用AI首席官員,並組建具有跨部門代表的AI指導委員會。團隊可以協作定義指導原則,這些原則不僅與業務的每個部門保持一致,而且還與整個公司保持一致。
配置良好的代理應該知道何時採取行動,何時暫停以及何時尋求幫助。這種複雜性並非偶然發生,需要一種主動的安全和治理方法。
這不僅僅是技術發展;這是對領導的考驗。設計透明度,適應性和本機治理的公司將定義下一個時代。 NHRS沒有來,他們已經在這裡了。唯一的問題是我們是我們帶領他們還是由他們領導。
我們列出了最佳的人力資源外包服務和最佳的PEO服務。
本文是Techradarpro的專家見解頻道的一部分,在該頻道中,我們以當今技術行業的最佳和最聰明的頭腦為特色。這裡表達的觀點是作者的觀點,不一定是Techradarpro或Future Plc的觀點。如果您有興趣貢獻更多信息: https://www.techradar.com/news/submit-your-story-story-totor-to-techradar-pro
#您最聰明的員工可能不是人類