約翰·麥格(John McGing)無法到達人類。在這種經濟中,這可能是往往的,但這不是業務。他打電話給社會保障局,那裡的問題通常不是通用,而呼叫者往往會年齡較大,殘疾或其他脆弱的美國人。
麥格格代表他的兒子呼籲,有一個韋德的問題:如何防止聯邦政府後來撤回的多付付款。他的電話被人工智能驅動的聊天機器人攔截。
不管他說什麼,機器人都對通用問題的罐頭答案燒毀了,而不是麥金的晦澀難題。他說:“如果您進行鑰匙按下,它什麼也沒做。”最終,機器人“小故障或其他任何東西”,然後把他帶到了經紀人。
這是一個很小但揭示的事件。馬里蘭州的前社會保障員工McGing不知道,他遇到了該機構最近引入的技術工具。該機構的前官員和長期觀察員說,特朗普政府推出了經過測試但在拜登政府期間尚未準備就緒的產品。
“有了新的政府,他們只是有點像,讓我們快速地修復它,這是我不同意的,因為您將引起很多混亂,” Marcela Escobar-Alava說,他在喬·拜登(Joe Biden)總統的領導下擔任社會保障首席信息官。
大約7400萬人 獲得社會保障福利;其中1100萬人獲得殘疾付款。在 去年秋天進行的調查,超過三分之一的接收者表示,如果沒有它,他們將無法負擔食品,衣服或住房的必需品。然而,該機構一直在為服務人員服務的員工提供:約6,200人離開了該機構,其專員 在六月告訴議員,儘管該機構努力建立新技術,但國會和其他地方的批評者說,這導致了較差的客戶服務。
乘新手機機器人。至少有些受益者不喜歡它:社會保障的 Facebook頁面 正如該機構在7月份所說 近41%的電話 由機器人處理。
立法者和前代理商員工擔心它預示了人類不那麼人性化的社會保障,在這種社會保障上,匆忙的AI代替了被推翻,經驗豐富的員工。
跨聚會的焦慮
對代理機構的方向的關注是兩黨。 5月,一群眾議院共和黨人 寫信給社會保障局 表達了對政府效率的支持,但警告他們的選民批評該機構“不足的客戶服務”,並暗示某些措施可能“過於繁重”。
該機構的專員弗蘭克·比西尼亞諾(Frank Bisignano)是華爾街前執行官,是科技愛好者。他有一份倡議清單,可以在特朗普政府的2026財年預算請求中花費6億美元的新技術資金。當被問及他的計劃是否意味著他將用AI代替人類員工時,他就很坦率。
“您指的是SSA一直處於歷史較低水平;這也處於歷史最高水平的高度。”他在6月下旬的一次眾議院聽證會上搶購了一個民主黨人。
但是前社會保障官員更加矛盾。在接受KFF Health News的採訪中,離開該機構的人們(有些人在匿名的狀況上發表講話,因為他們擔心特朗普政府及其支持者的報應,他們認為新政府只是趕到了拜登政府開發的技術,但尚未準備就緒。他們還說,該機構對成千上萬的員工解僱,導致了經驗豐富的技術人員的喪失,這些技術人員最有能力推出這些計劃並解決他們的弱點。
參議員伊麗莎白·沃倫(Elizabeth Warren,D-Mass。 “我們應該使人們盡可能容易地獲得他們所獲得的社會保障。”
該機構的發言人沒有回答KFF Health News的問題。
使用AI自動化客戶服務是矽谷最繁華的業務之一。從理論上講,新的人工智能技術可以以人類的聲音順利做出任何問題。這並不是社會保障局的機器人的工作方式,用戶報告了罐頭,無關的響應。
前機構官員凱瑟琳·羅米格(Kathleen Romig)說,特朗普政府已經取消了一些在線統計數據,這些統計數據掩蓋了其真正的表現,他曾是預算和政策優先事項的左傾中心社會保障和殘疾政策主管。舊網站顯示,大多數呼叫者都等待兩個小時才能答案。現在,該網站沒有顯示等待時間,要么以進行電話查詢(一旦計算了等待時間)或預約時間表。
儘管統計數據表明受益人會獲得幫助 – 也就是說,使用AI機器人或該機構的網站來完成諸如獲取替代卡之類的任務,Romig說她認為這是總體上“非常扭曲的視圖”。她說,對AI機器人的評論通常很差。
在拜登政府期間首先從事AI產品的代理商領導者和員工預見了這類困難。 Escobar-Alava表示,他們已經從事這樣的機器人工作,但是想清理首先依賴的政策和法規數據。
她說:“我們想確保自動化產生一致,準確的答案,這將花費更多時間。” Escobar-Alava說,取而代之的是,特朗普政府似乎首先選擇引入機器人併後來進行故障排除。
羅米格說,一位前高管告訴她,該機構使用了常見問題解答,沒有修改或細微差別來適應各個情況,並正在監視該技術以查看其性能的表現。埃斯科巴·阿拉瓦(Escobar-Alava)說,她也聽到了同樣的聲音。
自動化可以幫助嗎?
對於Bisignano而言,自動化和Web服務是協助計劃受益人的最有效方法。在 給沃倫的信,他說,代理商領導者“將SSA轉變為一個數字優先的代理機構,與他們想要滿足的客戶相遇”,進行更改,以使絕大多數呼叫以自動方式進行處理,或者通過讓人類返回客戶的電話。
Bisignano寫道,使用這些方法還減輕了其他陷入困境的現場辦公室的負擔。
改變電話體驗並不是Bisignano的技術夢想的終結。該機構要求國會 約6億美元 根據6月下旬提交的房屋清單,他打算為在線安排,檢測欺詐等投資提供額外的資金。
但是外部專家和前僱員說,比西尼亞諾誇大了他向國會提出的想法的新穎性。羅米格說,該機構多年來一直在更新其技術,但這並不一定意味著成千上萬的工人突然過時了。她說,升級仍在繼續,這還不錯,但是進步比革命性更為漸進。
一些更改的重點是激發該機構的公眾面貌。 Bisignano告訴眾議院議員,他監督了該機構的績效statistics頁面的重新設計,以強調自動電話的數量,並認為強調有關呼叫等待時間的統計數據。他稱後一個統計數據“令人沮喪”,並建議在線展示它們可能會阻止受益人致電。
沃倫(Warren)說,比斯尼亞諾(Bisignano)自此私下告訴她,他將允許其客戶服務質量數據的“監察長審核”,並承諾公開列出績效信息列表。此後,該機構更新了其績效統計頁面。
其他更改將以更大的成本和精力進行。 4月,該機構推出了一項安全身份驗證計劃,以進行直接存款變更,要求受益人在監管文件中描述的作為“自動化”分析系統中所描述的情況下對其身份驗證其身份。
根據 隨附的文件 該提案估計將受到約580萬受益人的影響 – 這將使聯邦政府損失近12億美元,主要是由專門用於協助索賠人的員工時間驅動的。該機構在即將到來的會計年度要求薪資總額近77億美元。
休斯敦的財務顧問克里斯托弗·亨斯利(Christopher Hensley)說,他的一位客戶在她的銀行更改了路線號碼和社會保障局停止向她付款後,於5月給他打電話,迫使她向家人借錢。
事實證明,該機構已將她的帳戶標記為欺詐。亨斯利說,她必須前往最近的社會保障辦公室旅行30分鐘,以驗證她的身份並糾正問題。
#社會保障稱讚其新的聊天機器人前官員說它已經進行了測試但在拜登下被擱置