假產品審查浪費人們的時間和金錢。它還稀釋並扭曲了賣家之間的競爭。
經過多年的瀆職和欺詐行為，世界各地的監管機構終於採取了行動。在美國，根據聯邦法律，假審查是非法的，聯邦貿易委員會（FTC）可以尋求對違規者的民事處罰。
在英國，競爭和市場管理局（CMA）也試圖削減實踐，呼籲平台 – 包括 亞馬遜 – 在數字市場，競爭和消費者2024年的《競爭》，《勝任評論》中做更多的事情。
作為回應，亞馬遜最近承諾，它將增強其現有系統以發現並刪除虛假評論，包括禁止發布假評論並懲罰欺騙該系統的賣家的用戶。
似乎兩國都採用了類似的方法，但是有一個非常重要的區別。 FTC清楚地表明，AI生成的評論屬於其“假評論”的定義。另一方面，CMA在其109頁的指導草案中沒有指定甚至提及“ AI”，“人工智能”或“ LLM”一詞。 DMCC法案旨在保護數字市場的消費者權利和競爭。
英國監管機構是否定義了評分的評論，因為被AI所寫為假的評分？很難說。如果他們不這樣做，這可能是一個巨大的，錯過的機會來解決我認為將很快成為一個巨大問題。如果這樣做，迫切需要進一步澄清。
Pangram Labs的聯合創始人兼首席執行官。
AI可能會破壞客戶信任
AI生成的評論的擴散有可能破壞對 一勞永逸的客戶審核系統。亞馬遜是第一個引入評論功能的在線零售商，但是該系統現在受到Chatgpt，Claude和Gemini等大型語言模型（LLM）的威脅。這對於電子商務巨頭和更廣泛的行業可能會造成嚴重破壞。
我們在Pangram Labs的使命是減輕由即將到來的強大的AI模型浪潮造成的新問題，並確保它們對世界的淨淨積極。因此，我們要求研究人員調查AI生成的評論在Amazon.com上展示的規模，結果使我們感到驚訝。
我們分析了近30,000份客戶評論，分別針對10個類別的500種暢銷產品，包括美容，嬰兒，健康，電器和家具。我們發現了AI生成的客戶評論的廣泛證據。
嬰兒產品最有可能進行AI生成的評論 – 分析的3,037個評論中有5.2％包含LLMS生成的文本。這對使用“地球最大的嬰兒願望清單”的父母具有影響，許多人依靠該平台的主要服務來快速交付尿布，濕巾和配方等重要用品。
“美麗”和“健康與放鬆”類別分別以第二和第三名 – 分別為5％和4.4％。在這一類別中，影響力的力量很強，在非常飽和的市場中，建立和挑戰者品牌競爭買家的注意力。
如果您要購買花園，那麼您最不可能在前50名最暢銷的產品上遇到AI生成的評論 – 目前只有1.7％。
AI生成的評論可能會增加
儘管在某些產品類別中，AI與人寫的評論的總比例較低（但我們認為仍然對此表示關注），但我們發現最有可能使用AI編寫積極評價，而負面評論更有可能是人寫的。在研究中確定的AI生成的評論中有74％為5星，而非AI評論中有56％。 AI生成的評論中只有10％是1星，而非AI評論的21％。
更重要的是，涉嫌完全或部分生成的評論中有93％是“經過驗證的購買”。這意味著他們有了合法買家出版的亞馬遜的認可印章，從而增加了他們的真實感和可信賴感。
隨著LLM的使用越來越廣泛，使用更便宜，AI生成的評論的問題只會變得更大，因此，監管機構早期對此進行解決很重要，並且零售商現在開始採取行動。
在其他情況下，如果客戶短時間或不確定該說些什麼，則可以使用LLM為他們編寫評論。但這可能會歪曲他們對產品的真實經驗並誤導他人。儘管這種做法沒有惡意意圖，但也不應鼓勵它。
保護在線購買體驗
我們研究的發現還質疑了2023年推出的亞馬遜AI生成的客戶評論亮點的有用性。這項最新的創新為產品詳細信息頁面上提供了簡短的段落，以供客戶了解一些跨越數百甚至數千次發表的評論，包括產品和購買者節目的共同主題。如果假AI評論的百分比在產品頁面上增加，則AI概述本質上是毫無用處的。
為了幫助保護在線購買體驗和更廣泛的互聯網免受不真實和不准確的信息，我敦促包括亞馬遜在內的監管機構和平台採取大膽的行動，以阻止AI生成的內容在其平台上發布。第一步是承認這是一個只會變得更大的問題。第二個是確保偽造評論的定義包括AI生成的評論。而且，如果您是亞馬遜客戶留下產品評論的客戶，請不要將任務外包給LLM。
本文是Techradarpro的專家見解頻道的一部分，在該頻道中，我們以當今技術行業的最佳和最聰明的頭腦為特色。這裡表達的觀點是作者的觀點，不一定是Techradarpro或Future Plc的觀點。如果您有興趣貢獻更多信息： https://www.techradar.com/news/submit-your-story-story-totor-to-techradar-pro
#我是AI專家這就是為什麼假AI評論將成為一個巨大問題的原因很快
