AI工具進軍“殺豬盤”：要求對AI生成內容進行標注難在哪兒丨快評
在AI技術日新月異的今天，生成式內容“以假亂真”的范圍勢必更廣，“效率”勢必也更高。不妨做個簡單的思想實驗：如果高效高頻的AI生成內容可以快速獲取流量與關注，從而為平臺方與從業者帶來巨大利益的話，他們恐怕并沒有多少意愿進行信息標注。而對那些并非大公司的“獨狼式”AI模型而言，AI技術濫用乃至用于詐騙，其潛在破壞性是巨大的，監管也不能完全寄希望于自律。
責任編輯：陳斌
人工智能的飛速進步，繼續引發爭議與擔憂。據媒體近期報道，東南亞犯罪集團已經在網絡詐騙活動中開始使用生成式人工智能聊天機器人，有“換臉軟件公司”甚至已經推出了“7天24小時支持、送貨上門服務”，并聲稱已在一千多個區域安裝了其產品。不過AI對詐騙業務似乎“還不大熟練”，在發送消息時不打自招說“我是一個語言模型，還不大擅長描繪情緒與感受”。
以“殺豬盤”為代表的詐騙活動早已有之，只不過載體時有變動，從短信詐騙到電話詐騙到社媒交友詐騙，不一而足。在以往的詐騙活動中，犯罪團伙需要雇用大量熟稔詐騙話術、洞察人性心理的“狗推”也就是人工從業者，以婚戀、投資、博彩等誘餌誘騙受害者一步步上當，榨取他們的巨額錢財。
而更為常見的詐騙場景源于信息泄露。一旦自然人的各項個人信息泄露，犯罪團伙就可以用這些信息打造一個“還原度”極高的數字人，模擬被
登錄后獲取更多權限
校對：胡曉
歡迎分享、點贊與留言。本作品的版權為南方周末或相關著作權人所有，任何第三方未經授權，不得轉載，否則即為侵權。