不法之徒利用AI換臉技術詐騙 張念群:設法與社交平台合作遏止

2024-03-05     緣分

不法之徒利用AI換臉技術詐騙 張念群:設法與社交平台合作遏止

(吉隆坡5日訊)通訊部副部長張念群提醒社交媒體用戶,慎防不法之徒利用人工智慧(AI)製作的內容進行詐騙。

她以不法人士利用AI換臉技術為例,早前社交媒體流傳一則視頻,利用AI技術盜用首相拿督斯里安華的肖像權,訛稱某個投資計劃可賺取豐富回籌。

她說,她已將上述視頻的連結發給Meta公司,要求在其平台撤除這支視頻。

「這已不是我第一次接獲這項投訴,利用AI換臉技術生成首相的視頻進行投資詐騙,作為人民的我們必須謹慎。」

張念群今日為2024年亞洲太平洋廣播聯盟(ABU)數碼廣播研討會主持開幕禮後,對記者這麼說。

張念群說,社交平台巨擘或供應商如Meta、TikTok和谷歌必須設法通報換臉技術的內容,以防用戶上當。

「針對此事,政府也正研究加強與社交媒體平台的合作。」

她表示,社會確實備受鼓勵使用新科技如AI,但同時需保持警惕應對新科技所帶來的挑戰與風險。


分享到