2023是AI大熱之年，無數新穎人工智能應用面世。在一片全新的科技領域，自然也談不上監管。目前社會對AI的眾多憂慮之中，Deepfake換面咸片、裸照一類的問題開始浮現，外媒指利用人工智能製作的換面咸泛濫成災，今年首三季的上載量已經多過住年全年的數目，同時由於技術普及化，外國有男高中生用AI製作女同學裸照再廣傳全班，最終惹來警方介入調查。
校園內的AI圖像生成器濫用問題
據華爾街日報報導，美國新澤西州Westfield Public Schools高中的男學生在10月份開始表現奇怪，例如聚在一起竊竊私語，校方經過4日調查後發現男學生一直在使用人工智能圖像生成器製作和分享女同學的虛假裸照，隨後由警方接手事件，並有州參議員已要求縣檢察官介入案件。
西型牙南部小鎮Almendralejo今年亦錄得同類事件，20多名女學生收到自己的裸照並勒索金錢，而照片實際上是有心人在他們的Instagram下載後利用Deepfakes應用程式ClothOff制作裸照後製作。當地警方指，勒索者包括受害女性的同學。
Deepfake圖片檢測公司Reality Defender執行長 Ben Colman指幾年前製造虛假圖像需要1整套電腦，如今門檻降低至只需要1部iPhone，而市場上的大型圖像生成工具如OpenAI的DALL-E或Adobe的Firefly禁止用戶產生色情影像的審核規則，然而網路上充斥住類似ClothOff的工具，成品是人眼難以區分。
Deepfake色情影片數量的驚人增長
至於最早成為問題的Deepfake換面性交影片數量更是以幾何級數增加，外媒WIRED更以「Deepfake咸片已失控」點出問題。報導引述一位獨立研究人員對非自願產生的Deepfake色情影片進行的新分析，指過去七年內至少已經有超過24萬條Deepfake色情影片上載至35個大型網站，單是今年首9個月已經有11.3萬條新影片出現，較去年全年的7.3萬條影片多54％，並預期2023全年製作的Deepfake色情影片數量將超過所有其他年份的總和。
更多相關報導
2023年必需識｜什麼是生成式人工智能Generative AI？
AI人工智能｜中國、香港及韓國虛擬明星KOL與日俱增(多圖)
更多最新最熱最有用財經金融地產資訊 請即登記成為Finance730會員
歡迎讀者投稿，稿件請投至finance730hk@gmail.com
▼追蹤Finance730 動向 官方網頁
▼緊貼最新市場走勢
▼投資教室 專題研究
▼消閒生活 時尚品味
