AI 變臉謎片不是假新聞 它未來會更麻煩

人工智慧 (AI) 和演算法誤用,導致大規模侵害個人權利之事,在很多國家並非罕見。人工智慧為新興科技,但卻又必須結合既有的市場才能發揮科技樂觀者認為之最大綜效。然而台灣過去討論人工智慧一向以產業發展和促成製造業流程自動化為主要標的,人工智慧遭致濫用的場景,本可藉了解國外其他侵害事件來學習。不過這次換臉謎片讓公眾人物瞬間警覺 AI 的威力,卻是促成正視誤用、濫用和目的外利用 (re-purpose) 的最糟案例。

藉由 AI 置換公眾人物的臉為情色片主角,有其技術上之難度,但在使用者端的傳播卻是簡單的。首先公眾人物的人臉素材取得方便,而且影像品質通常很高。社群媒體時代,台灣的公眾人物樂於自拍影片上傳網路平台,而這些高畫質影片,就成了技術團隊和業者訓練人工智慧模型的最佳「內容農場」。

這些內容的搜集是第一個要注意的,因為只有畫質很差的大頭相,也很難拿來置換作為「入目」的影片。因此,公眾人物的人臉影像和影片是否在平台上能被無差別的搜集和利用?這就回到了個人資料和人格權的保障範疇。人臉影片是否應該視為個人資料?其是否為本國「人格權」應為保障之標的?這是討論的第一個切入點。

第二個是,如果目前尚未成為公眾人物,但未來是,那麼他/她的人臉影片是否應該有某種程度的保障?合理的推論應該是有的,例如未成年的少女這個族群的人臉影片,理應事先關注。此外,我們很難預測十年後你我誰會成為公眾人物,只保護現在的公眾人物,這在立法技術上和資訊技術上同樣是窒礙難行。

再來是,「目的外利用」這個極難解決的課題。試想,因為科技防疫的緣故,很多企業導入了可以扣連人事資料的影像識別技術,除了測量體溫之外,也可以直接串連人事資料。這在「安防」產業尤其盛行。但在勒索病毒和網路攻擊普遍的年頭,台灣一般產業的資訊安全整備,是否能保護這些牽涉到人臉的資料不被外流甚至遭致離職員工攜出?從過去詐騙集團犯罪的歷史來看,這是很難樂觀的。當一個高畫質影片的資料庫外流時,圖謀不軌的團隊,自然可以先將這些數據儲存,以供未來的目的外使用,甚至是待價而沽,打包賣出。

此次因為是涉及名譽和敏感的情色影片,讓這個難以啟齒的議題「一砲而紅」。能接合人臉到特定情色工作者的技術,是有難度,而且大規模部署這個技術,有諸多的門檻。但和網路技術過去普及的歷史一樣,這技術的普及會有境外或境內的平台提供「解決方案」,而這些獲利極高的平臺,不必然是你我平常會用的社群平台。在「產製端」,或許只要你有一段高畫質段片其影像品質能滿足這個平台演算法置換人臉的運算條件,那麼這些平台就會有人使用,而且會有後續的「商機」。

對台灣社會來說,在急於立法之前要做的應該是了解上述環節,包含人臉數據無差別的搜集、儲存、製作、再應用、目的外利用,結合娛樂傳播等。在尊重人權的國度,目前已經嘗試直接禁止大規模自動化人臉辨識之搜集行為和服務的提供。人工智慧猶如這個網路時代的原子能,在我們的社會遭致第一波的影響之際,不妨想想其本質和界線如何用法律和人權保障的觀點看待之。

人工智慧只會做好事的年代,早就已經過去了。未來人臉接合的影片,搞不好會出現在選舉。當人們急於消費社群媒體的同時,如果看到30秒的政治人物發言影片做出反應,但事後才被發現,原來是 AI 換臉得來的,那麼這件事對於民主和人權的威脅,我們現在就設想得到。立法態度和技術面要處理的問題,必須嚴肅謹慎。


原刊於:https://forum.ettoday.net/news/2104941

Photo by Ash Valiente from Pexels

Leave a Reply

Fill in your details below or click an icon to log in:

WordPress.com Logo

You are commenting using your WordPress.com account. Log Out /  Change )

Google photo

You are commenting using your Google account. Log Out /  Change )

Twitter picture

You are commenting using your Twitter account. Log Out /  Change )

Facebook photo

You are commenting using your Facebook account. Log Out /  Change )

Connecting to %s

This site uses Akismet to reduce spam. Learn how your comment data is processed.