美國母親因利用deepfake 誣陷女兒啦啦隊對手被捕


啦啦隊長搖動藍色和白色的絨球

通過Getty Images的clsgraphics

雖然deepfake 這項技術讓人看到了不小的潛力,但它同時也蘊藏著巨大的濫用風險。據 費城詢問者愛國者新聞 报道,日前美国宾州一位名叫 Raffaela Spone 的母亲,因为利用 deepfake 诬陷女儿啦啦队竞争对手的行为而被捕。根据执法部门的说法,Spone 通过 AI 合成了受害者吸菸、饮酒、裸露的影像,并将其发送给了啦啦队的教练,希望让自己的女儿因此获益。

實際上,最早在去年七月時警方就接到了報案,一名受害者聲稱從匿名號碼收到了騷擾訊息,在那之後又陸續出現了數個類似的案例。警方在對發訊的號碼進行追踪後,找到了一個電話推銷網站,然後通過IP 地址順藤摸瓜,最終確定了Spone 的身份。在對其手機進行搜查之後,警方果然找到了和騷擾號碼有關的證據。

目前Spone 正面臨網絡騷擾兒童等相關指控,警方並未對她的女兒採取行動,因為他們相信其對母親的行為並不知曉。這樁案子再度提醒了人們deepfake 的潛在危害性,發展相應的甄別系統顯然已成為一個非常重要的課題了。

Leave a comment

Your email address will not be published. Required fields are marked *