抖音重拳出擊:封禁千餘“AI仿冒於東來”違規帶貨賬號

【AIbase 報道】近期，網絡直播和電商平臺出現了一種新型的黑灰產亂象:利用人工智能技術，仿冒名人於東來的語音和形象進行違規營銷帶貨。針對這一嚴重侵權並誤導消費者的行爲，抖音平臺已於今年第一季度採取了強力治理措施，成功封禁了超過1000個涉嫌違規的黑灰產團伙賬號和相關內容。

技術濫用與法律制裁

這些黑灰產團伙通過AI技術，非法複製和利用了於東來的個人肖像和聲音，製造了大量虛假營銷內容。他們的行爲不僅侵犯了相關企業的合法權益，也嚴重擾亂了正常的市場秩序，讓消費者陷入真假難辨的困境。

在對這些違規賬號進行封禁的同時，抖音平臺還將相關線索舉報給了監管部門。經過深入調查，泉州市豐澤區市場監督管理局已對涉事企業進行了法律制裁，沒收其違法所得並處以15萬元的罰款，以此警示其他潛在的違法者。

AI治理面臨新挑戰

隨着AI技術的飛速發展，其應用邊界也在不斷拓寬，但隨之而來的技術濫用問題也日益突出。此次“AI仿冒”事件，再次凸顯了平臺在技術進步背景下，所面臨的內容治理新挑戰。

抖音表示，將持續加大對濫用AI行爲的打擊力度，並呼籲廣大用戶共同監督，一旦發現相關違法違規內容，可立即舉報，共同維護一個健康、清朗的網絡環境。