“AI歌手”的聲音合成技術，有可能被惡意使用，成為違法犯罪的“幫兇”。科技這把雙刃劍要謹慎對待，唯有法律與監管體系跟上AI技術的變革步伐，才能引導人工智能“向善”。

　　吳睿鶇

　　從AI換臉、AI繪畫到AI寫論文，科技的力量讓人驚嘆。現在，AI翻唱又火出圈。近段時間，“AI孫燕姿”走紅全網，其翻唱的歌曲在B站點擊量有的破百萬，一時間，幾乎就沒有“AI孫燕姿”駕馭不了的曲風。

　　跟原唱相比，AI翻唱固然在技術、唱腔和技巧上仍有一定差距，但音色已經基本實現完全復制、以假亂真，同真人演唱的音色并無二致。除了知名當紅歌手外，還有網友自行“訓練”了已故知名歌手的聲音模型，通過AI合成語音讓歌迷再次聽到了久違的聲音。

　　在AI技術涉足的音樂領域，翻唱如日中天、制造全民狂歡視聽盛宴的同時，侵權成為不可回避的問題。一則，AI翻唱涉嫌侵害歌手的聲音權益。依據《民法典》中對于聲音權的規定，利用明星聲音進行AI模型訓練，要征求本人同意獲得授權，否則，AI模仿歌手聲音產生的音樂有可能侵犯歌手的聲音權。二則，在訓練AI模型的過程中，使用的音樂作品要得到著作權人的授權，方可公開播放、表演，否則，會涉嫌侵害原創者的著作權。此外，倘若用AI歌手演唱的作品吸引流量或進行銷售，并獲得了經濟利益，則涉嫌侵害著作權中的信息網絡傳播權。

　　除了模仿歌手外，AI聲音合成技術可能會在更廣泛的領域被惡意應用，成為違法犯罪的“幫兇”，對社會構成新威脅。譬如，通過偽造親朋好友的聲音進行電信詐騙；再如，使用AI變聲技術進行入室搶劫；在婚戀領域使用“殺豬盤”等違法犯罪活動，這些都需要加以積極防范。

　　事實上，在頂層設計方面，國家有關部門正在給生成式人工智能劃出底線與紅線。4月11日，國家互聯網信息辦公室發布的《生成式人工智能服務管理辦法（征求意見稿）》指出，利用生成式人工智能生成的內容應當真實準確，要采取措施防止生成虛假信息；提供生成式人工智能產品或服務應當尊重知識產權、商業道德，不得利用算法、數據、平臺等優勢實施不公平競爭等。

　　從繪畫、寫作、影視，再到眼下的音樂，AI技術的變革序幕已然拉開，其影響范圍還在不斷延伸，這無疑需要法治與監管方面迎頭趕上，一刻不容松懈。唯有法律與時俱進，跟上AI技術變革步伐，構建起嚴密、高效的監管體系，才能引導人工智能“向善”，有效防范類似利用“AI歌手”等科技作惡的行為，切實保護利益相關方的合法利益。