AIGC技术飞速发展带来安全隐患，市人大代表刘忱提出治理策略

随着生成式人工智能技术的飞速发展，其在为人们生活和工作带来极大便利的同时，也暴露出了一系列安全隐患。在2025年上海地方两会期间，市人大代表、上海合合信息科技股份有限公司董事、董事会秘书刘忱，就“以科技伦理为导向，科技助力AIGC安全发展”的话题，提出了多项建言献策。

据刘忱介绍，AIGC技术近年来实现了从文生文、文生图到深度伪造、文生视频的跨越式发展。然而，这种快速发展也伴随着虚假舆论、电信诈骗技术升级和知识产权侵犯等问题的频发。统计数据显示，2023年基于AI的深度伪造欺诈数量暴增3000%，四分之一的成年人受访者经历过AI语音克隆骗局，70%的人难以分辨克隆声音与真实人声。这些问题不仅严重威胁了社会秩序和公众安全，也对知识产权保护构成了严峻挑战。

针对这些安全隐患，刘忱呼吁多管齐下，从多个方面入手加强治理。他建议，应构建各方共同参与、技管结合、分工协作的治理机制，共同打击AIGC虚假新闻。同时，鼓励企业研发AI防御与鉴伪技术，设立专项资金支持科技企业在AIGC虚假信息“主动防御”和“主动检测”方面的应用。此外，构建更加公正的数据集和强化伦理训练也是解决算法偏见、避免虚假信息输出的重要方法。

在知识产权保护方面，刘忱建议通过科技手段强化法律“武器”。对于发布内容，应从性质上区分营利与非营利，非营利性质需要联合平台做好发布前的责任提示；如涉及营利性质，则需进一步明确AIGC知识产权归属，细化侵权责任认定，加强数据知识产权保护。同时，执法过程中还可引入技术手段对AIGC生成的视频、图像进行版权标识和追踪，为原创作品提供确权服务。

随着AIGC技术的不断进步，如何应对其带来的安全挑战已成为行业的共同课题。只有在伦理引导下全面加强技术研究与法律保护，才能推动AIGC技术的健康发展。