- 首页 10元就能“复活”亲人?数字重生背后信息安全边界在哪里

10元就能“复活”亲人?数字重生背后信息安全边界在哪里

科技
小彩圈
4/1/2025 6:0
138

中国消费者报报道(记者武晓莉)清明节是人们慎终追远、缅怀先人的重要日子。在网络时代,清明祭扫也产生了多种形式。电子墓园、网络祭扫、AI复原逝者音容笑貌等方式,既满足了不同人的需求,也引发了一些法律责任、科技伦理等方面的争议。AI复活有哪些技术路径?需要什么条件?会涉及哪些法律问题?记者对此进行了采访。

情感消费现新形态

著名音乐人包小柏中年丧女后,通过数字技术为逝去的女儿制作了可互动的数字形象,寄托思念。此事曾引发社会广泛讨论。如今,AI复活技术已从个案走向商业化应用,形成了独特的情感消费市场。

记者调查发现,AI复活服务在电商平台上层出不穷。在某电商平台上,制作逝者AI视频的价格便宜的不到10元,部分商家打着“包小柏女儿同款”旗号。近期,韩国艺人金赛纶的家属通过AI视频向粉丝传递遗言;演员韩庚在综艺中复原了已故岳父母的影像,引发观众情感共鸣。殡葬行业也捕捉到这一趋势,推出AI数字人服务,试图通过“复活”逝者开拓新商业模式。

记者看到,电商平台上,一款折后只要9.41元的AI复活产品已售出600份,好评率100%。用户345评论:“感恩师傅超凡技术为我制作了视频,(令逝者)犹如重生在我面前,看着看着已泪如泉涌。”另一位匿名用户评价:“制作视频采用超语种克隆语音,还原了老母亲的声音本色,好像天堂的妈妈站在自己面前对话一样。”

“AI复活主要用到语音合成、图像生成和对话交互三大技术。”看科技博主黄海峰向记者介绍了AI复活背后的核心技术。在语音合成方面,借助Tacotron等深度学习模型,剖析大量语音数据,提取特征并关联文本信息,经训练掌握文本到语音特征的映射,再由声码器转化为音频。图像生成以生成对抗网络(GAN)为代表,生成器与判别器相互博弈,促使生成器产出逼真图像,用于塑造人物外貌神态。对话交互则依靠基于Transformer架构的语言模型,如GPT系列,在海量文本中学习语言结构和语义,依输入问题生成回应。

黄海峰说,目前,AI复活在语音合成上可打造高度逼真自然的声音,如能精准模仿名人音色、语调等,重现其朗读、演讲之声;图像生成可呈现逼真人物形象,涵盖面部表情、服饰等细节,还能实现动态展示;对话交互能模拟特定人物语言风格对话,但在复杂逻辑和深度知识上尚存不足。

普通人难以实现“重生”

“大概念应该称为‘虚拟数字人’技术。”科大讯飞有声平台总经理郜静文对记者说,“从最早的三维动画到现在的AI交互,虚拟数字人已发展出二维和三维两种形态。三维技术又分为真人动捕驱动和AI自动化驱动。”据她介绍,技术进步使得数字人构建门槛大幅降低,最初至少需要30分钟的视频素材才能训练口型和表情,现在30秒的素材就能完成数字人的建模。最新的视频生成技术甚至能凭一张照片就让数字人唱歌、说话并做出自然动作。

虽然AI可以通过人格测试模拟基础性格特征,但个体复杂的个性特质仍无法被完整还原。郜静文认为,目前电商平台的AI复活产品,是一种初级的生成式AI。能和生者进行对话,看上去和活着一样,实际上可能采用的是用逝者的视频去换脸,然后根据逝者资料给出一个人设,进行AI训练,最后用数字人的形式呈现出来。

以包小柏案例为例,郜静文分析说,他脑子里对女儿有期望:健康、长发、经常旅游,有自己的工作和学习梦想等,这是父亲对女儿的期望,只不过用数字人的形象将生者心中的人设或期待进行呈现。郜静文说,真正的生成式AI复活需要视频大模型支撑,通过海量个人数据进行专项训练和持续优化,这对普通家庭而言存在巨大门槛。

“实现AI复活并非易事,需要诸多条件。”黄海峰补充说明了实现条件:需要目标人物大量的语音、图像和文本数据作为基础,配合高性能GPU集群的计算资源。合适的深度学习算法只是起点,还需要专业团队进行针对性调优。

“现在销售的数字人,只是把人的外在的东西给复刻出来了而已。”郜静文说。

热潮背后有隐忧

当前AI复活技术引发的伦理争议和法律风险正日益凸显。一位不愿具名的AI行业人士向记者透露:“头部人工智能企业普遍回避这类开发,因其涉及复杂的伦理悖论和法律风险。”该人士指出,这项技术既可能成为情感慰藉,也可能阻碍哀伤疗愈过程,甚至阻碍生者走出哀伤,诱发逃避现实的心理倾向。更值得关注的是,技术对人性复杂性的简化处理,可能导致数字形象丧失真实意义。

在隐私保护层面,对逝者的信息处置也面临风险。中国政法大学知识产权研究中心特约研究员、嘉潍律师事务所合伙人赵占领律师向记者解释说,根据现行法律,逝者的肖像权、名誉权等权益由其近亲属继承。即便是合法授权,复活后的数字人也不排除有可能出现有损逝者社会评价的内容,可能引发法律纠纷。

业内人士指出,构建数字人需要大量采集逝者外貌、声音和经历等个人数据,这类敏感信息的存储、传输和使用都存在泄露风险。更棘手的是,用户与数字人交互产生的行为数据,可能被不当利用,用于深度伪造、诈骗等违法犯罪活动。

“对用户和逝者的个人信息,AI软件的经营者只能利用用户提交的信息生成产品,但不能收集、保存、运输,也不能用来训练大模型的数据。”赵占领提醒用户,无论是委托别人制作视频、数字人,或者是使用AI软件生成,对个人信息都要明确约定使用范围。对于经营者而言,任何超出约定范围的数据处理行为,都必须取得用户的二次明确授权。

“要遵守《个人信息保护法》的相关规定,收集和使用个人信息就遵循合法正当必要原则,而且经过用户的同意,并且按照双方所约定的用途和目的去来使用或者保管个人信息。”赵占领说。


北美美国华人导航网 提供最新的华人资讯及最便利的网站提交 请多关注小彩圈网


同类新闻

小彩圈网- 致力于打造成为美国华人访问量最大美国网址大全, 北美美国里最专业的华人导航网站,专门为在美国的华人及留学生设计的美国网址导航。我们平台提供大量的华人/中文网站等相关资源,精准的信息搜索,改善了用户体验和对移动平台的支持。