网站导航
“数字亲人”隔屏相望 追思之余小心纠纷
kaiyun官方网站下载
“数字亲人”隔屏相望 追思之余小心纠纷

  近来,在网络上出现了利用人工智能技术将亲人“复活”的新型服务,通过制造一个与亲人一模一样的数字人,透过屏幕与其聊天,以慰藉思念之情。清明将至,网络上关于“数字亲人”的报道多了起来。据了解,一个数字人的价格从几元到几万元不等。

  新颖的科技在带给消费市场活力的同时,也引发了各种争论。有人觉得,能看到心心念念的“亲人”出现在屏幕上,是科技造福人类;也有人质疑消费者是否有权利“复活”逝去的亲人;还有人担忧这种新型服务可能会引起泄露隐私,甚至造成消费纠纷。面对新的消费市场,现有法律如何保护消费者的权益?《中国消费者报》记者对此进行了深入调查。

  记者在多个电子商务平台、短视频平台尝试输入“复活亲人”4个字,看到有大量商家销售制作“数字人”的商品和服务。“数字人”的商品标价从几元、几十元到数万元不等。据了解,价格的高低是由制作效果决定的。

  “视频通线分钟;照片可动,有声音,可对线元;实现交互式谈线万元不等。”淘宝平台一位商家向记者表示,提供的个人资料越详细,做出来的数字人相似度越高。照片说话只需要出示亲人照片和平时说线秒。如果想要实现实时交互,还需要出示亲人录音1至5分钟。消费者还需要填写表格,描述亲人的生平经历、生活小习惯以及与亲人间的故事等。

  另一商家客服人员表示,已助力数百个家庭通过人工智能的方式重聚,数字人可还原内容有外貌、声音、性格。记者发现,有消费者购买后评论称:“这家做的数字人很真实,能看到奶奶真好,科技就应该是有温度的。”

  现如今的技术真能将数字人与线%以上吗?据北京云客科技有限公司技术人员欧颜靖介绍,从目前的技术看,数字人做到外表、声音的相似是非常容易的,但若要做到肢体动作、思维方法相似就很难了。即便拥有大量、长时间的声音、录像、图片数据,通过自然语言技术、深度学习技术、大模型技术等技术训练,也只能实现可能看起来像亲人在与你对话。

  针对亲人可以被有限度地“复活”,有消费者感到兴奋不已,也有消费者表示担忧。“将这种技术变成一门生意,会不会引发信息被滥用,导致诈骗等问题?对于新的事物、新的商品有没有相关法律和法规来规范管理?”采访中,有消费者如是表示。

  新商品、新服务的出现,势必会遇到新的问题。记者看到,在数字人产品上,商家仍沿用传统商品的销售策略,甚至连新商品销售需要遵守的法规都不清楚。

  据了解,自2023年1月10日起施行的《互联网信息服务深度合成管理规定》第十六条明确:“深度合成服务提供者对使用其服务生成或者编辑的内容信息,应当采取技术措施添加不影响用户使用的标识,并按照法律、行政法规和国家相关规定保存日志信息。”第十七条规定:“深度合成服务提供者提供以下深度合成服务,可能会引起公众混淆或者误认的,应当在生成或者编辑的内容信息的合理位置、区域进行显著标识,向公众提示深度合成情况……”

  记者查看了大量商家销售的“数字人”样片,发现没一家商家在内容信息上进行标注。一网店商家对记者说:“不知道有需要在合成数字人上面进行标注的规定。目前为止,消费者选择的数字人价格的范围都在百元以内,这些数字人都是用软件合成,很多生成式软件都能用,还是免费试用的。只是消费者不知道这些软件,也不会用,(我们)赚个信息差的钱。几万元的数字人则需要找专门的科技公司才能制作,不过也没听说要打上什么标识。”

  近年来,关于生成式人工智能的规定频频出台,在多方面进行了较为详细的规定,但是记者调查发现,了解这些规定的人并不多。2023年8月15日起施行的《生成式人工智能服务管理暂行办法》第九条规定:“提供者应当依法承担网络内容信息生产者责任,履行网络信息安全义务。涉及个人隐私信息的,依法承担个人隐私信息处理者责任,履行个人信息保护义务。提供者应当与注册其服务的生成式人工智能服务使用者签订服务协议,明确双方权利义务。”

  记者在调查中发现,购买“数字人”商品的消费者大多没有与商家签署协议明确双方的权利义务。一位北京花了钱的人记者说:“我购买了制作‘数字人’的服务。商家给了我一个邮箱地址,我把商家需要的信息,比如照片、语音等发到对方邮箱,在邮件里说明制作要求就可以了。付款是在平台上完成的,没有签订什么协议,信息保护什么的也没有提及。”

  随着新的商品、服务形式的出现,消费者产生了一系列的困惑:使用逝去亲人的个人隐私信息生成数字人的行为合法吗?在生成、交易、使用的过程中哪些权益可能被侵害?又有哪些法律可保护消费者?

  北京工商大学法学院教授吕来明给记者分析了使用逝去亲人的个人隐私信息生成数字人行为的合法性:死者不是法律主体,不存在权利。但是按照《民法典》的规定,死者的名誉、隐私、肖像等受到侵害的,其近亲属可以主张权利,实际上维护的是死者近亲属的一种合法权益。因此,死者的肖像隐私也受到保护。死者近亲属有使用、查询、复制、删除其个人隐私信息的权利,但是必须是为了合法正当的目的。所以近亲属为了纪念、怀念逝者,利用其声音、肖像等,委托AI技术服务提供者合成AI的图像,在法律上并不禁止。但是AI技术服务提供者提供深度合成技术服务时,应该遵守深度合成技术服务的相关规定,要取得死者近亲属的民事的单独的同意,并且进行明确的标识,必要时事先还要进行安全评估。需要说明的是,在使用范围上,原则上限于纪念、怀念这种私人活动的场合。而不易放大到用于其他目的或场合,对他人情绪产生不利影响。

  北京师范大学法学院副教授、北京继来律师事务所律师胡俊宏表示,在使用AI技术复活逝者技术提供的服务时,消费者需要注意以下几个方面的内容:个人隐私与数据安全;服务质量和价格;及时维权。

  关于个人隐私与数据安全问题,胡俊宏分析说,AI复活逝者技术通常涉及大量的个人数据,包括逝者的照片、视频、音频等。消费者应确保这一些数据在提供和使用的过程中得到充分的保护,避免被滥用或泄露。因此,消费者需要谨慎选择服务提供者,确保制作方有良好的隐私保护政策和数据保护的方法。最好能签订书面合同,明确界定关于数据隐私、服务效果等方面的条款,避免在后续使用中产生纠纷。

  在谈到服务质量和价格时,胡俊宏表示,目前提供AI“复活亲人”的服务,价格从个位数到上万元不等,价格越高效果越丰富,甚至已经有了流水线化倾向。消费的人在选择服务时,应比较不同提供商的服务的品质、价格、信誉等因素,最好能明确要求服务提供者提供相关证明和技术规范,避免被一些低价或夸大宣传的服务所误导。

  如果消费的人在使用的过程中发现服务提供者存在欺诈行为或未能履行保护个人隐私信息等合同条款,应及时向有关部门投诉并寻求法律帮助。假如发现存在以营利为目的的AI“复活”视频行为,也可向平台等网络服务提供者举报,同时有权要求网络服务提供者采取删除、屏蔽、断开链接等必要措施。另外,为保护对死者肖像怀念、追思的精神利益,死者近亲属还能够准确的通过《最高人民法院关于审理精神损害赔偿案件适用法律若干问题的解释》的相关规定,就他人侵犯权利的行为使其遭受的精神痛苦而要求精神损害赔偿。

  北京汇祥律师事务所合伙人律师刘涛对记者说,数字人技术的发展对法律的挑战是巨大的。法律如何构建这类行为的边界、确定相关主体的权利义务关系,是一个新的课题。