财经新闻网消息：
《法治日报》记者近日调查发现，利用人工智能“复活”死人已经发展成为一门生意。 在一些电商平台上，有不少商家从事AI“复活”业务。 在某电商平台上，被AI“复活”的产品价格从几元到几十元到几百甚至上千元不等。 与此同时，近年来，AI变声、AI换脸等诈骗手段越来越先进，欺骗用户情感和金钱。
受访专家建议，人工智能“复活”技术提供商在提供服务前，应明确要求用户提供相关证明，并加强技术防范，避免人工智能产品侵犯他人合法权益或被用于诈骗等违法行为。 有关部门要加强监管，推动行业标准建立，既保证技术创新，又保护人的价值和尊严。
做AI复活业务的企业纷纷出来
对于突然失去父亲的云南人刘芳（化名）来说，在异国他乡没能见到父亲最后一面是人生最大的遗憾。 当她回到家乡，办完父亲的后事，看到父亲曾经坐过的沙发，或者不小心点开和父亲的微信聊天框……她的眼泪就会不受控制地流下来。
“他临死的时候想对我说什么？他还会叮嘱我好好吃饭吗？别生我丈夫的气吗？” 当她伤心的时候，刘芳总是把自己关在房间里，一遍又一遍地翻看她和父亲的照片。 聊天记录。
直到在短视频平台上偶然发现了一家提供AI“复活”亲人的业务，刘芳就像抓住了救命稻草一样迅速下单。 “我真的很想再见到我的父亲，尽管我知道这不是真的，但我还是想听我的父亲对我说话，听他的吩咐。”
在支付了200多元，并提供了父亲生前的录音和照片，以及她想从父亲那里听到的内容后，刘芳收到了一段短视频。 视频中，刘芳在短短几十秒内，看着父亲微笑着与她交谈了几十次。
所谓AI“复活”死者，就是利用人工智能技术，将死者亲人的文字描述、图片、视频、声音数据输入AI算法模型中，模拟生成具有个性的数字图像，死者的记忆、图像和视频。 和声音。
从事数字“复活”领域工作的陈亮（化名）表示，他们的产品主要分为两类。 一是以视频为媒介，通过死者的照片和声音制作生日祝福或安慰视频。 另一个是开发一个对话式聊天机器人。 这款机器人不仅具有死者的声音和外貌特征，还可以模拟顾客亲人的性格和记忆，与用户进行交流，为顾客提供个性化的体验。 这些不同形式的产品对应的价格在52.1元至521元不等。
记者注意到，在一些电商平台上，也有不少商家在做AI“复活”业务。 在某电商平台上，这些AI复活的产品价格从几元到几十元到几百甚至上千元不等。
记者咨询其中一位商家发现，店内共有创意AI修复亲人“复活”照片、专属AI配音模拟定制、翻唱歌手AI语音克隆等三款产品。 三款产品售价均为10元。 。
有商家告诉记者，产品的具体价格要根据照片和要求来确定。 如果你只是想让照片中的人动起来，只需要提供一张正面照片，出片时间大约10秒。 如果您希望照片中的人说话，则需要提供正面照片和音频，价格根据视频时长确定。 如果没有音频，则提供文字内容，商家提供普通话音频。
对于记者提到的“实时互动”AI产品，咨询的10家电商平台商家均表示做不到。 有商家解释，要实现实时交互，需要AI训练，仅靠一款软件是无法实现的。
AI复活面临技术限制等挑战
AI的“复活”一直是一个颇具争议的话题。
有人认为，在生成式人工智能技术的支持下，“再次见到”已经去世的亲人成为可能，弥补了情感上的缺陷。
也有观点认为这种做法毫无意义。 如果这个人走了，那个人就走了。 这只会使失去亲人的痛苦变得更加困难。
也有人质疑，从死者图像样本中克隆出来的“亲戚”，是否还是我们认识的同一个人？
记者注意到，在国内，像陈亮这样的制作团队并不少见。 一些企业加速涉足AI“复活”亲人领域。 例如，位于江苏南京的一个AI技术团队在半年多的时间里已经帮助了600人。 多个家庭可以实现“网上团聚”，平均每笔订单费用从几千元到万元不等。
尽管如此，陈亮告诉记者，团队在实际操作过程中遇到了很多挑战。 例如，技术限制是一个重大挑战。 声音克隆需要清晰的声音文件，目前算法主要支持普通话，对方言和口音支持有限。
“由于死者大多年龄较大，生前留下的声音文件并不多，这限制了产品的拓展和应用范围。同时，人们对产品也持观望态度。”通过输入文字与死者的数字图像对话的模式，并不是每个人都愿意尝试或信任这种创新。” 陈亮说道。
“已完成与未完成的比例约为3:2。” 利用AI技术帮助客户“复活”已故亲人的超级心灵工作室负责人张泽伟透露，无法提供服务的原因有很多：客户提供的材料太少、家里有人反对等。
中国传媒大学文化产业管理学院法律系主任郑宁表示，为了保护死者的人格权，制作者只有在征得死者同意的情况下才能进行相关“复活”操作。死者的继承人。 同时，利用AI技术对死者进行数字化“复活”后，制作者还需要承担一些法律责任。 “例如，如果制作的图像与实际情况偏离过多，对用户已故亲人的形象造成一定的扭曲，则可能侵犯死者的名誉权、肖像权等相关权益。”
北京嘉伟律师事务所律师赵占涵提到，虽然死者不再享有隐私权，但死者的近亲属仍然需要保护死者的隐私权和肖像权。 “如果存在侵犯隐私或名誉受损的情况，死者的近亲有权提起诉讼。”
陈亮告诉记者，当用户表达想要打造死者数字人的愿望时，制作团队会要求愿意消费的用户证明与死者的关系，并提供死者已经去世的相关证明防止怀有恶意的人生成产品。 用于诈骗等非法活动。
陈亮表示，此外，为了实现AI数字人与用户的深度对话，此类制作团队一般会将自己的产品与大规模模型系统进行对接，大规模模型系统作为数据库提供语料支持。 “在这个过程中，我的制作团队会删除一些敏感词汇，以防止不法用户通过视频控制数字人，诱导数字人向亲友询问银行卡密码等私人信息。 只要这种可能性存在，数字人就会重启系统来解决潜在的问题。 欺诈问题。”
目前缺乏具体的法律法规进行规范
调查中，接受采访的业内人士透露，作为生成式AI技术应用的细分领域，已有初创团队和龙头企业尝试为死者提供AI“复活”服务。 由于种种原因，这项专项业务整体仍处于低调、谨慎的探索阶段。
对此，郑宁也建议，对于想要通过AI技术“复活”亲人的潜在受众来说，选择正规的组织是保证个人信息安全和合法权益的关键。
“签订合同也是重要的一环。合同中必须明确规定数字人的财产权和其他权利属于个人而非企业。此外，合同中还应包括违约责任的详细规定。如果合作企业发现有违法违规行为，应及时向主管部门举报、投诉，这种举报有利于维护整个行业的合法秩序，保护广大合作伙伴的合法权益。用户”，郑宁说。
此外，根据2023年7月颁布的《生成型人工智能服务管理暂行办法》，生成型人工智能技术研发过程中如进行数据标注的，提供者应当制定明确、具体、规范的数据标注规范。满足本措施要求的可操作方法。 注释规则； 进行数据标注质量评估，抽取样本验证标注内容的准确性； 对标注人员进行必要的培训，增强守法意识，监督指导标注人员规范开展标注工作。
记者在调查中发现，大部分购买AI数码“复活”产品的消费者并没有看到相关标签证明该产品是由AI生产的。 很多消费者不了解《生成人工智能服务管理暂行办法》的相关规定。
对此，赵展指出，如果生产者使用自己的人工智能软件生成产品，并且在销售过程中不贴标签，则属于违法行为。 如果使用其他人工智能软件生成的产品标注了相关信息，但生产者通过技术手段将其去除，是否符合法律要求仍有待商榷。 目前，虽然人工智能技术在我国兴起时间不长，且《生成型人工智能服务管理暂行办法》等法规出台也较为及时，但目前还没有针对技术的具体法律法规。比如数字化“复活”，未来出现问题可能需要随着时间的推移进行标准化。
作为从业者，陈亮也希望未来使用数字“复活”技术需要相关部门颁发资质许可证，相关部门加强监督管理，让市场参与者更放心。
“立法通常是滞后的，尤其是在新技术领域。” 郑宁表示，新问题出现时，往往很难通过立法或修法来解决问题。 底线问题必须通过立法来解决。 此外，还可以利用“软法”，例如行业标准、企业自律行为等，在实际操作中起到规范作用。 “在数字‘复活’领域，行业协会可以牵头制定道德标准，企业和从业者可以遵循这些标准来帮助解决问题。”
“任何欺诈或者侵权的违法事件都有特定的行为人，掌握核心事实，利用现有的法律规则进行调查。在这个过程中，人工智能实际上只是一个工具。” 在郑宁看来，总体而言，科技发展的边界应该在维护社会法治、保护个人权益、保证道德底线的前提下进行。 推动数字“复活”技术需要更多的监督和监管，这既保证了技术创新，也保护了人类的价值和尊严。
受访专家认为，如果现有法律难以规范数字“复活”技术的使用，可以通过不断“打补丁”推出新规则，逐步完善规范数字“复活”技术的规范体系。 与专门化、系统化的立法相比，这种渐进式的规则完善方式可以为这一新领域的发展留下足够的空间。
免责声明 ① 本网所刊登文章均来自网络转载;文章观点不代表本网立场,其真实性由作者或稿源方负责 ② 如果您对稿件和图片等有版权及其他争议,请及时与我们联系,我们将核实情况后进行相关删除 ③ 联系邮箱:215858170@qq.com
Copyright © 2017-2018