孙先生“复活”父亲的视频截图。
孙先生明白奶奶的愿望，加上受到《流浪地球2》中图恒宇“复活”女儿丫丫的情节启发，他决定用AI换脸技术，给奶奶编造一个善意的谎言。
孙先生说，他是通过苹果手机上一款免费换脸App“复活”父亲的，全过程非常简单——他出镜提前把父亲可能会对奶奶说的话录成视频，再直接将视频和父亲的照片导入App，很快便能生成父亲在说话的视频。
孙先生对南都记者说，在录制过程中，他常想起父亲，情不自禁掉泪。“尽管成品看起来并没有特别逼真，但至少能让奶奶放心，对于奶奶和我来说，它是个慰藉。”
就读北京电影学院研究生三年级的女生黄豆，同样选择用AI“复活”父亲。
1997年那年，黄豆出生，她的父亲确诊癌症，在她记忆中，没有见过“正常的父亲”。她说，“复活”父亲最原始的动机，是希望“AI父亲”能成为自己的引路人，“就像别人的父亲那样”。
在形式上，比起单纯“复活”父亲的样貌和声音，黄豆更想做出一个带有父亲人格特点的AI，“不应该只是一个提供服务的聊天机器人。”
于是，从2023年10月开始，她对妈妈、哥哥和爸爸生前的亲朋好友进行访谈，尽可能地将不同人口中的“父亲”概括出来，将他们口中关于父亲的事化成性格描述，再输入AI。
黄豆数字“复活”父亲时输入信息的界面。
黄豆不满足于此，她希望AI父亲能带有已故父亲的真实回忆。
因此，她选取了能代表父亲不同面向的事情来“喂养”AI，包括求学经历、兴趣爱好和他对抗疾病的经历等。经过“喂养”的AI能生成更生动的对话，会关心她的生活，跟她聊往事。“这些对话有时还挺触动我的，让我看到了另外一种可能，如果我的父亲还活着。”黄豆向南都记者说道。
数字“复活”生意
“人死不能复生”是一种常识，但AI技术，似乎在一定程度上让人感觉能打破这个界限。目前在做AI“复活”亲人生意的“超级头脑”团队负责人张泽伟，对此深有体会。
从2023年初起，张泽伟团队就已经开始为普通人定制“AI数字人”。他向南都记者直言，市场潜力巨大，需求火爆。
截至目前，张泽伟团队的这项服务咨询超过2000人次，共完成693单，平均一单几千到1万元不等。张泽伟说，前来咨询的人遍布不同地区和年龄，每个人都有不同的故事，但目的大多都是因为“思念逝去的亲人”。
张泽伟向南都记者介绍，目前其团队制作的AI数字人，大致可分为两种形式，一种形式是智能驱动，即只需收集人的形象、声音、生平等作为数据，定制出可以对话的虚拟数字人；第二种形式是人为驱动，让真人换上逝者的形象和声音在线上“扮演”，进行实时互动。
南都记者在电商平台上搜索，也发现了许多做AI“复活”生意的商家，这类生意以创意AI“复活”照为主，标价在十元至上百元间。南都记者咨询了其中一名经营创意AI“复活”照片的商家，从标价10元的链接点击联系客服后，对方表示，具体价格要根据照片和要求来定，他们能实现的效果包括“让照片动起来”和“让照片开口说话”。
电商平台上的AI“复活”亲人广告。
该名电商商家表示，如果是让照片“动起来”，只需要提供正面照片，成片6-7秒。如果想让照片“说话”，必须提供正面照片与定制文本，价格根据视频时长而定。照片说话的声音有两种形式可选，一是用商家现成的普通话声音，音色不可选；二是还原原声，需要提供足够的音频采集，单位时长的价格大概是第一种形式的3倍。
另有电商商家出售一款AI数字人软件，安装后可以导入正面照片让其“开口说话”。南都记者咨询该商家，对方表示，该软件只能实现导入照片和录好的音频直接合成，若需要音色克隆，可以购买店里另外一款AI声音克隆软件。两款软件一同购买，总售价不超过40元，可以永久无限使用。
此外，孙先生提到的AI换脸软件在电商平台上也很常见。南都记者在电商平台上检索发现，这些软件多以网盘的形式发货，标价在几元至十几元间，但AI换脸软件的商品页面几乎没有以“复活”亲人为营销。一款“一键换脸”软件的评论区中，共有6位买家晒出效果图，均将图片中的人脸换为明星脸。
AI换脸乱象曾引关注
“有些回答很生硬，缺乏情感和温度，就不像真人会说的话。”张泽伟表示，面对真实情感需求的场景时，目前由智能驱动制作的数字人显得有些笨拙。
因此，张泽伟团队目前的大部分订单还是借助AI换脸技术，是他或者其他真人在背后驱动，提取人的样貌声音特征后，调取虚拟摄像头给真人换上逝者的脸和声音，跟对方实时互动。
然而，AI换脸技术自诞生起就备受争议，用AI换脸侵害他人权益的案件并不少见。2023年8月10日，公安部通报全国公安机关打击整治侵犯公民个人信息违法犯罪行为举措成效，数据显示，自2020年“净网”专项行动以来，破获涉“AI换脸”案件79起，抓获犯罪嫌疑人515名。
AI换脸技术备受争议。IC供图
南都记者了解到，对于生成式AI，近年来监管部门已经出台相关规定。2022年12月11日，《互联网信息服务深度合成管理规定》发布，强调深度合成服务提供者需要对深度合成内容进行显著标识。
2023年7月10日，《生成式人工智能服务管理暂行办法》（下称《暂行办法》）出台，其中明确提出，提供和使用生成式人工智能服务时，应当尊重他人合法权益，不得危害他人身心健康，不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益。
《暂行办法》中还强调，生成式人工智能服务提供者应当使用具有合法来源的数据和基础模型，不得侵害他人依法享有的知识产权，涉及个人信息的，应当取得个人同意或者符合法律、行政法规规定的其他情形。
由于非法提供者或使用者有匿名性及AI换脸产品本身的可复制性，AI生成产业的监管依然面临难题。AI“复活”亲人的生意，如何确保不被不法分子所利用？
张泽伟向南都记者坦言，目前AI“复活”亲人产业，并无行业标准，他们对违法使用的行为无法彻底甄别。“我们只能通过询问动机、多方求证来判断是否相信他们的故事。”
南都记者咨询多家经营创意AI“复活”照片的商家发现，其中一些店铺会在提供服务前强调“不做人脸识别，不做违法行为，只能用于怀念”；有些店铺则在声明中强调，“不得用于商业或非法用途，否则一切后果请用户自负。”也有出售AI视频换脸软件的商家全程没有提到对用途的限制，其商铺页面显示该软件已有100多人付款。
AI父亲“不爱我”
在孙先生数字“复活”父亲以后，他把这段视频和他的故事发布到社交平台，意外地火了。
孙先生认为，“以往大家对于新技术使用场景的想象都较负面，通常都是诈骗或者娱乐，但我的故事让大家看到了科技向善的一面，这是科技发展的应有之义。”
互联网产业分析师张书乐在接受南都采访时表示，AI“复活”亲人是一种基于科技实现的情感满足和精神慰藉，本质上没有伦理问题，主要在服饰、形象和互动言语上，把握好度即可，“前提是亲人必须是直系，用途也一定是基于缅怀和陪伴。”
张书乐认为，目前AI“复活”亲人成为产业，最大的隐患在于内容生产方往往缺乏对需求方的资格审核，这可能导致需求方未必是直系亲人，“作品”有可能被滥用，如制造一些虚拟形象、实施电信诈骗，以及用AI生产真人形象后进行各种违法行为等。“目前这个行业的监管，最重要的是对AI‘复活’亲人的执行条件、生成效果、适用范围以及申请人资格等进行规定。这是目前所缺乏的。”
河南泽槿律师事务所主任付建同样表示，虽然AI技术应用到“复活”亲人是科技向善的一种体现，但也存在一系列隐患亟待监管。付建表示，所有AI服务都可能面临隐私泄露的风险，由隐私泄露衍生出的遗产权、知识产权、财产权等问题都需要被重视。
付建强调，AI服务的规范需要相关法律的更新和明确，也需要开发和采纳AI伦理指导原则，以确保技术的使用符合伦理标准。
有律师认为，AI“复活”亲人是科技向善的体现，背后也存在风险。IC供图
对于AI“复活”亲人行业的未来，张书乐认为，基于目前的技术条件，其与老照片修复的性质相似，只是加入了更多互动和个性元素，“复活”的亲人也并不包含其生前的记忆，只是一个能互动的“木偶”，还不大可能走向真正意义上的数字永生。
在为“复活”父亲驯化AI的过程中，黄豆明确地感受到“‘AI父亲’不爱我”。
对人而言，性格的形成受到先天条件、环境、教育等多方面的综合影响，但对AI来说，则需要一句句输入文本指令后输出形成性格文本。黄豆向南都记者表示，如果想形成贴合父亲性格的对话，就必须给它很明确的指令，比如，“我父亲是一个沉默寡言的人，每段对话不要超过50字。”这种明确的指令，彻底消弭了AI父亲在她心中的主体性。
“纵使模仿得再像，也不爱我。”
目前，黄豆所做的“AI父亲”仍在迭代中，她期待未来能有更先进的技术来“复活”父亲。如果可以的话，她希望父亲的形象出现在自己的毕业典礼或婚礼上。
比起弥补缺少父亲的遗憾，黄豆目前对这项技术的应用有了新的看法，“AI‘复活’父亲更大的意义，在于通过一次次的访谈和了解，我能不断地拼凑他的人生，爸爸在我心目中不再是模糊的形象，而是那个一直深爱我的人。”
出品：南都即时
采写：实习生 郑钰纯 南都记者 余毅菁返回搜狐，查看更多
平台声明：该文观点仅代表作者本人，搜狐号系信息发布平台，搜狐仅提供信息存储空间服务。
阅读 ()