一、事件背景
2023年7月17日，未序网络科技（上海）有限公司开发的AI写真小程序妙鸭相机正式上线，向用户提供“数字分身”制作功能，由用户上传照片后通过人工智能合成技术为用户生成职业照、艺术照、全家福等多种风格的写真照片。2023年7月20日，妙鸭相机就迎来了用户高峰，排队人数超过4000人，并需要等待4-5小时方可正式使用服务。
但仅在上线10天后的2023年7月26日，妙鸭相机就因用户充值后不予退款，存在侵犯消费者公平交易权的问题被上海市消费者权益保护委员会公开点名批评。虽然此后妙鸭相机的运营方已发布相应调整政策，允许用户在因技术原因导致数字分身生成失败的情况下办理退款，并调整了用户协议，但如妙鸭相机等生成式人工智能服务平台，除应做到维护消费者的自身知情权、公平交易权、自主选择权等权利外，亦应做好自身合规工作，并切实保护消费者的个人信息。
二、用户上传个人照片用于生成“数字分身”时，运营方应严格履行个人信息保护义务
《个人信息保护法》第28条规定：“敏感个人信息是一旦泄露或者非法使用，容易导致自然人的人格尊严受到侵害或者人身、财产安全受到危害的个人信息，包括生物识别、宗教信仰、特定身份、医疗健康、金融账户、行踪轨迹等信息，以及不满十四周岁未成年人的个人信息。只有在具有特定的目的和充分的必要性，并采取严格保护措施的情形下，个人信息处理者方可处理敏感个人信息。”
从用户使用妙鸭相机的流程来看，用户仅是上传了符合平台要求的若干照片，相关照片并不属于上述规定所列举的个人敏感信息，妙鸭相机在《隐私政策》第2条第3款中亦明确了该做法，即“妙鸭相机生成内容时以您主动上传的原始肖像为基础使用人工智能模型生成……我们仅提供图像处理服务，不会提取识别信息，不会用于识别用途”。上海市消费者权益保护委员会在试用妙鸭相机的过程中，也发现其生成的“数字分身”并不能还原眼镜、耳钉等面部配件。由此可见，目前用户在使用妙鸭相机过程中所上传的肖像照片仅属于一般个人信息，运营方只需按照一般要求履行相应的个人信息保护责任。
但另一方面，根据现有生成式人工智能及相关面部捕捉的技术发展情况，若要进一步优化“数字分身”的呈现效果，则必然离不开通过采集用户脸部特征，采用类似人脸识别的方式完成数码建模后重新渲染实现1:1的“复制”流程。此时，运营方所采集的用户脸部特征即属于敏感个人信息，应根据《个人信息保护法》第29-30条的规定，获得用户的单独同意，并向用户告知处理敏感个人信息的必要性，以及对个人权益的影响。
三、使用人工智能深度合成技术为用户提供“数字分身”服务时，应按规定完成算法备案、内容审核以及信息标识等义务
妙鸭相机为用户提供“数字分身”制作服务时所采用的技术属于《互联网信息服务深度合成管理规定》第23条第4款所列举的“人脸生成、人脸替换、人物属性编辑、人脸操控、姿态操控等生成或者编辑图像、视频内容中生物特征的技术”之一，妙鸭相机在运营过程中应遵守上述规定的要求，履行相关义务。
与此类似的是，近期苹果旗下APP Store在中国区已集体下架数百款利用人工智能技术为用户提供诸如聊天、绘画或工作服务的APP，主要原因为相关APP均未根据《互联网信息服务深度合成管理规定》的相关规定取得许可证。
根据上述规定，包括妙鸭相机在内的人工智能APP均需履行以下义务：
（一）根据实际情况，在APP具有舆论属性或者社会动员能力时及时完成算法备案手续，并将备案信息在其APP内进行公示。
（二）加强深度合成内容管理，采取技术或者人工方式对深度合成服务使用者的输入数据和合成结果进行审核，并构建不良行为特征库，留存相关日志。
（三）采取技术措施，在生成或者编辑信息内容的合理位置、区域添加不影响用户使用的显著标识。
四、利用用户上传肖像进行人工智能算法训练时，应严格保护用户肖像权
《民法典》第1018条赋予了自然人制作、使用、公开或许可他人使用自己肖像的权利。用户在使用妙鸭相机的过程中，主动上传20余张符合平台要求的肖像照片，属于对自身肖像权的合法使用；妙鸭相机为实现制作用户“数字分身”的目的，收集用户个人信息的行为亦同时满足必要性要求。
在此基础上，妙鸭相机在《隐私政策》第2条第3款中明确：“妙鸭相机生成内容时以您主动上传的原始肖像为基础使用人工智能模型生成，因此当您使用妙鸭相机时，我们会将您主动上传的原始肖像信息进行处理，这类信息是提供本服务必须收集的信息，我们会按照法律的要求，对您的该类信息在收集、传输和存储的过程中采取严格的加密措施，以确保您的信息安全。”
但需要注意的是，用户在上传肖像时的目的仅限于满足“数字分身”的生成需求，并未授权运营方利用其肖像进行人工智能模型的训练及优化，也未授权对其肖像进行人脸识别及其他处理。虽然妙鸭相机在《用户服务协议》中亦申明“在此过程中，您所上传的照片将仅被用于本服务使用，我们仅提供图像处理服务，不会提取识别信息，不会用于识别用途，服务完成后，系统将自动删除上述信息，不予留存”，但因生成式人工智能算法（如transformer算法等）天然具有自我学习与自我进化的特性，即使妙鸭相机并不会进一步储存用户上传或生成的相关肖像及图片，用户在使用相关服务的过程中实际上也是在协助人工智能本身完成模型训练及优化。
《生成式人工智能服务管理暂行办法》第7条规定，运营方开展人工智能训练等活动时，若确需搜集个人的信息的，应当取得个人同意。虽然《民法典》第1019条同时规定了在个人学习、科学研究以及新闻报道等场景下，可以不经肖像人许可使用个人肖像，但妙鸭相机的相关服务显然不属于对个人肖像的合理使用。在此情况下，建议妙鸭相机等人工智能服务运营方在相关用户协议及隐私政策中，明确告知使用“数字分身”生成服务所上传的肖像亦将被人工智能算法自身用于训练调优的相关情况。
五、结 语
妙鸭相机是本次生成式人工智能技术热潮中“出圈”的代表，其在受到资本及用户追捧的同时，也暴露了相关技术在实际落地过程中易发的合规风险。在我国监管部门对人工智能技术采取“促进创新、依法治理”的监管态度下，出台了全球首部涉及人工智能的法律法规《生成式人工智能服务管理暂行办法》，足以体现国家对人工智能健康有序发展的高度重视。作为人工智能开发及运营者，应积极利用相关技术为社会公众提供便利服务，同时亦应根据相关法律法规做好自身产品的合规管理。
（作者：陈明杰）
