9.9元一键生成AI写真，安全吗？

2023-08-09 09:42:45 来源：广州日报

此前，一款名为“妙鸭相机”的AI相机小程序在朋友圈走红，用户只需上传21张照片，并支付9.9元，就可以得到写真大片。不过，随着这款AI相机小程序的火爆，质疑也随之而来，最核心的是因用户隐私和数据安全问题。

律师建议，如发现平台一揽子强制收集信息的，要坚决拒绝，否则容易产生信息泄露风险。记者注意到，《人脸识别技术应用安全管理规定（试行）（征求意见稿）》亦规定使用人脸识别技术处理人脸信息，应当取得个人的单独同意或者依法取得书面同意。

【资料图】

体验

支付9.9元收获AI“写真大片”

此前，一款名为“妙鸭相机”的AI相机小程序在朋友圈走红。记者实测发现，在“妙鸭相机”小程序上制作AI写真需3步：第一步，先上传一张正脸照，再上传20张以上不同表情、不同角度的照片，用以制作“数字分身”；第二步，选择模板生成写真；第三步，精修写真或直接下载。

记者支付9.9元后，便进入制作数字分身流程，系统提示前方排队人数超4000人，预计制作分身需要等待6小时。制作完成后，该程序生成了自己的“AI数字分身”模板，同时生成3组“写真”。据悉，小程序共提供30多种模板，包括古风、都市、证件照、休闲等多种风格。如果觉得照片不像本人，还可以点击“更像我”按钮进行精修。记者拿着生成的照片跟朋友分享。“有些照片像你，有些却不像，但都是美化的效果。”朋友评论道。

“不太像本人，”有体验者说，“但照片都是美美的，很养眼。”也有不少网友抱着好玩的心态体验一番：“9.9元体验一把AI写真，也是划算的，可以发个朋友圈娱乐一下。”另外，也有体验者表示，这些照片模板少，尤其对于男性而言，建议增加多一些男生模板。

其实，AI写真或者AI相机不是什么新鲜事情。今年5月底，美颜相机AI写真上线，可基于用户模型快速生成高级写真，AI上妆，AI生成场景氛围，即使在普通场景或脏乱差的环境下也能拍摄。

记者还尝试使用了美图秀秀的“百变AI头像”小程序，发现仅需上传3张以上照片（包括3张），就可以根据性别生成专属AI头像，100张专属AI头像优惠后仅需9.9元。

疑问

个人照片真的只用于AI图像生成吗？

不过，用户一次性将自己如此多的照片上传到网络，并且允许小程序进行AI联网处理，难免也会有些担心。“我的照片真的只是用于AI图像生成码？”有人提出疑问。

细心的网友发现，“妙鸭相机”一开始在用户服务协议中写道：“您特此授权我方在全世界（包括元宇宙等虚拟空间）范围内享有永久的、不可撤销的、可转让的、可转授权的、免费的和非独家的许可，使得我方可以任何形式、任何媒体或技术（无论现在已知或以后开发）使用您的内容”。

不少网友表示，该用户服务协议中授权许可的表述过于霸道，质疑其有没有保障用户隐私和数据安全。上述协议引发质疑后，“妙鸭相机”在其公众微博平台发布协议修改公告称：“您所上传的照片只会用于数字分身制作，不会提取也不会用于识别和其他用途，且分身制作完成后自动删除。”

此外，眼尖的消费者注意到，“妙鸭相机”在付款的界面写道：“本服务购买后即刻生效，一旦购买成功，不支持退款。”对此，上海市消保委认为，“妙鸭相机”在付款页面以灰色小字标注的“一旦购买成功，不支持退款”涉嫌侵害消费者的公平交易权。随后，“妙鸭相机”在官方微博回应称，“妙鸭相机”提供的是基于算力的服务，因此照片生成后即视为服务完成。不过如果因为技术问题，造成数字分身生成失败，可以退款，而且免费再次生成。

记者注意到，《人脸识别技术应用安全管理规定（试行）（征求意见稿）》规定，个人自愿选择使用人脸识别技术验证个人身份的，应当确保个人充分知情并在个人主动参与的情况下进行，验证过程中应当以清晰易懂的语音或者文字等方式即时明确提示身份验证的目的。

建议

一定要认真阅读用户协议及隐私政策

“AI生成海报小程序收集的用户照片，属于个人敏感信息。”广东南方福瑞德律师事务所律师梁宇麒接受记者采访时表示，“妙鸭相机”更新后的人脸信息使用条款基本遵循了“明确告知”原则，同时协议也告知了用户相关权利，基本符合法律对信息收集的要求。但从保护个人信息的角度看，更重要的是落地执行，要建立完善的保护制度并付诸实践。

梁宇麒还表示，用户对自身的个人信息尤其是个人敏感信息（包括姓名、地址、身份证号码、人脸、指纹等）要加强保护意识，如遇到网络平台收集个人信息时，要认真阅读其用户协议及隐私政策等，弄清平台收集信息的目的、方式和范围是否超出自己使用的功能所需要的信息范围。如发现平台一揽子强制收集信息的，要坚决拒绝，否则容易产生信息泄露的风险。

事实上，生成式人工智能服务已引起监管机构的关注。7月中旬，国家网信办联合7部门发布了《生成式人工智能服务管理暂行办法》，其中规定，服务提供者对使用者的输入信息和使用记录应当依法履行保护义务，不得收集非必要个人信息，不得非法留存能够识别使用者身份的输入信息和使用记录，不得非法向他人提供使用者的输入信息和使用记录。服务提供者应当依法及时受理和处理个人关于查阅、复制、更正、补充、删除其个人信息等的请求。该办法将于8月15日起施行。