当视频通话里的“熟人”开口借钱，当知名人物的头像被一键复刻……人工智能技术在赋能发展的同时，也给社会安全防线带来挑战。
如何让人工智能这匹千里马既跑得快又跑得稳？最高人民法院9月7日发布关于依法审理涉人工智能纠纷案件的意见，加强数字时代民事权益司法保障，促推人工智能健康有序发展。
意见共5个部分24条，精准聚焦社会各界普遍关注的“AI换脸拟声”、“AI幻觉”侵权、“网络开盒”、“大数据杀熟”、自动驾驶、AI模型训练等问题，针对性明确涉人工智能纠纷案件实体裁判和诉讼程序规则。
几张照片、几十秒录音，就足以制造出以假乱真的“数字替身”……利用人工智能技术的造假、侵权行为，如何依法规制？
最高法研究室副主任司艳丽表示，针对“AI换脸拟声”等行为，意见明确未经同意利用人工智能处理自然人的姓名、肖像等，生成可识别该自然人的虚拟数字形象并使用、公开的，构成对姓名权、肖像权等人格权益的侵害；未经同意使用自然人声音作为训练语料，模仿其音色、语调和发音风格生成可识别的合成人声的，构成对声音权益的侵害。
同时，操控虚拟形象、合成声音实施不当行为或者发表不实言论、降低他人社会评价的，构成对名誉权的侵害，依法追究行为人的侵权责任。
一段时间以来，AI算法引发的“大数据杀熟”屡被曝光，“仿冒名人带货”也备受关注。
“我们不能让消费者都长出‘火眼金睛’，法律必须及时亮剑，维护消费者合法权益。”最高法研究室主任周加海说。
意见明确，针对同一商品或者服务，经营者利用算法在交易价格等交易条件上实行不合理的差别待遇，侵害他人合法权益造成损害的，人民法院应当依法认定其承担相应的侵权责任；利用人工智能“仿冒名人带货”且构成欺诈，消费者主张惩罚性赔偿的，人民法院依法予以支持。
实践中，一些生成式人工智能经常出现答非所问、信息不准确等“AI幻觉”现象，不仅给用户带来困扰，也可能侵害他人合法权益。
对此，意见针对“AI幻觉”侵害人格权等问题作了规定，明确生成式人工智能自动生成的内容侵害人格权益，经权利人通知，人工智能服务提供者未及时采取停止生成侵权内容等必要措施的，应当对造成的损害依法承担侵权责任。
同时，网络用户通过输入侵权提示词等方式恶意诱导生成式人工智能生成侵权内容并造成他人损害的，该网络用户依法承担侵权责任，经权利人通知，人工智能服务提供者未及时采取停止生成侵权内容、屏蔽相关生成指令等必要措施，权利人请求该网络用户、人工智能服务提供者承担民事责任的，人民法院依法予以支持。
遭遇AI换脸等侵权，如何及时制止侵权行为？
“ 意见专门对人格权侵害禁令的依法适用予以明确。”司艳丽举例说，受害者有证据证明其被AI换脸造“黄谣”，如不及时制止将使其合法权益受到难以弥补的损害的，可以向人民法院申请人格权侵害禁令。人民法院审查后既可以责令网络用户停止有关侵权行为，也可以责令网络服务提供者、人工智能服务提供者及时采取必要措施，以阻止损害的进一步扩大。
人工智能浪潮加速到来，但方向必须可控。唯有不断完善法律规制，强化平台责任，加强公众教育，才能在技术飞跃的时代，守护好每个人的合法权益。
