【#北青快评# | #首例算法风控系统侵权案的样本意义#】某征婚交友平台运营者实施算法时认定用户李某为“杀猪盘”，并对其进行风控，导致李某被好友误认为骗子。李某一气之下将平台诉至法院，要求道歉并赔偿2万元。日前，北京互联网法院审结了这起全国首例涉及算法风控系统引发的人身权益侵权纠纷案件，认为平台不构成侵权，驳回了李某的诉讼请求。一审宣判后，双方均未上诉，该案判决已生效。（11月11日《北京青年报》）
互联网时代，不少交友空间逼窄的青年男女，已把婚恋平台作为寻求“自己另一半”的重要载体。不过，福兮祸所伏，网络婚恋的盛行，也让婚恋交友幌子下的“杀猪盘”等诈骗犯罪如影随形。为此，一些平台开始设置“预防性风控系统”算法应用，通过对用户行为的风险筛查，避免用户陷入各种骗局。
平心而论，平台以算法应用防范婚恋交友中的“杀猪盘”等诈骗，初衷是良好的。但也应看到，此举有可能对正当进行婚恋交友的用户造成人身权益侵害。在这起全国首例涉及算法风控系统引发的人身权益侵权案件中，原告被平台的算法应用“误伤”而成为“骗子”，即是一个典型的例证。因此，如何让算法应用既可防范征婚交友的“杀猪盘”等诈骗，又不侵害正当婚恋交友用户的人身权益，不但考验平台的管理智慧，也给司法如何妥善处理该类侵权纠纷，提出了新的挑战。
在处理这起算法风控系统引发的人身权益侵权纠纷案件中，法院从平台设置算法风控系统的用意、对用户是否存在算法歧视、算法风控系统设置是否有助于治理网恋诈骗等方面综合考虑，认定平台算法风控系统的误判对原告不构成名誉侵权，据此驳回了原告的诉讼请求。这种判决结果，体现了平衡保护个体权益与社会公共利益的司法价值取向，为今后处理类似纠纷提供了参照，无疑具有十足的样本意义。
法律背后是法理。在本案中，法院之所以认定平台不构成侵权，主要源于其算法应用是履行法定监管义务。《互联网信息服务算法推荐管理规定》和《反电信网络诈骗法》均规定，网络服务提供者需履行涉电信网络诈骗信息监测、识别和处置的义务。平台依法设置算法风控系统，对用户行为进行中立、无差别的风险筛查，并无不妥。同时，从审理查明的事实看，平台在因技术水平所限造成系统误判后，及时尽到了与涉案算法风险相匹配的注意义务，并采取了合理的预防侵权措施，无主观过错，自然不构成侵权。
更应看到，平台设置算法风控系统，旨在预防“杀猪盘”等网络诈骗行为。这种基于保护公共利益、避免更多婚恋交友用户上当受骗的主动作为，既有正当性，也有合理性。在当前“杀猪盘”等网络诈骗犯罪时有发生的现实背景下，平台以算法应用筛查诈骗行为，在此基础上对婚恋交友用户进行警示提醒，体现了对社会责任的主动担当，司法理应给予支持。
数字经济时代，算法在网络平台的应用日益频繁，需要对这种行为划出合理边界，并对这种行为的注意义务给出标准和指引。全国首例算法风控系统人身权益侵权案件的公正处理，既为平台算法应用确立了合理的注意义务标准及具体认定因素，又为正确判断平台参与社会治理的合理边界明确了法律适用标准，找准了被算法“误伤”后个体权益保护与社会治理功能发挥的精准平衡点，显然对今后处理类似案件具有值得借鉴的样本意义。（文/张智全 图源/视觉中国）
互联网时代，不少交友空间逼窄的青年男女，已把婚恋平台作为寻求“自己另一半”的重要载体。不过，福兮祸所伏，网络婚恋的盛行，也让婚恋交友幌子下的“杀猪盘”等诈骗犯罪如影随形。为此，一些平台开始设置“预防性风控系统”算法应用，通过对用户行为的风险筛查，避免用户陷入各种骗局。
平心而论，平台以算法应用防范婚恋交友中的“杀猪盘”等诈骗，初衷是良好的。但也应看到，此举有可能对正当进行婚恋交友的用户造成人身权益侵害。在这起全国首例涉及算法风控系统引发的人身权益侵权案件中，原告被平台的算法应用“误伤”而成为“骗子”，即是一个典型的例证。因此，如何让算法应用既可防范征婚交友的“杀猪盘”等诈骗，又不侵害正当婚恋交友用户的人身权益，不但考验平台的管理智慧，也给司法如何妥善处理该类侵权纠纷，提出了新的挑战。
在处理这起算法风控系统引发的人身权益侵权纠纷案件中，法院从平台设置算法风控系统的用意、对用户是否存在算法歧视、算法风控系统设置是否有助于治理网恋诈骗等方面综合考虑，认定平台算法风控系统的误判对原告不构成名誉侵权，据此驳回了原告的诉讼请求。这种判决结果，体现了平衡保护个体权益与社会公共利益的司法价值取向，为今后处理类似纠纷提供了参照，无疑具有十足的样本意义。
法律背后是法理。在本案中，法院之所以认定平台不构成侵权，主要源于其算法应用是履行法定监管义务。《互联网信息服务算法推荐管理规定》和《反电信网络诈骗法》均规定，网络服务提供者需履行涉电信网络诈骗信息监测、识别和处置的义务。平台依法设置算法风控系统，对用户行为进行中立、无差别的风险筛查，并无不妥。同时，从审理查明的事实看，平台在因技术水平所限造成系统误判后，及时尽到了与涉案算法风险相匹配的注意义务，并采取了合理的预防侵权措施，无主观过错，自然不构成侵权。
更应看到，平台设置算法风控系统，旨在预防“杀猪盘”等网络诈骗行为。这种基于保护公共利益、避免更多婚恋交友用户上当受骗的主动作为，既有正当性，也有合理性。在当前“杀猪盘”等网络诈骗犯罪时有发生的现实背景下，平台以算法应用筛查诈骗行为，在此基础上对婚恋交友用户进行警示提醒，体现了对社会责任的主动担当，司法理应给予支持。
数字经济时代，算法在网络平台的应用日益频繁，需要对这种行为划出合理边界，并对这种行为的注意义务给出标准和指引。全国首例算法风控系统人身权益侵权案件的公正处理，既为平台算法应用确立了合理的注意义务标准及具体认定因素，又为正确判断平台参与社会治理的合理边界明确了法律适用标准，找准了被算法“误伤”后个体权益保护与社会治理功能发挥的精准平衡点，显然对今后处理类似案件具有值得借鉴的样本意义。（文/张智全 图源/视觉中国）
【被征婚平台算法“误伤”认定为“杀猪盘”，网友侵权之诉被驳回】#金融人士被征婚平台算法误认杀猪盘#某征婚交友平台运营者实施算法时认定用户李某为“杀猪盘”，并对其进行风控，导致李某被好友误认为骗子。李某一气之下将平台诉至法院，要求道歉并赔偿2万元。
征婚平台辩称，按照法律法规的规定，运营者对用户在平台的行为进行监管，履行平台主体责任。李某在与平台其他用户聊天过程中，短期内多次被检测到出现“金融”“基金”“加微信”等“杀猪盘”诈骗案件所涉高频词汇，因此自动触发了平台风控系统的审核规则，经李某致电客服反映情况，平台的人工核实后对该账户进行解封。平台认为，自己的行为仅是为公共利益依法履行主体监管责任，系统自动判定原告账户为风险账号，不存在侵权行为。
11月10日，记者从北京互联网法院获悉，该院审结了首例涉及算法风控系统引发人身权益侵权纠纷的案件。法院判决平台并无主观过错，不构成侵权，驳回了李某的诉讼请求。北京青年报https://t.cn/A6orV4OX
征婚平台辩称，按照法律法规的规定，运营者对用户在平台的行为进行监管，履行平台主体责任。李某在与平台其他用户聊天过程中，短期内多次被检测到出现“金融”“基金”“加微信”等“杀猪盘”诈骗案件所涉高频词汇，因此自动触发了平台风控系统的审核规则，经李某致电客服反映情况，平台的人工核实后对该账户进行解封。平台认为，自己的行为仅是为公共利益依法履行主体监管责任，系统自动判定原告账户为风险账号，不存在侵权行为。
11月10日，记者从北京互联网法院获悉，该院审结了首例涉及算法风控系统引发人身权益侵权纠纷的案件。法院判决平台并无主观过错，不构成侵权，驳回了李某的诉讼请求。北京青年报https://t.cn/A6orV4OX
#广西警事##柳州警事#【始于网恋，终于诈骗！一交友诈骗团伙被城中警方团灭】#螺警官说反诈# 今年以来，@柳州市城中公安分局 民警在工作中发现，一名廖姓男子组织多人在桂中大道某小区室内，利用网络发送诈骗信息进行诈骗，信息发送量多达50000余条。桂中刑侦大队高度重视，迅速开展侦破工作，在分局网安大队的大力支持下，历经10个多月的艰辛侦查、昼夜鏖战，确定了该团伙犯罪窝点，于11月4日下午组织对该涉诈团伙进行统一收网，成功抓获11名犯罪嫌疑人，一举打掉了这一涉外电诈团伙。经过大队民警多日的审讯，该犯罪团伙负责人廖某（男，34岁，福建厦门人）供述，其在租赁办公场所并购置了电脑、手机等办公设备，通过招聘网站、熟人介绍等方式迅速“招兵买马”，吴某泉（男，31岁，福建漳州人）、欧某（男，36岁，四川达州人）等10人在高薪的诱惑下先后加入，在接受话术培训后以虚假身份注册国外交友聊天软件，包装假扮成“白富美”“高富帅”等成功人士，主动添加异性外籍网友，通过利用翻译软件进行暧昧聊天、恋爱交友等方式逐步获取受害人信任，后以承诺高额回报、稳赚不赔诱骗受害人向某矿场平台充值进行挖矿投资，在让被害人获取少量“投资收益”后，引诱被害人不断加大投资金额，再通过操作后台系统把被害人投资的金额划走，进而非法占有被害人财产。警方提醒 ： 千里姻缘一线牵，性别姓名全靠编。以为遇上了真爱，骗你感情又骗钱。骗子骗术花样多，提高警惕防诈骗。如果您不慎遭遇了诈骗，请第一时间报警！
✋热门推荐