中国法学研究者：人工智能或将社会评分变为监控工具——南华早报

在中国，四川大学法学院博士生林建兴在一项由国家资助的研究中警告称，在社会评分系统中使用人工智能（AI）可能会将其变成大规模监控工具。据《南华早报》报道。

算法评估的风险

林的文章于上个月发表在《四川师范大学学报》上。该研究由四川省社会治理模式与制度创新实证研究项目资助。

根据该研究者的定义，社会评分是指行政机关借助大数据分析和预测算法，将人们的线上及线下活动转化为量化指标。这旨在帮助预测个人的潜在行为和风险，并就其作出重要决定。

林指出，基于风险评估的算法治理可能导致不透明、大规模监控和歧视。他还强调，算法的可靠性取决于所收集数据的质量和模型设计。

更多最新消息请关注 UA.News Telegram 频道 Telegram.

对服务的影响

作者表示，高分或低分看似并不构成对权利和义务的直接限制，但实际上可能影响一个人在医疗保健、金融信贷和公共服务领域受到的对待。在缺乏严格的数据处理规则和监督机制的情况下，利用公民的数字足迹建立精确画像，可能使该系统从风险管理转向行为监控。

该研究者所考察的社会评分系统属于更广泛的中华人民共和国社会信用体系。文章提及了四类此类系统，包括针对严重违法行为的黑名单、金融信用报告，以及收集行为数据并将激励与惩戒相结合的市政系统。

中国当局同时正在扩大人工智能在社会治理中的应用。中华人民共和国国务院去年公布了一项在公共部门安全、有序部署该技术的计划。特别是在安徽省，当局建立了社会救助动态监测平台，该平台为低收入人口建立数据库，并 предусматривает政府部门之间的数据共享。