人工智能推动下的社会信用系统，它不仅仅是作为一个社会推动者，其最终可能会变得非常严格。芝麻信用技术总监李应云也曾表示，在SCS系统下，可以通过购买来判断一个人。
芝麻信用技术总监李应云将这些看作是积极的事态发展，鼓励一个人对自己的生活和消费习惯承担更大的责任，以便获得一个积极的公民评分，即成为“值得信赖的”。
然而，用大数据检测用户行为是有失偏颇的。如何定义人们的日常行为？人们做许多事情可能基于不同的原因，如果情况不理解，就会存在被误解的可能。
即使是一个只有少数数据点的基本SCS系统，也可能描绘出一幅非常不准确，不完整的图片。比如，你可能正在玩游戏10个小时，如果算法说你闲着，这可能会错过你玩这些游戏的原因。也许你是一名工程师，你正在测试他们。但系统认定你为闲人，而这却是你的工作。
因而，这就不得不谈及大数据环境下的构建诚信体系中的问题。智能相对论（aixdlun）分析师柯鸣总结了目前人工智能加持下的社会信用体系建设，发展了目前依然存在以下问题：
1.较高难度的大数据获取
随着社会的基础信息搜索和信息共享机制的改变，大数据难以完全支撑有所信息的获取。比如，以水电煤气为代表的基础信息、个人社保公积金以及教育、住房、司法系统尚未完全联网，底层数据缺乏；另一方面，支付、社交等信息依然呈现出彼此封闭和割裂的状态，互联网巨头拥有着大量的用户数据，这使得一般数据获取的成本大大提高。
2.大数据模型可行度存疑
个人信用的大数据获取模型必须建立在数据有效、充分抓取的基础上，这需要实际应用中的不断修正和检验。而在实际落地过程中，由于应用时间较短，缺乏历史数据的参考，目前的大数据模型依然存在着数据不足、缺乏检验等问题，在落地过程中依然需要时间。
3.网络大数据应用范围过窄
从目前来看，用户数据大部分来自于互联网，这在实际应用中把较少使用或不曾使用网络服务的群体排除在外，比如老年群体以及偏远地区群里等。而这在大数据评估的过程中会存在着忽略此类群体的情况，不利于刻画社会群体的“用户信用画像”。
总之，AI加持下的大数据信用系统确实能够完善社会信用体系，但是大数据能够收集个人日常失信行为，但并不是说这些失信行为就要被公布于众，哪些行为需要公布，哪些不能公布，这都要有一个准绳。
此外，在个人诚信档案使用中也应该分领域，比如有些领域可以阅读完整的信用档案，有些领域则不能阅读完整档案，需要对阅读权限进行分级，可以建设一套与之相应的信用评级系统。
社会信用体系的建设仍然有很长的路要走，当《黑镜》中的AR评分照进现实，个人信用的评估一定会再步入一个新的台阶。
智能相对论（微信id:aixdlun）：深挖人工智能这口井，评出咸淡，讲出黑白，道出深浅。重点关注领域：AI+医疗、机器人、智能驾驶、AI+硬件、物联网、AI+金融、AI+安全、AR/VR、开发者以及背后的芯片、算法、人机交互等。
文章TAG：扣分 评价 信用
