最具公信力的企业法律服务平台
新闻报料:010-84772563、84772559cclppcn@163.com
热烈祝贺新版中国企业法律保障网上线!

你现在所处的位置:首页 > 调查 > 正文

算法歧视:来自智能时代的消费歧视

2018-08-23    来源:法治周末


资料图


法治周末见习记者 孟伟

8月初,一张网络问卷在南京大学2018级本科新生中传开。在问卷中,不仅有“作息时间”“空调使用习惯”“个人卫生习惯”“公共物品和消费倾向”等调查选项,还有“兴趣爱好”一栏。

这是南京大学向18级新生派发的自愿参与的问卷调查,早在去年,南京大学就已经开始通过网络问卷调查的方式给新生按照生活习惯分配宿舍了。收集完学生的问卷信息后,学校使用了大数据“LFM推荐算法”,对学生们的信息进行了量化处理,让新生更容易遇见志同道合的舍友,建立共同话题。

大数据算法不再是论坛专家口中神秘的理论公式,如今算法的应用随时出现在我们的身边。

8月18日,在世界机器人大会的分论坛中,多位法学界、人工智能界的专家学者对大数据算法的实践和监管进行了探讨。


“无所不能”的算法


无处不在的摄像头、传感器、人脸识别……AI已经成为我们生活中的一部分。

如今,我们每日在翻阅新闻客户端时,在首页总会最先出现自己喜欢的领域的文章。例如,曾经打开过与股票相关的文章,在以后的浏览过程中,你会发现关于股票知识、股票行情的新闻推送开始增多。随着数据的积累、计算机算力的跃升和算法的优化,算法推荐带来的信息定制化、资讯分众化已经得到了广泛的应用。

我们似乎已经开始对大数据算法产生了依赖。

但是随着人工智能的不断普及,大数据杀熟、算法歧视等问题也渐渐浮现来。

今年上半年,在线差旅、交通出行、在线票务、视频网站、网络购物等诸多垄断性或准垄断性网络平台企业被曝存在大数据“杀熟”行为,即在购买同样产品或服务情形下,老客户反而要比新客户花费更高。

有网友反映,自己经常通过某旅行网站订一家出差常住的酒店,长年价格在380元至400元左右。某日,网友发现自己的账号查到酒店价格是380元,但朋友的账号查询显示价格仅为300元。还有很多网友反映,有的网络平台会根据手机型号给出不同的收费待遇。

其实早在2000年,亚马逊网站就已经进行了价格实验。当时通过算法制定对一些DVD施行歧视定价策略。例如,对《Titus》碟片进行歧视定价,对新用户收取22美元,对老用户收取26美元。

这一项目最后被消费者发现之后就立即终止了,但实际上新的价格歧视方式层出不穷。

中国科学院大学公共管理学院法律与知识产权系教授罗先觉举例,消费者选择一套在当时的售价是50美元的DVD,后将DVD加入购物车中,然而几天过后购物车里的这套DVD价格却变成79美元。这是由于消费者将物品放入购物车的举动证明其购买这一产品的可能性非常高,所以平台就将价格调整到了79美元。

对于不同手机型号会出现不同收费待遇的情况,罗先觉也举出了美国的先例。

2012年,美国非常著名的在线旅游网站Orbitz,通过大数据算法进行分析,发现使用苹果电脑的用户和用其他电脑的用户相比,他们的支付意愿更高、消费能力更强。得到这一发现之后,Orbitz开始尝试“一样的产品,不一样的价格”的概念,把苹果用户引导到服务和体验更高的酒店。

罗先觉介绍,算法价格歧视就是经营者运用算法手段,通过跟踪、分析消费者的消费记录或其他上网记录,绘制出消费者的偏好、习惯等画像。这样使得经营者可以进行个性化的尝试、验证,挖掘出结果数据,获得消费者的最大支付意愿信息后,针对不同的消费者确定不同的价格。


算法监管多元化


如何对人工智能进行监管,一直是法学界专家学者特别关注的话题。

对于大数据杀熟的问题如何规制,在罗先觉看来:“基于算法的价格歧视问题,不可能单靠反垄断法或者某一项法律来进行规制,而是要实行多法并举的方式。”

罗先觉向记者介绍,现行法律中也有依据对大数据杀熟行为进行处罚:在经营者拥有市场支配地位的情况下,可以根据反垄断法中“没有正当理由,对条件相同的交易相对人在交易价格等交易条件上实行差别待遇,属于滥用市场支配地位行为”进行处罚;对于没有取得市场支配地位的经营者,可以根据反不正当竞争法,保证公平、诚信原则进行规制。

同时他指出,我们应该确立消费者对于价格差别定价的知情权,这也影响对于大数据杀熟行为的违法性认定。

正在审议的《电子商务法(三审稿)》中也回应了大数据杀熟的问题,第19条规定:电子商务经营者根据消费者的兴趣爱好、消费习惯等特征向其推销商品或服务,应当同时向该消费者提供不针对其个人特征的选项,尊重和保护消费者合法权益。

而对于算法透明的规制,中国政法大学法学院教授汪庆华认为可以参考中国人民银行、银监会、证监会、保监会和外汇局联合出台的《关于规范金融机构资产管理业务的指导意见(征求意见稿)》,其中明确要求“如果运用人工智能技术展开资产管理服务,必须报备智能投顾模型的主要参数以及资产配置”。

在汪庆华看来,要求报备模型的参数以及资产配置属于打开了算法黑箱,体现了算法透明。

北京大学知识产权学院常务副院长张平对人工智能的规范提出了一种新的途径:人工智能带来的问题,不仅可以通过立法去解决,还可以通过道德和技术标准去规范,因为二者可能会更快地发挥作用。


(责任编辑:huangyuhe)

查看全文
1
2