郭嘉丰：算法评价亟需有效的技术手段

　　中新经纬客户端6月26日电 (薛宇飞)近日，由中国人民大学高瓴人工智能学院等单位主办的“推荐算法社会价值与可持续发展”研讨会在中国人民大学举行。中国科学院计算所研究员郭嘉丰在研讨会上称，对算法的公平性进行监管时，可能会面临一定的挑战，不仅仅是法律条款上的，还体现在定义和评价指标上。如今看，评价手法、评测办法都非常匮乏。

　　中国科学院计算所研究员郭嘉丰。来源：主办方供图

　　推荐算法产生不公平性的原因有很多，例如性别、地域、种族，以及很多无法感知的东西。他说：“即使所有不公平性的原因都找到了，又该怎么去检测呢？从技术角度讲，这是一个很值得探讨的命题。”

　　另外，推荐算法的可解释性，也不是一个简单的问题，最关键的是对谁解释。解释算法模型时，可能不会给普通大众解释具体的模型参数，因为大众不关心这些。做算法备案、算法公开时，可能是给一些专业人士做解释，但解释的也是一些原理，解释不了它的参数。

　　郭嘉丰还认为，当前存在过度解读推荐算法可解释性的情况。很多时候，算法的可解释性是针对普通用户，最多做到结果或者过程可解释。但到了更严谨的领域时，如医疗推荐、法律推荐，这是非常严肃的东西，可能需要在因果上面进行研究，有更强度的解释才有意义。

　　对于信息茧房现象，他表示，应该从更长时间、更大尺度上去观察。“为什么要用推荐系统去过滤信息，是因为信息太多了，而人的认知是有限的，如果一定要强迫他看好多东西，反而可能会对他的认知产生障碍。信息茧房现象在很多领域都存在，人本身也是有选择偏好的，解决了信息茧房，是不是还会带来另一个问题呢？”(中新经纬APP)

>相关《郭嘉丰：算法评价亟需有效的技术手段》内容：

理财鱼小提示：券商债券执业能力评价结果发布！24家获A类，连续两年A类18家，9家滑出A类，更有多家头部券商 券商债券执业能力评价结果发布！24家获A类，连续两年A类18家，9家滑出A类，更有多家头部券商 2021-12-24 21:58 · 财联社（深圳，记者 黄靖斯）讯 ，为...【继续阅读】

财联社（深圳，记者 黄靖斯）讯 ，为促进构建良性“看门人”生态，证券业协会今日公布2021年证券公司公司债券业务执业能力评价结果。 这是协会第二年发布该项结果，参与评价的证券公司为90家，较去年减少6家。其中，24家证券公司获得A类评价，48家证券公司...【继续阅读】

理财鱼小提示：东兴证券连续两年获评证券公司债券业务执业能力评价A类券商 上证报中国证券网讯 12月24日，在中国证券业协会公布2021年证券公司公司债券业务执业能力评价结果中，东兴证券再次获评为A。据了解，东兴证券连续两年获得评价结果为A的成绩。 证券公司...【继续阅读】