科普｜信息茧房和马太效应是什么?大数据如何精准猜透你的心?
《追AI的人》之AI科普系列短视频，将持续用简单清晰的语言向公众解释对于人工智能的普遍疑问，推动社会就人工智能的发展和治理达成共识。
在日常生活中，你有没有遇到过这种情况：只要你点赞或收藏了某个短视频，就会持续收到同类型的内容？不仅仅是短视频，还有听音乐的每日推荐，是不是也都是你经常听的类型或者歌手？其实，这些都属于个性化推荐！
个性化推荐是指——信息流推荐算法。它通常在用户授权的前提下，利用用户在信息内容上的各类行为表达，理解用户的兴趣需求，为用户尽快找到心仪的内容集合、商品集合；同时也可以帮助生产侧快速获取用户。在电商场景，信息流推荐算法可以大幅提升用户和内容、商品的匹配效率，让用户、商家、和平台共同受益。
在广泛应用和快速发展中，信息流推荐也逐渐出现了一些问题。一方面，对用户可能造成信息茧房问题，什么是信息茧房呢？
信息茧房是指人们关注的信息领域，会习惯性地被自己的兴趣所引导，从而将自己的生活桎梏于，像蚕茧一般的“茧房”中的现象。也就是我们前面提到的，你会不停刷到同类型的内容。商品推荐中虽然不存在信息茧房，也可能出现推荐的商品越来越单一化和同质化的现象。
另一方面，对于生产者可能造成马太效应，什么是马太效应呢？马太效应是一种强者愈强、弱者愈弱两极分化的社会现象。具体表现为，流量在头部生产者的聚集现象越来越明显。上述问题的根源，在于推荐算法的设计阶段，过于关注流量的分发效率、点击率的优化、成交转化率的提升，相对忽视了用户实际体验，以及生产侧供给生态的持续优化。此外，深度学习自身的不可解释等固有缺陷，也给系统的优化和干预增加了挑战。
下期预告：
下个视频，我们将介绍淘宝针对电商场景下信息流推荐算法，具体的治理实践。
包括建模用户负反馈数据，减少推荐用户不喜欢的内容；搭建发现性推荐链路，提升推荐系统的多样性；开展全链路无偏学习，刻画用户多样的兴趣分布；开辟新品赛道，助力中小商家快速成长；通过精准商品潜力挖掘，助力乡村振兴。
上述内容来自于《人工智能治理与可持续发展实践白皮书》，更多精彩分享，请点击👇
● AAIG成立一周年!砥砺前行,谱写新时代的科技之歌~请查收这份最新的自我介绍
● AI治理必修第20刊|ChatGPT发布!智能回答堪比雅思口语满分案!它会成为下一代搜索引擎吗?
● 听委员说｜AAIG薛晖出席杭州市"两会",提出加快建立人工智能产业的多元协同治理机制
● 时空分布偏移下的动态图神经网络:如何在图数据上做数据变换或者数据扰动?NeurIPS论文分享直播回放(7)
● “算法偏见”是概念炒作吗?「这个AI不太冷」第3期带你揭秘现实AI!
更多人工智能治理和可持续发展好文点击下方名片关注和星标【阿里巴巴人工智能治理与可持续发展研究中心】