查看原文
其他

学霸用 Python 分析相亲网站数据,在两万异性中找到真爱!

GitHubDaily 2019-10-18

微信搜 “GitHubDaily” 点关注

设为 “星标”,每天带你逛 GitHub!

转自大数据文摘

来源:Wired

编译:啤酒泡泡、张大笔茹、张睿毅、牛婉杨


想脱单?那还不容易!


如果身在美国,就像其余四千万单身男人一样,注册一下 Match.com, J-Date 和 OkCupid 等相亲网站,坐等真爱上门不就可以了。


但是相信大多数人和 McKinlay 一样,尽管向 OkCupid 算法推荐匹配的女性发送了许多暧昧私信,但绝大多数都石沉大海了。


转折出现在 2012 年 6 月的一个早上,这个只进行过 6 次线下约会的男人正在电脑上编译机器代码,另一个窗口显示着他孤零零的交友头像,他突然顿悟:他一直在使用错误的方法寻找爱情。


为了不辜负自己在应用数学领域取得的成绩,他决定,在 OkCupid 上爬取每一条相关信息,利用关键的 K-Modes 的改良贝尔实验室算法找出数据规律,缩小范围,然后一击命中。


换句话说,这是一次数学家独创的完美约会经验贴,还不快来看看!


第一步:分析失败原因,知己知彼


OkCupid 是哈佛大学的数学系学生于 2004 年创立的约会网站,最初这个网站吸引人们注意力的是它基于计算方法的配对模式。会员会回答很多多项选择问题,这些问题覆盖面很广,包括政治、宗教、亲情、性、以及智能手机等。



数学家 Chris McKinlay


通常,系统会从上千道问题的题库里选出 350 道问题 —— “以下哪种情形最有可能让你去看电影?” 或是 “宗教 / 上帝在你的生活中有多重要?”


对于每一道问题,用户会选择一个答案,以说明自己伴侣的哪一个回答是他可以接受的,并通过给问题评分来表明问题对自己的重要性(5 分制,从无关紧要到必须回答)。OkCupid 的匹配引擎会利用这些数据来计算男女之间的合适程度。越接近 100%,所谓数学意义上的灵魂伴侣就越匹配。


McKinlay 从数学上分析了自己一直以来的失败原因。


OkCupid 的算法只会使用双方都愿意回答的问题去计算,而 McKinlay 选择的问题有些随机,并不主流。当他查看与自己匹配的人时,匹配度超过 90% 的女人不到 100 个。要知道,洛杉矶有两百万女性(大约八万女性在使用 OkCupid)。如果把匹配度比作可见度,那 McKinlay 可以说就是个看不见的幽灵。


他意识到他应该去提高匹配的人数。如果 McKinlay 通过统计取样确定哪些问题是他喜欢类型的女人愿意回答的,那么他便可以诚实地回答这些问题而忽略其他问题,以此来创建一个全新的用户。利用这个办法,他可以匹配到在洛杉矶的每一个可能与他配对的女人,而不会匹配到不合适的人。



第二步:借助 Python,求助好友,疯狂收集数据


Chris McKinlay 利用 Python 脚本浏览了上百道 OkCupid 的问卷题目,然后把女性用户分为七类,每一类都会贴上独特的标签,例如 “多才多艺的” 和 “细心体贴的” 等等。


即便作为一个数学家,McKinlay 也是个不同寻常的人。他小时候在波士顿郊区长大,2001 年他从 Middlebury 学院毕业并获得汉语言学位。同年 8 月份,他在纽约世贸中心北塔 91 层的一家公司里找了一份兼职工作,工作内容是将中文翻译成英文。五周后的一天,世贸大厦倒塌了。(那天,下午两点前 McKinlay 都没来公司。当第一架飞机于早上 8 点 46 分撞上大厦的时候,他正在睡觉。)


“自从那件事后,我问自己,我究竟想做什么” 他说。他的一个在哥伦比亚大学的朋友招聘他进入了一个由麻省理工职业 21 点团队衍生出的一个团队,这之后的几年里,他便往返于纽约和拉斯维加斯,他的工作是数牌,一年能挣六万美金。


这段经历点燃了他对应用数学的兴趣,最终促使他在这个领域取得了硕士和博士学位。“他们能够在很多不同的情景下使用数学知识,” 他说,“他们会见到一些新的游戏,比如‘三张牌的牌九扑克’,然后回家写点代码,接着就能找到策略去打败它。”


现在,他想用同样的方式去寻找爱情。首先,他需要数据。就在他用旁边的窗口进行论文写作的时候,他建了 12 个假的 OkCupid 账户并写好了 Python 脚本去管理这些账户。这个脚本会搜索他的目标群体(25 到 45 岁的异性恋或双性恋的女人),访问她们的主页,然后爬取她们账户上每一条有用的信息:种族、身高、是否吸烟、星座 —— “这些我全都要” 他说。



为了找到心仪的另一半,他还做了一些额外调查。OkCupid 可以让用户看到其他人的回答,但只能看到那些他们自己已经回答过的问题。 于是 McKinlay 设置了自己的机器人程序,以简单地随机回答每个问题,他并没有使用虚拟的个人资料吸引任何女性,因此答案并不重要,主要他要将这些女性的答案收集到了数据库中。


McKinlay 满意地看着他程序一路狂奔。 然后,在收集了大约一千个档案后,他遇到了第一个障碍。OkCupid 有一个短平快的系统来防止这种数据收集,他的程序一个接一个地被禁。


因此他必须把自己的程序训练的更像真人一些。


他求助他的神经科学家朋友 Sam Torrisi,最近刚教过 McKinlay 音乐理论以换取高级数学课程。Torrisi 也注册了 OkCupid,他同意在他的计算机上安装间谍软件来监控该网站的使用。根据手中的数据,McKinlay 通过编程模拟 Torrisi 的点击率和打字速度。他从家里带来了第二台电脑并将其插入数学系的宽带线路,以便可以 24 小时不间断运行。


三周后,他已经收集了来自全国各地 20000 名女性的 600 万个问题和答案。


第三步:将 20000 名女性分为 7 类,找出最适合自己的


按照 McKinlay 的工作计划,他需要从调查数据中找到一个规律,即需要根据相似性粗略地对女性进行分组。这个问题在他编写一个名为 K-Modes 的改良贝尔实验室算法时取得了进展。


K-Modes 算法 1998 年首次用于分析患病的大豆作物。


他通过算法发现了一个自然的分割点,根据问题和答案,20,000 名女性被分为成七个统计学组。 “我太高兴了,” 他说,“那是六月份令我最兴奋的事情了。”


他重新设置条件来收集另一个样本库:在过去一个月内登录 OkCupid 的来自洛杉矶和旧金山的 5000 名女性。通过 K-Modes 的另一次分组确认他们以类似的方式聚集并确保统计抽样有效。


现在只需要决定哪个类群最适合他了,在抽查了每个类群的一些档案后,发现一个类群太年轻,两个太老,另一个太 “基督” 了。于是他徘徊在一个二十五岁左右的女性主导的类群中,工作类型比较独立,像是音乐家和艺术家。这简直是黄金单身群!


就像是大海捞针,他找到了他的针,也就在这个类群的某个地方,他找到了真爱。


一个相邻的类群看起来也引起了 McKinlay 的注意:年龄稍微大一些,从事专业的创造性工作,如编辑和设计师。他决定将两个类群都设定为自己的目标!于是设置了两个配置文件,A、B 组各优化一个。


第四步:真诚填写相关问题,找出灵魂伴侣


他对这两个类群进行了文本挖掘以了解她们感兴趣的内容:教学是一个热门话题,因此他撰写了一篇强调了他作为数学教授工作的文章。


更重要的是回答问题,于是他挑选了两个类群中最受欢迎的 500 个问题并决定诚实地填写答案,他不想在计算机生成的谎言的基础上建立未来的恋爱关系。但是他会使用一种称为自适应提升的机器学习算法来得出最佳权重,从而让计算机确定分配每个问题的重要性。



有了这个后他发表了两个照片,一个是攀岩的照片,另一个是在音乐演出中弹吉他。


“无论未来的计划如何,你现在对什么更感兴趣?性还是爱?” 这个问题的答案很明显是爱。但对于年轻的 A 群,他尊重计算机将问题评为 “非常重要” 的结果。对于 B 群集,它则是 “必须回答” 的问题。


当回答完最后一个问题时,他按照匹配百分比对洛杉矶的女性进行了 OkCupid 搜索。从头开始:第一页匹配率全是 99%女性。向下滚动...... 然后...... 向下滚动……, 来自洛杉矶各地的一万名女性迎面而来。


离被关注还差一步!OkCupid 会员在有人查看他们的网页时会收到通知,因此他写了一个新程序来访问查看他主页的女性的主页,并按年龄循环:周一有 1000 名 41 岁的女性,周二有 1000 名 40 岁的女性。两周后,轮到了 27 岁的女性。女性会回访他的个人资料,每天约 400 名左右。然后,私信开始滚滚而来。


“直到现在我还没有遇到过如此匹配的人,而且我发现你的个人资料很有趣,” 一位女士写道,“对于一个擅长数字的粗犷男人...... 我觉得我想认识你。”


“嘿,你的个人资料很棒,我想认识你,” 另一位写道,“我认为我们有很多共同之处,也许不是数学,但肯定还有很多!”


“你真的会翻译中文吗?” 还有人问道,“我上了一些课,但学的并不好。”


至此,数学部分已经完成。接下来,他需要离开他的小隔间,进入实际演练阶段,他要去真正的约会!


第五步:走出小隔间,来一场真正的约会


6 月 30 日, McKinlay 开着他的尼桑穿越城镇来到加州大学洛杉矶分校的健身房,开始他的约会实践。Sheila 是一位来自 “A 类群” 的年轻的网页设计师。他们在 Echo Park 的一家咖啡馆吃了午饭。 “太不可思议了,这简直像一场学术活动一样。”


与 Sheila 约会结束后,双方都觉得不来电。第二天,McKinlay 进行了第二次约会,一个来自 “B 类群” 的博客编辑。他们计划在 Echo Park Lake 周围散步,却发现正在施工。女方一直在读普鲁斯特并对生活感到失望。 “这有点令人沮丧,” 他说。


第三天的约会也来自 “B 类群”。他在韩国城的一家酒吧遇到 Alison。 她是一名实习编剧,肩膀上还纹了斐波那契螺旋。McKinlay 喝了很多韩国啤酒,第二天带着痛苦的宿醉在他的小隔间醒来。他后来在 OkCupid 上私信她表示想继续约会,但她没回。


虽然他被拒绝了,但每天仍然收到 20 条消息。实践约会显然与计算机配置文件约会是完全不同的。他开始忽略一些主页没有内容的人的消息,只回应那些有幽默感或在首页展示一些有趣的东西的人。以前他作为主动方,会交换三到五条消息来获得一个约会日期。现在就只发一个回复。 “你看起来很酷。想见面么?”


20 个约会之后,他总结了一些潜在的规律。在较年轻的群体中,女性大多数有两个或更多的纹身,而且住在洛杉矶的东边。另一组中,她们疯狂的喜欢中型犬。


早期的约会他会经过精心策划。但当工作越来越忙时,就开始在午餐或咖啡时间偶尔参加休闲聚会,而且经常一天之内约两场。他制定了一套个人规则来完成 “马拉松爱情” 搜索:不再约喝酒,如果不来电就赶快结束不要拖拉,不约音乐会或电影。 “约会中你们需要关注的是彼此而不是别的什么东西,不然效率会很低。”


经过从他的两个档案中同等挑选约会的一个月后,他发现他耗费了太多时间在纹身群中接触东边的女性。他删除了他的 A 组简介。他的效率虽然提高了,但结果是一样的。随着夏天即将结束,他已经有过超过 55 次约会,每日都尽职地在实验笔记本上记录。只有三个产生了第二次约会,只有一个进行了第三次。


大多数不成功的约会者都面临着自尊问题。对于 McKinlay 来说其实更糟糕。他不得不检查他的计算。


后来一个来自 28 岁的艺术家 Christine Tien Wang 发来了消息。McKinlay 之前在加州大学洛杉矶分校附近搜索到她,6 英尺高蓝眼睛的人,正在那里修她的美术硕士学位。他们有 91%的适合度。


他在校园的雕塑花园遇见了她。从那里他们走到一个大学寿司会场,他立刻感觉到了来电了!他们谈论了书籍、艺术、音乐,当她承认她在给他发消息之前对她的个人资料做了一些小改动后,他给她讲述了关于他黑进爱情网站的整个经过。


“我认为这样做有点腹黑和愤世嫉俗,” 她说,“但我喜欢。”


这是第一次约会,第二次紧随其后,然后是第三次约会。两周后,他们都暂停了他们的 OkCupid 帐户。


我认为我所做的只是每个人在站点上所做事情的一种略微算法化,大规模且基于机器学习的版本。” McKinlay 说。每个人都试图创建一个最佳的配置文件,他只是有数据来设计一个。


这是他们第一次约会的一年后,McKinlay 和 Tien Wang 在韦斯特伍德寿司吧台和一位记者见面,他们的已经正式确定关系了。McKinlay 获得了博士学位,他正在教数学,目前正在攻读音乐研究生学位。Tien Wang 被卡塔尔录取并获得为期一年的艺术奖学金。她在加州和 McKinlay 见面。他们一直在 Skype 上保持联系。


根据记者的要求,McKinlay 带来了他的实验笔记本。Tien Wang 之前没见过它。这是 McKinlay 紧密笔迹中的公式和方程式的页面,以一个整齐排列的女性名单和约会清单结尾,其中含有一些简短的注释。Tien Wang 扫读了一遍,觉得一些亮点有点可笑。 她注意到,8 月 24 日,他在同一天带了两个女人到同一个海滩。她说: “太可怕了。”


对 Tien Wang 来说,McKinlay 的 OkCupid 黑客历程是一个有趣的故事。但所有的数学和编码只是他们故事的序幕。见面后,恋爱关系才真正被黑客入侵。 “人们比他们的个人资料要复杂得多,” 她说,“所以我们遇到的方式有点肤浅,但我们之间发生的一切都不是肤浅的,它是通过彼此的努力培养出来的。”


“这不是说,我们匹配因此我们关系很好,” McKinlay 表示赞同, “这只是一种将我们放在同一个空间的机制,我能够使用 OkCupid 找人。”


Tien Wang 对此有点愠怒:“你没找到我,我找到了你。” 她摸着他的手肘说道。McKinlay 停下来思考,然后承认她是对的。


一周之后,Tien Wang 又回到了卡塔尔,这对夫妇每天都会拨打一个 Skype 电话。当 McKinlay 拿出钻石戒指并将其举到网络摄像头前像她求婚时,Tien Wang 说 “我愿意”。


他们结婚时间并不完全确定,McKinlay 说需要进一步研究以确定最佳婚礼日。


相关报道:

https://www.wired.com/2014/01/how-to-hack-okcupid/

---以上,便是今日分享,觉得不错,还请点个在看,谢谢~推荐阅读:GitHub 标星 6k,拿这个开源项目做个哄女友神器吧!
程序员相亲图鉴
「GitHub 交流群」已开放想入群的可在公众号后台回复「入群」

    您可能也对以下帖子感兴趣

    文章有问题?点此查看未经处理的缓存