美国大数据工程师面试攻略
余生,做个好样子
2024-12-22 18:31:05
最佳回答
1先做一个自我介绍,本科南开后,加入了一个创业公司kuxun,做实时信息检索,后来进入百度基础架构组,搭建了baidu app engine的早期版本,随后去duke大学留学,在攻读硕士期间,做跟hadoop大数据相关的研究项目starf**h,之后在amazon ec2部门实习,了解它们的内部架构,毕业后加入linkedin,做广告组的架构,涉及hadoop调优,data pipeline, offline/online, 实时系统。最新是在coursera从事数据工程师工作。在多年工作中,除了对技术的不懈追求,也积累了大量的面试经验,从国内的一线互联网百度,阿里巴巴,奇虎,人人,到美国一线公司**,google,linkedin,twitter,amazon,到热门startup,uber,pinterest,airbnb,box,dropbox,snapchat,houzz,拿到10+ offer,并且在linkedin期间也面试过100+候选人,参与面试题制定,乐于分享并帮助很多人成功求职,实现目标。2我们看一下这张硅谷地图,它坐落于美国加州,从圣何塞到旧金山的狭长地带,中间是san franc**co bay,简称湾区。它的由来是这边有计算机核心处理器中离不开的硅,30年来,硅谷就发展成为无数技术性创业公司的摇篮。在20多年前,就有很多硬件公司的辉煌intel,oracle,apple,c**co成功上市,10年前,互联网的兴起,造就了yahoo,google,ebay的神奇,而如今tesla,**,twitter,linkedin正扶摇直上,成为美股高科技股的领头羊。这些公司的市值从几十billion到几百billion,pe从负数到上千。疯狂的估值背后也改变了世界。3如果说硅谷成功是有原因的,我觉得有两点。地理位置是得天独厚吸引大量人才,这里有stanford和加州州立高校提供智力库的支持,在硅谷可以看到来自全世界的最聪明的人,**人,印度人,犹太人构成这些engineer的主力。虽然国内做技术自嘲为码农,但在硅谷成为一个优秀工程师还是收获颇丰。另一方面创业是一个永恒的话题,在stanford有个说法空气中都飘扬中创业的味道,一些早期员工通过上市**又积累经验成了天使投资,y combinator,各种技术forum,meetup,创业导师,都很活跃。资本的力量功不可没,早年vc通过投资,收购,上市放大形成一个雪球效应。大家总喜欢问什么是next big thing,哪一个是下一个**,下一个musk,根据统计10年能成就一个千亿以上的公司,目前这个进程正在缩短。4我就拿linkedin作为例子,介绍高科技公司(**)是什么样子。它是成立2003年的职业社交网站。在10年的发展中,也不是一下子爆发的,目前有3亿的全球用户,虽然跟**,google 10亿+用户没法比,但是它有很好的护城河,用户定位高端精准,单位价值高。这张照片中左边这位是创始人reid hoffman,是paypal黑帮成员,在硅谷也是呼风唤雨的大佬,目前是董事和投资人。中间这位是ceo jeff,2013年被glassdoor评为最佳ceo,作为职业经理人,成功帮助linkedin高速成长,他最喜欢提到transformation,希望我们每个员工能挑战自我,在各自岗位上进化。linkedin提供了员工很好的福利,有号称湾区最佳的免费食堂,每个月一次的in day,hack day, 帮助员工内部创业的incumbator计划。它特点是数据驱动的开发产品,比如 people you may know, job you may be interested, 我做过sponroed ads 都是需要很强数据背景和data scient**t的支持。它的biz model也很独特,有3个line,面向公司的招聘服务,面向广告商的市场服务,面向个人的订阅服务,还有最新sales solution,因为这么多可能性,成为华尔街的宠儿。5说硅谷,除了那些已经成功的大公司,不得不说现在最新的创业动向,这些代表了未来下一个**。我总结了一些领域和代表公司:云计算(box, dropbox),大数据(cloudera),消费互联网(pinterest),健康(fitbit),通讯(snapchat),支付(square),生活(uber)。 这里是华尔街网站更新的最新融资规模,比如uber就达到18billion的估值,我当时拿到offer没去,还是觉得很疯狂,如果细看这张表,大家可以看到硅谷(蓝色)尤其是旧金山它们的融资规模远远大于其他地区,还是地理决定论。而在国内的两家xiaomi,jingdong都是在北京,而最近大家看到一些泡沫论,说什么阿里巴巴上市是否美股到顶,经纬vc创始人也提醒我们泡沫的风险,我无法判断。如果能参与到下一波浪潮里面去是很过瘾的。我推荐大家去看看 <浪潮之巅>,<奇点临近>,我还是很期待未来20年的技术**。6我个人热爱大数据,在硅谷这也是大家津津乐道的,有个笑话,big data ** like **age talking about sex, nobody know how to do it. 其实大家还是兴趣驱动就好,不要那么功利,大数据技术涉及太多,平常工作中也是慢慢积累,有无数的坑和技术细节需要克服。并不是说那个技术最热就要用哪个,如果你用不好,你的压力很大的,举个例子,你用某个开源数据库,发现它偶尔有数据丢失怎么办,如果这是线上服务,你不断收到报警,这时候你当时选用它的优点 scalable,容错性都没意义了。接着说大数据,这里面hadoop作为行业标准,我面过的除了google,微软不用,几乎所有的公司都在用,建议大家利用这个机会。这里面有三巨头,cloudera是老牌hadoop咨询公司,hadoop的创始人做cto,hortonworks也是很多hadoop的committee,mapr是提出hdfs的erasure 编码方式高效而著名,它们都是融了巨资,模式也很像,先推出社区免费版,但有个商业版提供更好的管理。 而今年出现一匹黑马,spark,简单说就是内存级别的计算,比hadoop框架里能节约io,利用缓存,能适应批处理,迭代,流式计算。7这里看一下它的生态系统,如何学hadoop是个循序渐进过程,先要理解学习它的core系统,hdfs, mapreduce, common,在外围有无数的系统工具方便开发,我个人用过的是 **ro作为数据格式,zookeeper作为选主的高可靠性的组件,solr作为搜索接口,pig搭建工作流,hive 数据仓库查询,oozie管理工作流,hbase 作为kv 分布式存储,mahout数据挖掘的库,cassandra nosql 数据库。我建议初学的考虑chinahadoop的课程。8而hadoop本身也是个进化过程,几年前0.19版本,到0.20, 0.23分流成yarn架构最后进化成hadoop2.0, hadoop1.0 和 2.0 它们的接口和组件是完全不同的,但总体上hadoop 2.0 是趋势,因为它有yarn这样分离的资源管理**,可以以插件的方式开发上面的application,解放了生产力,而像spark,storm这些新型处理器也是支持hadoop 2.0的。这里是hortonworks它们提出来的社区版本架构,可以说标准的制定者,一流的公司制定标准,其他的公司一般用只能用它们提供的稳定版,没有多少话语权。但从事大数据,并不见得是要去这些制定标准的公司,大量的应用也是非常考验架构的灵活性。并且能看到实际的产品,很有成就感。9说到今年火的,还是要看spark。从去年至今,已经开了2届spark大会,上千人的规模,无数人对比hadoop 100倍的性能提升而兴奋。这里说它的背景是诞生于berkeley的amplab,它们有个很有名的bdas(berkeley data analytics stack),目前spark已经成为apache的顶级项目。去年这个实验室的教授跟学生出去成立databricks公司,拉到两轮上千万的风投,有人成spark是hadoop的终结者吗?我看今年spark大会上,所有的hadoop大佬公司都是鼎力支持,像cloudrea甚至放弃impala的一线支持而转变成spark。如果这么发展下去,星星之火可以燎原啊。它里面用到scala是一种函数式语言。里面的组件也很多,有shark支持sql类似hive,有spark streaming,mllib,graphx,sparkr,blinkdb。它的核心数据结构是rdd,可以跑在各种分布式系统上。总体上是个包容性+侵略性的系统。我个人也很看好它们的发展。end9相关内容未经许可获取自百度经验 20210311