到了大学，从小镇来的他，英语水平比起其他的同学，又没有优势了。于是，他不分白天黑夜，奋起直追，晚上十点熄灯后，他挂上窗帘偷偷学习到深夜。大学时的他学习成绩依然名列前茅。
从上学以来，林建海的成绩一直是名列前茅，有人说他考试能力强，有人说他是苦读书，其实他的秘诀是掌握了好的学习方法：课前预习加课后复习，笔记一整理，一门课的要点就提炼出来了，考试时自然水到渠成。可以说，正确的学习方法就像车轮载着林建海走向梦想的地方。
到了毕业分配的时刻，林建海一心想回上海工作，因为那是他一直以来的梦想。一天，他正在校园漫步，脑子里仍然想着如何回南方工作，对面遇到骑车经过的徐世伟副院长。徐院长邀他到办公室聊聊。徐院长问：“你知道最近有个出国考试吧？你准备得如何？”他答说：“我不想出国，所以没准备考试，我想回南方工作。”徐院长语重心长地说：“年轻人眼光要放长远些，我也是南方人，不是在北京工作得很好吗？你年纪轻轻，如果能留学，将来前途无量。你回去想想。若干年后回过头来，你肯定会认为我今天的建议是正确的。”
他听从了徐院长的建议，开始抓紧复习准备参加出国考试。在那次有众多老师参加的考试中，林建海又夺得了第一名！不被眼前的小成果所诱惑，一直向着那更远方前进，这让林建海插上翅膀，飞到了更高的天空。
1981年，他踏上赴美求学之路。就这样一步步，林建海从小镇走到北京，又去了美国。
他先在加州伯克利大学学习，1983年转到乔治·华盛顿大学攻读博士学位，学校为他提供了全额奖学金和生活费。开学前，导师找他谈话说：“你是我手下第一个中国留学生，表现如何将影响以后是否录取中国留学生，为了树立榜样，你要多上几门课，争取尽快完成学业。”第一学期林建海选读了六门课，吓得一个台湾学友再三叮嘱他：“林兄，六门课太多了，绝对不行。”考虑到功课会越来越忙，他立即开始准备研究论文，被住在一起的两个美国同学当笑话说了好久。他们认为学期刚开始，能玩则先玩一玩，先轻松后紧张是学校生活的惯例，林建海的做法未免太反常。