1884年，法国侵略者侵略中国，中法战争爆发了。福建水师，担任着海战方面第一线的战斗。中法海战一触即发，各兵舰的管带纷纷请求迎战，海疆事宜大臣张佩伦不采纳。法国正式通知开战，中国兵舰虚弱暴露无遗。
詹天佑早已看透福建水师的兵舰，虚有其表，不堪一战。詹天佑告诉管带说：“我舰奉令不准先开火，但决不能不准备还击。”当法将孤拔派5艘法舰向它围攻，扬武轮当即予以还击。
激战进行了近6个小时。最后，法国兵舰暗放鱼雷，打中扬武轮的船底，大舱进水，船身倾斜。管带张成乘小船先走，詹天佑镇静如常，他从水中救起多人后，才离开沉舰游上岸。
中法交战后，两广总督张之洞将詹天佑调到广州测绘海图。詹天佑在很多地方都遇到外国传教士在鬼鬼祟祟地偷测我国的海岸图。1年之后“沿海险要图”完成，他被调到水陆师学堂担任洋文教师。这一年他与谭伯的四女儿结婚。
水上生活，使他感到厌倦。正在这时候，忽然接到老同学邝孙谋的信，问他愿不愿意北上担任中国铁路公司的工程师，他本来是学工程的，现在有机会干本行，他决定辞职北上，于是打点行装来到天津。
当时的中国铁路公司是1887年建立的“官督商办”公司之一，由伍廷芳、唐景星分任公司的总理和经理，他们向英国汇丰银行借款100万两，收买了唐胥路。在修路时，英、德两国工程师发生了争执。
英籍工程师金达偶然看到中国留美学生邝孙谋，要他出来和鲍尔对抗，邝孙谋推荐了詹天佑，他认为必须有一个十分懂技术的工程师才能胜任。
詹天佑进入铁路公司后不久，就看出金达和鲍尔之间的矛盾。他不愿留在天津，卷进纠纷，他和工人在工地一起工作，他在80天内指挥完成了塘沽到天津间的铺轨工程，1888年9月5日，唐山天津线全路通车。
李鸿章依靠汇丰银行借款，打算将唐津铁路延长，金达怕詹天佑出人头地，就自己带人测勘天津至通州的线路。詹天佑留在天津做室内工作，一面埋头研究，一面帮助青年人钻研技术。
1890年，清朝政府决定先修关内外线，詹天佑被调到工地工作，督修石门段的工程。他按着科学的测量来办事，发现蓝图有错误，立即指出来，要求设计人员修改。
工程进展到滦河大桥时，金达看滦河铁桥工程有油水可赚，就聘请英国人来包工，但工程上一再失败，后来德国工程师用空气打桩法也失败了，金达眼看交工期限将到，才授意找詹天佑来试试。
詹天佑研究了滦河河床的地质土壤情况，让懂水性的人潜入滦河深处，用中国传统的方法，配合机器打桩，他虚心接受工人们的意见，吃住在工地上，终于顺利奠定了桥基，完成了滦河铁路全部工程。
这一成功，不仅使那些平素自命不凡的外国工程师感到惊奇，同时使詹天佑和他的助手们坚定了信心。这一年，他收到了英国土木工程研究会送来的荣誉会员证书。这说明中国已经有力量来做自己铁路上的工程师。
1903年，那拉氏要赴西陵祭祖。袁世凯献媚修筑一条由高碑店直达西陵的新易铁路，路长39千米，限6个月完工。詹天佑被指定为总工程师。这条路没借外资，没聘外国人，是中国人自力修筑的第一条路，而且不到4个月就完成了。
后来袁世凯又提出拨用关内外铁路的余利兴建京张铁路的计划。1905年4月，清政府委派陈昭常为总办，詹天佑为总工。詹天佑一接到任务，就带学生和他的工程队来北京开始测线。
京张铁路的初勘，由詹天佑带领学生张鸿浩、徐士远从丰台京奉路柳村的10号桥测量起，经西直门向张家口。他经常勉励工作人员说：“技术要求精密，不能有一点模糊和轻率。‘大概’、‘差不多’，不应出自工程人员之口。”
复测中，詹天佑又亲自率领工程人员，背着标杆、经纬仪在峭壁上定点制图。他为寻找一条好的线路，多方搜集资料，常常骑着毛驴在小路上奔波。白天翻山越岭，晚上还要伏在油灯下绘图计算。
1905年8月初，第一分段动工。外国工程师嘲笑说：“中国会修关沟段铁路的工程师还没诞生呢。”詹天佑说：“我们会修铁路的工程师没有诞生倒不重要，我们有很多要学习工程的人，这些人互相帮助，互相依靠，就什么都可以做到。”表现了他强烈的爱国心和民族自信心。一开始修建京张铁路，确实困难重重。这条铁路全长200多千米，“中隔高山峻岭……路险工艰为他处所未有。”
詹天佑面对困难，挺身而出，承担起负责建筑京张铁路的重任。他和有关的工程技术人员经过多次勘测，最后为京张铁路选定了经过南口——居庸关——八达岭的路线。
1905年12月12日，开始从丰台车站铺轨，詹天佑在工程队人员的欢呼声中亲手在路轨上钉下第一颗道钉。
这一天，京张铁路工程队的工程列车中有一节车钩链子折断，造成脱轨事故，费很大力气才恢复，影响到部分列车的行驶。詹天佑想，不仅要有坚固的路基和标准化的轨距，还要使列车的车厢之间能紧紧地联在一起，这样爬高滑低才会安全。
京张铁路钉道工程开始以后，困难无数，首先是大量的材料在运输上的困难，既少机械又缺轻轨，一切都靠人力，人又没很好地组织起来。广安门外遇到白云观，绕路耗时费工，沿途的皇亲贵族墓地不让通过……
京张铁路第一段工程完工后，紧接着就开始修南口至岔道城的第二段工程，这是最艰巨的一段工程，也是全部工程成败的关键。开凿隧道，要有丰富的经验、精密的测量，还要有开山机、抽水机和通风机等等机器设备。
八达岭、居庸关两个隧道开通后，又面临一个难题：如何使列车爬上关沟的最高峰——八达岭？如果沿山直上，坡度太大，行车也危险。
詹天佑设计成依着山腰作“人”字形的线路，车到这里，改用2—8—8—2大马力机车，先推列车前进，到交叉点再上拉，加上每节车厢之间改为自动挂钩，也就不易脱落，十几节车厢结合成一整体，缓慢爬上八达岭的岭巅。
京张铁路于1909年7月4日完成全线铺轨工程，到9月24日就全线通车。这条原计划需6年才能修完的铁路，只用4年时间就提前完工了，而且工程费用还结余28万余两银子。总计费用只有外国人承包商索价的1／5。而且工程质量之高，连参观了京张铁路的欧美工程师都称赞不已。
詹天佑于1919年4月24日与世长辞。1922年，中华工程师学会和京绥铁路工人在京绥铁路的青龙桥车站上，为中国铁路最早的、杰出的工程师——詹天佑建立全身铜像，纪念他在中国铁路建设中的不朽功绩。
中国第一条铁路竟是偷偷修建，更奇葩的是火车不是开的是拉的