马伯乐在蒙田中学开始他的中等教育，后来转入他父亲曾经就读的路易大王中学。16岁之前，马伯乐一直与父母住在巴黎，1899年，父亲被派往开罗，担任埃及文物局局长，为法国保住这个职位，马伯乐遂被托付给塞弗尔师范学校的女校长，成为一名寄宿生。在这所学校里，马伯乐通过了中学会试，并于1902年获得文学学士学位。由于马伯乐的父亲当年在巴黎师范学校求学时，曾与第二帝国当局发生龃龉，因此他也就没有到这所位于乌尔姆街的名校继续他的学业。后来他在部队上服役一年后，随父亲前往埃及，在那里完成了论文《托勒密王朝时期埃及的财富》，并于1904年获得历史学和地理学高等文凭。
后来从埃及回到巴黎后，马伯乐开始学习法律，于1907年获学士学位，这对他以后研究中国法律史颇有裨益。与此同时，他开始学习中文，两个原因促使他下定决心投身于汉学研究，一是法国远东学院为汉学家提供了丰富的资料；二是他的同父异母哥哥乔治·马斯佩罗不久前以官员和学者的双重身份到印度支那任职。汉学的独特性和难度始终吸引着他。1907年他从东方语言学院毕业，1908年1月27日，他被任命为法国远东学院实习研究员，同年3月抵达越南河内，对当地文化的流传有深刻了解，此时他刚满24岁。
1908年11月13日，马伯乐奉命来到中国，到达北京时恰逢光绪皇帝和慈禧太后晏驾，3岁的溥仪被扶上了王位。马伯乐目睹了汹涌澎湃的革命风潮，后来根据梁启超的一部关于1892年改良的著作，写了一篇文章，描述了革命即将到来前的种种征兆。1910年6月10日回到河内，11月25日作了一个关于北京和中国北方的报告。
回到河内后，马伯乐继续以往的北圻古地理学研究。在此期间，他还发表了一批关于中国佛教起源的研究成果，这项成果早在巴黎就已开始，其中包括有关佛教传入中国的各种说法、首批佛教信徒群体的形成、中国首批佛教信徒尊奉的领袖人物等。此外，他还评述了一位德国汉学家论述同一问题的著作，文章对这位德国同行的研究方法提出了异议。
1912年7月到1913年6月，马伯乐去欧洲和埃及度假，返回河内后，他为考古调查做了精心的准备。这次考古调查使他有机会第二次前往中国。1914年3月，他前往中国的沿海省份浙江，发掘和发现了那里的古遗址和古迹，直到1914年8月初。他原来打算去一趟朝鲜和日本，但由于战争的缘故，被紧急召回，不得不放弃原来的计划。在这次短暂的中国之行中，他接触了中国的各个阶层的人士，与僧人们交流佛学，实地考察了几个人口众多省份，与当地的农民生活在一起，了解他们的社会和宗教习俗。后来他在法国继续这项工作，起初把第一次世界大战期间到法国的中国劳工作为调查对象，后来在巴黎的华侨和华人中间展开调查，以此为依据，写文章论述了中国现代的民间信仰。
1915年4月，马伯乐应征入伍。1917年7月，他被法国军方召回，任命为翻译士官。1919年3月退伍复员，之后返回越南。1920年自河内返法定居，出版了《唐代长安方言研究》（Le dialecte de Tch’angngan sous les T’ang）一书。此书中，马伯乐最为成功的考证是以实例证明了古音系统的存在。他的中古音体系与高本汉的中古音体系产生了重大的差异，并由此引发了二人有关此问题的长期争论。
第二年进法兰西学院，继承其师沙畹任法兰西学院中国语言和文学讲座之主讲人。1921年1月24日，马伯乐正式在法兰西学院开始授课，第一堂课讲的就是他的老师沙畹的研究成果。在定居法国后，他开始撰写一部中国古代史，1927年他出版了1卷《古代中国》（1955年再版，附补编和汉文方块字。）这本书以公元前三世纪为下限，此后，他的许多著作基本上都是以此书为中心撰写的，或补充此书，或是为写本书的续集积累材料。从中国汉代开始，文献资料的数量要比远古可观得多，马伯乐必须对这些资料作出考证，运用其中的经济资料，这就导致他着手从事对中国经济史的全面调查，当时中国经济史还很少有人问津。马伯乐后期的许多课程和著作大都出自这一领域。
1928-1929年，马伯乐离开法国前往日本，到东京的“法——日之家”工作，并于1929年秋季途经中国北方和朝鲜回国。他在日本期间，受到了日本历史学家黑板胜美和汉学家内藤虎次郎、狩野直喜的欢迎，将他们收藏的一些考古和艺术资料展示给马伯乐，这对他日后的汉学研究有一定的影响。马伯乐在日本举行了多次讲座，其中一部分发表在日文期刊上，一部分收入其《遗著集》。
1936年2月1日，马伯乐被骋为碑铭与美文学院院士，1942年12月23日当选为该院副院长，1943年底当选为院长。1944年，马伯乐任法兰西学院文学部会长。由于他的儿子让·马斯佩罗参加反法西斯组织，马伯乐夫妇被捕入狱，他后来被押送到德国布痕瓦尔德集中营，受到了非人的虐待，1945年3月17日在集中营病逝，此时距美军解放该集中营不到一个月。
