教会学校的设立的最大目是为了传教和培养神职人员。作为一个校长,晃司铎曾阐述过徐汇公学的培养方针：“经过长期与严肃的考验之后，我们才敢确认他们的圣召……为了教区的前途，物色征募神职人员，最重要的必须从热心传教和忠心服务方面去考虑。”徐汇中学作为教会学校培养了许多崇洋媚外，甘心为殖民者效劳的洋奴，但同时也无庸讳言，它培养了中国近代第一批知识分子，许多知名或是不知名的教育家、普通教师、科学家、工程技术人员、译员、职员。它对上海乃至中国教育的影响，对上海人口素质的影响，是不容低估的。
据1920年统计，当年徐汇公学有学生450人，自1859年起，历年在校学生累计有三千八百余人，英才俊彦，代不乏人。著名教育家、爱国老人马相伯是其中的代表人物。马公名建常，又名良，字相伯，生于1840年4月17日，十一岁入徐汇公学就读，犹好科学与数学，成绩优良，为汇学第一批学生。1862年入耶稣会，1872年任徐汇公学校长，1903年受耶稣会资助，创立震旦学院，任院长。在他主持校务期间，震旦在上海名气很大，培养了许多精通中西学的有志青年。1905年，因与外籍教士意见不和，另与严复、袁希涛等创立复旦公学，是中国最早的爱国大学之一。震旦与复旦的创立和扬名离不开马相伯的努力，离不开马相伯早年在徐汇公学所受的教育和熏陶。除马公外，李问渔、蒋邑虚、徐宗泽、沈礼门、沈容斋、潘谷声、张家树等汇学旧学生都曾先后担任过母校的校长和教员。他们年复一年，日复一日的讲述他们从外籍神父那里学来的知识。这些知识西方人看来实属平常，现代人看来浅显，但在当时普通中国人看来是新奇奥妙的，他们对西方科技文化在中国的传播，起了潜移默化的作用。所以，从某种意义上说，徐汇公学是上海近代西式教师的养成所，在19世纪末20世纪初，它为培养中国所急需的西式教师作出了贡献。
除了培养教师外，徐汇公学还培养了其他众多优秀人才，如马相伯之弟马建忠，七岁随兄入校，师从晃司铎，潜心研究希腊、拉丁、法文及数理等学。曾纪泽在《使西日记》中称其“精通法文，而华文函启亦颇通扬，洵英才也。”1897年所著《马氏文通》，《适可斋记言记行》问世，与马相伯一样都是晚清学贯中西的文化名人。徐汇公学毕业的学生可直接进入震旦大学，被称为中国地质学三大伟人之一的翁文灏也曾是徐汇公学的学生，他毕业后直接升入震旦，后又赴比利时鲁汶大学深造，获博士学位。还有名翻译家傅雷，也曾在徐汇公学就读。
