早在
古罗马帝国时代，有位皇帝因盛暑难熬，请仆人四处奔波，为其寻觅冰雪解暑。有位聪明的厨师从高山上取回未化的冰雪，用蜂蜜和水果搅拌起来，给皇帝驱热解渴。这大概便是世界上最早的冰淇淋了。到了13世纪的时候，
马可·波罗从中国把牛奶变冰的办法带回意大利，于是欧洲夏季的冷饮有了突破。
真正使用奶油制作冰淇淋始于15世纪，距今不足500年。冰淇淋在意大利称为“牛奶花”，在英国被称为“冻奶油”，这说明冰淇淋的主要成分离不开牛奶。但制作冰淇淋的办法千差万别，不同厂家出品的冰淇淋的质量也大相径庭，当今世界上制作冰淇淋最有名气的国家是意大利和美国。据说，
华盛顿和杰弗逊二位总统都很爱吃冰淇淋，所以美国的冰淇淋制造业很快发展起来。
冰淇淋是舶来食品。英语ice cream，译成中文是冰奶油，但习惯都译作冰淇淋，这名称很妙，既有音译近似，又属形义优雅适当，故而至今沿用不衰。当然，也有写作冰结涟、冰麒麟的，但都不及冰淇淋流传广、寿命长。
因为冰淇淋是摩登食品，一般旧派的人开始时不大问津。他们宁可喝
酸梅汤，也不吃冰淇淋。两三角钱一杯冰淇淋，那时被一般人看作消夏的奢侈食品了。
原先做冰淇淋的办法，用一个大木桶，桶里放冰和盐，冰中间再放一个马口铁桶，里面放淀粉浆（稀藕粉）、鸡蛋、牛奶、白糖以及香料或者果汁。铁桶有盖，盖上有孔，有轴齿带动四周叶片，手摇旋转，打和各物，半小时左右就会凝冻成冰淇淋了。上海以前在马路上有卖3个铜元一杯的冰淇淋，就是这幺做成的。尽管价钱不贵，但未免有碍卫生。后来，改手摇为机器制作，设备和卫生条件也大大改善，冰淇淋在上海的生意越来越好。有一种冰淇淋，做得巧妙，一只猩红的小樱桃，几块酸滋滋的菠萝，诱人胃口，取名又十分香艳，叫“
花旗大姐姐”，难怪生意会好。