虽然现在看来古印度文明有如一颗璀璨的明珠，但它的光芒直到20世纪20年代才被人们发现。由于它的遗址首先是在印度哈拉巴地区发掘出来的，所以通常称为“哈拉巴文化”；又由于这类遗址主要集中在印度河流域，所以也称为“印度河文明”。哈拉巴文化的年代约为公元前2300年至前1750年。
古印度文明的发现，与欧洲人对印度的侵略密切相关。14、15世纪时期，欧洲列强看准了印度的黄金、珠宝，对印度展开了侵占和掠夺。其中在印度河谷拉维河的冲积平原，绵延2.5公里的地方，到处都是残垣断壁和破碎的泥砖。尽管英国人已经占领了这块地方，但没有人去注意这些破碎的泥砖下埋藏着什么。
19世纪初年，一个叫詹姆斯·刘易斯的英国人怀着对神秘东方的向往，应征来到英国的东印度公司的军队，开始了他非同一般的印度之旅。他生性散漫，喜欢漂泊，对怎么镇压当地人以及个人的仕途并不感兴趣，而是热衷于寻古与探险。不堪军队刻板生活的他索性开了小差，从军队逃了出来，开始了摩亨佐·达罗出土的国王——祭司像他的探险考古生涯。詹姆斯·刘易斯伪装成一个美国工程师，化名查尔斯·迈森，打算漫游印度实现自己的长久以来的愿望。1826年，刘易斯在穿越今天巴基斯坦的旁遮普地区时，被这里的一片山丘上的废墟深深吸引。在这里一块不规则的多岩石的高地上，尽管岁月侵蚀，仍然依稀可见砖石城堡的废弃的城墙，到处散落着的东方风格的壁龛，以及建筑物的遗迹。在夕阳的照耀下，这一片废墟闪烁着神秘之光。他仔细查看这些断壁残垣后，直觉告诉他这可能是一座已经废弃的古城，并猜想这可能是古罗马的历史学家曾经提到的东方之城桑加拉。他在日记中对古城遗迹作了生动的描述，并为此地取名叫“哈拉巴”。正是他的发现和记载，人们才知道了哈拉巴的存在。但是，刘易斯毕竟不是考古学家，他对哈拉巴的造访，也就到此为止了。令人遗憾的是，迈森的发现在当时并没有引起太多的关注。
11年后，又一位年轻的探险家亚历山大·伯恩斯再次造访了哈拉巴。除了那些裸露的断壁残垣，他也没有新的发现。此后，英国在印度的考古队在1853年和1856年两次勘察了这一地区，他们一致认定，这里曾经出现过一个古代城市，但对它的年代和重要性的探究，并没有突破性进展。迈森以及伯恩斯等人的考察，给后人的考古发掘提供了重要线索。直到19世纪70年代初，当旁遮普成为英帝国统治下最繁荣的农业省时，英国政府意识到印度的地下文化宝藏可能价值连城，于是，便将印度古文明的考古发掘列入重要的议事日程。
随着对印度宝藏探寻热情的升温，英国殖民当局于1873年成立了印度考古研究院。亚历山大·坎宁安被委任为考古局长。他首先探访了迈森日记中提及的哈拉巴。但是，当他来到这片废墟时，已经再也无法找到城堡的任何遗迹了。原来，英国当局为了修建纵贯这一地区的铁路，将哈拉巴遗址那些做工精致的砖石大部分用来铺做路基了。坎宁安得知后痛心疾首，为抢救这个遗址，他决定进行发掘。由于遗址破坏严重，发掘独角兽印章工作进展缓慢，被迫停工。他的唯一收获是发掘了一枚石制的印章。印章用黑色的皂石制成，上面刻着一头公牛和六个无法释读的文字。这是一枚公元前3000年古印度河文明的典型物件。
遗憾的是坎宁安也与哈拉巴文化失之交臂。当时坎宁安作出了一个错误结论，认为这枚印章是从外国传入印度的。尽管如此，前人的发现特别是坎宁安发掘的黑色印章，仍为后来的考古学者提供了重要的线索。
1902年，踌躇满志的约翰·马歇尔来到印度后，继任为印度考古勘察总监。他根据坎宁安等人留下的线索，指挥各支考古队在哈拉巴等地继续进行发掘，但一直没有进展。
研究员J·H·弗利特给马歇尔的事业带来了转机。弗利有印度河文字的印章特仔细研究了大英博物馆收藏的哈拉巴出土的印章文字，正确地判断到：印章文字绝非婆罗迷字母系统，也不同于两河流域苏美尔人的楔形文字，它的年代必定比人们的想象更为古老。
在马歇尔和沙尼在哈拉巴发掘的同时，R·D·班纳基也发掘了死亡之丘——摩亨佐·达罗。两地都发掘揭示出一种相同的古代城市文明，即学者们所谓的“哈拉巴文化”。
至此，马歇尔可以骄傲地向全世界宣布：他与同伴们发现了一种极为古老而独特的伟大文明，而且它是在印度河流域自身独立发展起源的。