韩国灭亡后，张良的家境依然富裕，其家拥有佣仆300多人，且势力也相当强大。旧天堂被秦王政毁灭，使张良像贵族的遗少一样，胸中燃烧着复仇的烈火，他曾以刺杀秦始皇来为韩国复仇。秦始皇二十九年（前218年），张良胞弟夭亡，他无心安葬，散尽家财，收买了一个刺客，在阳武博浪沙（今河南原阳东南）狙击秦始皇，误入随从后车，行刺未遂，张良被悬榜通缉。因此他更姓变名，隐居下邳（今江苏邳县）。张良其名，就是为逃避秦始皇追捕才改的。
在穷途末路之中，一个偶然的机会，张良在下邳巧遇黄石公。
一天，张良在沂水河桥上正凭栏远眺，见一位身着布衣，须发皆白的老者走上桥头，故意将鞋子脱落桥下，然后毫不客气地呼叫张良道：“孺子，到桥下给我捡来！”张良忍着心中的不满，到桥下将鞋子拾了回来，正准备还给那位老人时，那位老人将脚又跷起来，说：“给我将鞋穿上！”面对这个带有侮辱意味的事件，张良起初真想挥拳将老人揍一顿，但他没有这样做。久历人间沧桑，饱经漂泊生活磨难的张良，居然跪在地上，为老人穿上了鞋。穿完鞋子，那位老人也不道谢，长笑而去。走出几里路之后，那老人悄然返回桥上，对张良赞扬道：“孺子可教也！”老人约他五天后的凌晨在桥头相见。张良觉得这位老人不同寻常，连连答应。
五天后，天刚刚亮，张良来到桥头赴约，想不到那位老人已在张良前头来到桥上，那老人严厉责备道：“同老人约会，怎么能迟到呢？！你过五天后清晨再来。”又过了五天，张良午夜就走近桥头，结果那位老人又比他早到。第二次约会又告吹了。
又一个五天过去后，张良不到半夜就来到了桥头，这次，总算走在老人的前头了。老人高兴地赠给张良一件无价之宝——《太公兵法》，说道：“你读了这本书之后，就可以做帝王的老师了。十年之后，你一定要干出一番大事业来，13年之后，你在济北（今山东西部）谷城下会看到一尊黄石公像，也称‘圯（yí，桥）上老人’，那就是我。我是隐身岩穴的高士。”说完，那老人悠然自得地走了。