太子建逃奔到宋国后,伍员也逃到了宋国。但因正赶上宋国内乱,伍员和太子建又从宋国逃到郑国。郑国本来待他们二人很好,可是由于太子建受到了晋国的唆使利诱,答应给晋国做内应,帮助晋国夺取郑国。郑国恼火了,一怒之下,便把太子建抓起来杀了。伍员恐慌了,便带着太子建的儿子胜连夜逃出了郑国。
伍子胥决定逃往吴国。当他到达吴、楚交界的昭关(在今安徽含山县北)时,看到楚国的士兵盘查甚严,关门口还挂着伍子胥的画像,过往行人都要与画像对照一番,确认不是伍子胥以后才放行。伍子胥报仇心切,当时又没有其他退路,所以陷入了极度的忧愤之中。他在旅舍一夜不能入睡,一头黑发居然在一夜之间全变成白色。于是,后人便流传着一句俗语:“伍子胥过昭关,须发皆白。”这一来,伍子胥就成了一个白发老翁,守关士兵都辨认不出来他了。于是顺利地过了昭关,进入吴国。