张湘祥出生于福建龙岩。16岁时，张湘祥是中国男子举重队里最年轻的队员，也是唯一一个利用业余时间练习举重被选入国家队的运动员。

2000年的奥运会，张湘祥发挥稳定，获得了男子举重58公斤级第三名的好成绩。悉尼奥运会的出色表现，让17岁的张湘祥成为雅典奥运会上的夺金热门人物。就在张湘祥备战雅典奥运会时，一场疾病让他几乎与死神擦肩而过。张湘祥在这样消极的情绪和困惑中度过了四年，而他的队友杨帆、邱乐、毛角在国内外各种大赛中表现出色。2008年的全国举重奥运选拔赛上，张湘祥以一个冠军向人们示意，他又回到了这片熟悉的赛场。