始建于唐永徽四年，为当时任洪州都督的唐高祖李渊之子李元婴所建。据记载，李元婴于永徽三年迁任苏州刺史，调任洪州都督时建此阁以为别居。由于李元婴封号为“滕王”，故名滕王阁。20多年后，当时的洪州都督阎公首次重修。竣工后，阎公聚集文人雅士作文记事，途经于此的王勃就是于此时写下了其代表名篇《滕王阁序》。并由此令滕王阁名扬四海。
后来历经宋、元、明、清，滕王阁历次兴废，先后修葺达28次之多，建筑规制也多有变化。其中宋大观二年（1108年），滕王阁因年久失修而塌毁，侍郎范坦重建，比唐阁范围更为扩大，并在主阁的南北增建“压江”、“挹翠”二亭，逐渐形成以阁为主体的建筑群，华丽堂皇之形貌，宏伟壮观之气势被誉为“历代滕王阁之冠”。最后一次建于清代同治年间，1926年毁于兵灾，被北洋军阀邓如琢部纵火烧毁。仅存一块“滕王阁”青石匾。此后50多年里一直没有重修。
1942年，古建大师梁思成先生偕同其弟子莫宗江根据“天籁阁”旧藏宋宫廷画《滕王阁》绘制了八幅《重建滕王阁计划草图》。在第29次重建之时，建筑师们以此作为依据,并参照宋代李明仲的《营造法式》，设计了这座仿宋式的雄伟楼阁。1983年10月1日举行了奠基大典，1985年10月22日重阳节正式开工。在庆祝中华人民共和国成立四十周年之际，第二十九次重建的滕王阁于1989年10月8日重阳节胜利落成。