《唐才子传》说王之涣为蓟门人，或因他少有侠气、从五陵年少游、击剑悲歌的性格而臆猜，靳能墓志铭记载，之涣“本家晋阳，宦徙绛郡”，则晋阳(今太原)为其原籍，家居绛州(今山西新绛县)。墓志铭说王之涣卒于天宝元年( 742年)二月，享年55岁，推之可知生于武后垂拱四年(688年)。

　　王之涣出身于太原王家，为当时望族。他的五世祖王隆之为后魏绛州刺史，可能因此而移家绛州的。曾祖王信，隋朝请大夫、著作郎，入唐为安邑县令。祖王表，唐朝散大夫、文安县令。父王昱，鸿胪主簿、浚仪县令。从曾祖到父亲，虽然皆为官，但均为小官。王之涣出身于普通仕宦之家，排行第四，自幼聪颖好学，年龄还不到 20 岁，便能精研文章，未及壮，便已穷经典之奥。不知何故，王之涣未走科举之途，而以门子调补冀州衡水主簿。任衡水主簿时，王之涣父母均已去世，衡水县令李涤将三女儿许配给他。

　　王之涣与李氏的婚姻，可能还有一段罗曼史。开元十年( 722年)两人结婚时，王之涣是已婚并且有孩子之人，年已35岁，而李氏年方二九，比王之涣小17岁，正是妙龄女子。县令的千余，嫁给父亲部属、35岁又已婚的小小县尉，颇耐人寻味。这一定是为王之涣的才华所倾倒。

　　王之涣才高气盛，不愿为了衡水主薄的卑职而折腰，加上有人诬陷攻击，他便愤然辞官而去，“遂化游青山，灭裂黄绶。夹河数千里，籍其高风;在家十五年，食其旧德。雅谈珪爵，酷嗜闲放。”在家过了15年闲散自由的生活。后来他的亲朋好友觉得他这样一直沉于下层，不是办法，便劝他入仕。后来补文安郡文安县尉，仍是一不起眼之小职。他在职风清白著称，理民以公平著称，颇受当地百姓称道。谁料不久，他竟染病不起，以55岁之壮年，卒于官舍。