出身官宦房玄龄出生于官宦之家,其曾祖房翼,后魏镇远将军、宋安郡守,袭壮武伯。祖房熊,字子,释褐州主簿。父房彦谦,好学,通涉《五经》,富有辩才,是魏、齐间的山东学者。年少有为房玄龄自幼耳濡目染,颇承其父遗风。自幼聪慧,善诗能文,博览经史,精通儒家经书,又向父亲学得一手好书法,工草隶。18岁时本州举进士,先后授羽骑尉、隰城尉。乱世投主隋朝末年天下大乱,李渊率兵入关,玄龄于渭北投李世民,屡从秦王出征,参谋划策,典管书记,任秦王府记室。每平定一地,别人争着求取珍玩,他却首先为秦王幕府收罗人才。辅助唐王房玄龄为报李世民知遇之恩,竭尽心力筹谋军政事务。
醋坛子“醋坛子”的由来就是根据房玄龄和其夫人的故事来的。高祖李渊、太宗李世民起兵前久居晋阳,“醋”也成为唐宫必不可少的调味品,且因皇上喜吃,皇宫储存极多。据说,唐太宗年间,宰相房玄龄惧内是有了名的。其妻虽然霸道,但对房玄龄衣食住行十分精心,从来都是一手料理,容不得别人插手。一日,唐太宗请开国元勋赴御宴,酒足饭饱之际,房玄龄经不得同僚的挑逗,吹了几句不怕老婆的牛皮,已有几分酒意的唐太宗乘着酒兴,便赐给了房玄龄两个美人。房玄龄不料酒后吹牛被皇上当了真,收了两位美人,想到霸道且精心的妻子,愁得不知怎么才好。还是尉迟敬德给打了气,说老婆再凶,也不敢把皇上赐的美人怎么样,房玄龄才小心翼翼地将两个美人领回家。
父祖曾祖父:房翼,官至镇远将军、宋安郡守,袭爵壮武伯。祖父:房熊,官至褐州主簿。父亲:房彦谦,官至泾阳县令。母:出自陇西李氏姑臧房,常州刺史、银青光禄大夫李玄道的堂姐妹妻子夫人卢氏子女儿子长子房遗直,娶杜氏。嗣父亲梁国公的爵位,永徽初年,为礼部尚书、汴州刺史。弟弟房遗爱,娶唐太宗女高阳公主,拜为驸马都尉,官至太府卿、散骑常侍。公主骄横,密谋废黜房遗直而夺其封爵,永徽年间,诬告房遗直对她无礼。唐高宗令长孙无忌审理此事,查出了高阳公主与房遗爱谋反的情况。房遗爱伏诛,高阳公主赐自尽,诸子流放到岭表。房遗直以父亲的功劳特赦,除名为庶人。停止房玄龄的配享。
在随李世民征战时,凡王府书檄,驻马即成,言简意尽,不需起草。唐武德四年曾被招为“十八学士”之一。唐太宗李世民即位,封房玄龄为梁国公。官任中书令、尚书左仆射、司空等职,总领百司,掌政务达20年。参与制定典章制度,主持律令、格敕的修订,监修国史,又曾与魏徵同修唐礼;调整政府机构,省并中央官员;善于用人,不求备取人,也不问贵贱,随材授任;恪守职责,不自居功。同时负责国史馆,先后监修成《高祖实录》、《太宗实录》、《晋书》。去世后,谥号“文昭”,后配享太宗庙廷。后世以他和杜如晦为良相的典范,合称房、杜。
祖籍争议按照史书记载,房玄龄的祖籍位于当时的齐州临淄,史学家对于其祖籍所在地颇有争议,一说为今山东省济南市章丘市相公庄镇房庄村,一说为今山东省淄博市临淄区北部。葬处房玄龄死后赐葬昭陵。昭陵是唐太宗李世民和长孙皇后的陵墓,位于今天陕西省咸阳市礼泉县东北部。