早年经历李义府早年因祖父担任射洪县丞,迁居永泰(今四川盐亭)。贞观八年(634年),李义府因善写文章被剑南道巡察大使李大亮表荐为门下省典仪,后又得到刘洎、马周的举荐,改任监察御史,并随侍晋王李治。累职拜相贞观十七年(643年),唐太宗立李治为皇太子,任命李义府为太子舍人、崇贤馆直学士。他进献《承华箴》,提到“佞谀有类,邪巧多方。其萌不绝,其害必彰”,虽是极力逢迎太子,却被认为是耿直坦荡之人。贞观二十三年(649年),唐太宗病逝,太子李治继位,是为唐高宗。李义府改任中书舍人。永徽二年(651年),唐高宗又命李义府兼修国史,加弘文馆学士。永徽六年(655年),李义府得罪宰相长孙无忌,被贬为壁州司马。敕书尚未下达门下省,他便已秘密获知,并与中书舍人王德俭商量对策。
李义府表面上随和有礼,与人说话,总是和言悦色,但内心褊狭嫉妒、阴狠残忍。在他位居要职后,凡是对他稍有触犯者,都会遭到陷害。当时人都说他笑中有刀,称他为“李猫”。
儿子李津,官至右司议郎,后被流放振州。李洽,官至率府长史,后被流放廷州。李洋,官至千牛备身,后被流放廷州。李湛,曾以左羽林将军之职参与神龙政变,官至左领军卫大将军,封赵国公。女婿柳元贞,官至少府主簿,后被流放廷州。