张惠言先祖自宋初由安徽滁州迁至武进，因之而为武进人。出生世代业儒的贫寒家庭，从七世祖张典以下到他的祖父张金第、父亲张蟾宾都以教授乡里为谋生方式。张惠言四岁丧父，生活贫寒，赖其母姜氏与姊观书（长惠言四岁）作女工，将他与遗腹而生的弟弟张翊（后改名琦）抚养成人。据其《先妣事略》记载，张惠言九岁离家，至常州城中依伯父张思楷读书。“一日暮归，无以为夕飧，各不食而寝。迟明，惠言饿不能起，先妣曰：“儿不惯饿惫耶？吾与尔姊尔弟时时如此也。”惠言泣，先妣亦泣。”其早年的艰难困苦于此可见一斑。
迫于家贫，年十四，即为童子师。乾隆四十一年（1776）娶国子监生吴承绂之女为妻。次年，补县学附生，开始科举之路。乾隆四十四年（1779）试高第，补廪膳生。乾隆五十一年（1786）高中举人。乾隆五十二年（1787）赴礼部会试，中正中榜。中正榜是从当年会试落第者挑选合乎要求者，任命为内阁中书或国子监学等职。张惠言考取了景山宫官学教习，教授内务府佐领以下官宦子弟，开始了长达八年的教学生涯。教学之余，与邓石如、陆以宁、吴德旋、孙星衍切磋古文词赋，与杨随安交流易学，学术境界得到提升。乾隆五十九年（1794）奔母丧，两年后，应时任富阳县令的挚友恽敬之邀，至浙江富阳县编修县志。未等县志修成，恽敬调任贵州江山县为官，张惠言至歙县，在江承之家授馆收徒。嘉庆二年（1797），易学著述相继问世。与张琦合编影响深远的《词选》。
嘉庆四年（1799），第七次会试，中二甲进士，改庶吉士，充实录馆纂修官。六年（1801）四月，散馆，奉旨以部属用，朱珪奏改翰林院编修。嘉庆七年（1802）六月，卒于官，年四十二。