杜淹曾举荐刑部员外郎郅怀道,并道:“怀道在隋朝担任吏部主事时便有清慎之名。当时炀帝下江都,百官都随声附和,唯独怀道反对。”唐太宗问道:“那你当时的意见呢?”杜淹答道:“我同意去。”太宗道:“对待君主应直言正谏,虽有冒犯也在所不顾。你既然认为郅怀道的意见正确,为什么反而不劝谏呢?”杜淹道:“我官职卑微,而且就算进谏皇帝也不会采纳,白白送死于事无补。”太宗道:“如果认为君主无道,为何还是要在他的朝廷做官?既然做官,又怎能不匡正他的过失?”太宗又笑问杜淹:“你在隋朝的时候,可以因为人微言轻不去进谏。那你后来在王世充的朝廷做官,为什么仍不劝谏?”杜淹道:“我劝谏过,他不肯采纳。”太宗道:“王世充如果修德从善,应当不会灭亡;他既然无道拒谏,你又怎能免祸?”杜淹无言以对。
祖父:杜业,北周豫州刺史。父亲:杜征,隋朝河内太守。儿子:杜敬同,官至鸿胪少卿,袭爵。孙子:杜从则,曾任蒲州刺史。
早年经历杜淹年轻时聪慧明辨,学识广博,颇有美誉,与同乡韦福嗣是莫逆之交。他对韦福嗣道:“皇帝喜欢任用隐士,苏威便是在隐居是被征辟为美职。”因此一同隐居在太白山,其实是在沽名钓誉。隋文帝听闻,极为憎恶,将二人流放江南。后来,杜淹返回乡里,得到雍州司马高孝基的举荐,授为承奉郎,累迁至御史中丞。归附唐朝武德二年(619年),杜淹成为王世充的太尉府官属。四月,王世充建立郑国,任命杜淹为吏部尚书,对他非常信任。当时,杜淹因与侄子杜如晦不睦,便在王世充面前进谗,致使杜如晦的兄长杜某(名不详)被杀。杜如晦的弟弟杜楚客在郑国为官,也遭到囚禁。武德四年(621年),秦王李世民平定王世充,杜淹作为郑国高官,被定为死罪。杜如晦以德报怨,向李世民求情,杜淹得以免死。