杜淹曾举荐刑部员外郎郅怀道,并道:“怀道在隋朝担任吏部主事时便有清慎之名。当时炀帝下江都,百官都随声附和,唯独怀道反对。”唐太宗问道:“那你当时的意见呢?”杜淹答道:“我同意去。”太宗道:“对待君主应直言正谏,虽有冒犯也在所不顾。你既然认为郅怀道的意见正确,为什么反而不劝谏呢?”杜淹道:“我官职卑微,而且就算进谏皇帝也不会采纳,白白送死于事无补。”太宗道:“如果认为君主无道,为何还是要在他的朝廷做官?既然做官,又怎能不匡正他的过失?”
太宗又笑问杜淹:“你在隋朝的时候,可以因为人微言轻不去进谏。那你后来在王世充的朝廷做官,为什么仍不劝谏?”杜淹道:“我劝谏过,他不肯采纳。”太宗道:“王世充如果修德从善,应当不会灭亡;他既然无道拒谏,你又怎能免祸?”杜淹无言以对。
太宗再问:“你现在是宰相,还能极力劝谏吗?”杜淹道:“臣一定不会隐瞒自己的观点,必极力劝谏。春秋时期,百里奚在虞国为官,虞国灭亡,后在秦国为官,却辅佐秦国称霸天下。臣一直以百里奚自比。”太宗大笑。