唐德宗贞元末(805年),白行简考中进士,授秘书省校书郎。元和中,卢坦出任东川节度使,召他为掌书记。元和十二年(817年),卢坦死,他便离开东川幕府,于次年春取三峡水路归浔阳,与他任江州司马的哥哥白居易团聚。白居埸曾写了《得行简书闻欲下峡先以此寄》和《对酒示行简》两首诗以记其事并庆贺他兄弟俩的重逢。元和十四年春,白行简随其兄白居易前往忠州,第二年(820年)又随兄回到京城长安,授职左拾遗,累迁司门员外郎,主客郎中。长庆末年,振武水运营田使贺拔志岁终结课失实,朝廷诏命白行简复核,他把情况查实后,揭露了贺的舞弊行为,贺畏罪自杀。宝历二年(826年)冬,白行简病卒,时年52岁。