唐元和末年，御史中丞薛存诚由台丞升门下省要职给事中。不到一个月，他又升任副御史。御史府第，整洁肃穆，远离街市。他升任后搬了进去，觉得心旷神怡。他来到厅中吟了两句诗：卷帘疑客到，入户似僧归。几个月后，看门的小吏正和衣而睡尚未睡深沉。他恍然间看见几十个僧童，拿着香花和印着佛名的幡旗，一边念着经文一边按顺序走进来。看门小吏斥道：这是御史的公署，你们这是作什么法事，高声喊叫地进来？其中一个和尚自称识达，是中丞薛存诚的弟子，这次来迎接师傅的。他说：我师傅在吗？我们可以进去探望一下就把他接走吗？看门小吏说：这是中丞大人的官署，本不是寺院，你们怎么能随随便便就进来呢？！当即就要去捉拿识达。识达说：中丞原来是须弥山东峰静居院的罗汉大德，因为他错误地与佛祖说想涉足凡尘，被贬到人间五十年。
薛存诚任御史中丞时，与刑部侍郎王播，大理卿武少仪秉公执法，审理了牵连到爱宠宦官梁守谦一案，将受贿的梁正言诛死。同时还惩处了不法僧人鉴虚。鉴虚在贞元年间(785—804年)，交接朝中权贵、宦官，收受贿赂，横行不法，官府不敢过问。审梁正言、沈壁一案时，薛存诚对鉴虚也进行了收审，得知前永乐县今吴凭曾托鉴虚行贿给已故宰相杜黄裳。之外，杜黄裳还通过鉴虚纳邠宁节度使高崇文钱4万5千缗。这些事情一经落实，薛存诚就将鉴虚逮捕下狱，定成死罪。这下捅了马蜂窝，—时朝中贵要，地方权臣，纷纷向唐宪宗保救鉴虚，众情难违，唐宪宗特下诏赦免鉴虚。但薛存诚拒不执行，并把诏书奉还。第二天，唐宪宗又下诏要亲自提审鉴虚，薛存诚让宣召的宦官回奏唐宪宗说“鉴虚罪款已具，陛下若召而赦之，清先杀臣，然后可取。