李群玉解去天禄的职务后,回归涔阳,经过二妃庙,题诗二首:“小孤洲的北面浦云边上,二妃的装束还像从前一样完好。寂寂春色中荒凉的古庙对着长江,萋萋荒草里只有一无字的古老碑碣。春风吹拂墓地芳草,夕阳落入深山,杜鹃声声啼哭。仍像皱眉望着舜帝出巡青青的九疑山就在湘水那边。”又写道:“黄陵庙前面的莎草欣欣向荣,黄陵女儿红裙崭新。轻舟小桨随歌远去,山水遥远愁坏了人。”以后又题诗:“黄陵庙前春天已去了,子规在松风中悲啼至流出血来,不知道魂灵落在哪里,好似在秋天的行云之中。”李群玉自认为第二篇,春去很快到了秋来有些不妥,犹豫着想改一改。眼前便出现了两个女郎,她们说:“我们是娥皇、女英,两年以后,会和你有一番男女交往。”李群玉就记住她们说的话。一会儿两个身影消失了。于是李群玉对着神像施礼后也走了。
周新国先生《武陵藏珍》记载:李群玉一生交游广,足迹遍及河南、河北、陕西、大江南北。李群玉著有诗前集3卷,后集5卷。《全唐诗》录他的诗263首。他是晚唐重要诗人,与齐己、胡曾被列为唐代湖南三诗人。唐末周朴《吊李群玉》诗赞道:“群玉诗名冠李唐,投书换得校书郎。吟魂醉魄归何处,空有幽兰隔岸香。”记载“长沙窑”的第一人。李群玉还是常德考察和记载“长沙窑”的第一人。他的《石渚》一诗,对当时长沙窑陶瓷器的生产情况,作了真实而生动的描述:古岸陶为器,高林尽一焚。焰红湘浦口,烟浊洞庭云。回野煤飞乱,遥空爆响闻。地形穿凿势,恐到祝融坟。“石渚”,就是指长沙窑的所在地。诗中描写长沙窑在烧制陶瓷时,烟火冲天,十分壮观。“地形穿凿势”是指挖掘瓷土的山洞和洞穴的深度。