李渤到江州不久,发现朝廷管理财政的官员张叔平,不顾百姓疾苦,竟奏征贞元二年(786年)逃户欠款四四0一贯。他体察下情,为民请命,立即上书陈奏“江州管田二千一百九十七顷,今年已旱死一千九百多顷”,还要征收三十六前的拖欠,黎民百姓实在负担不了。并在书中表示:如不准奏,“臣既上不副(符合)圣情,下不忍鞭笞黎庶,不敢轻持符印,特乞放臣归田”。在李渤的恳切请求下,朝廷才下旨:“江州所奏,实为诚恳,若不蠲容(免除),实难存济(安顿),所诉逋欠(拖欠)并放(免收)。”
当年,江州治署城南有一南湖,面积约一千二百亩,东抵北风嘴,西连龙开河,南接山川岭,北依浔阳城。由于湖面宽阔,南来北往行人诸多不便。李渤为了方便行人,遂纠工在湖中筑堤。堤长七百步(约二里),南连山川岭,北接城池的南门口,沟通南北,往来称便。堤上还建桥安闸,控制和调节水位,兼有灌溉农田之利。后人为感谢这位刺史,将新建的堤命名李公堤,外湖名甘棠湖,桥名思贤桥。