早年经历咸通五年(864年),萧遘考中进士,被授为秘书省校书郎、太原从事,后升任右拾遗,累迁至起居舍人。咸通十三年(872年),韦保衡拜相。萧遘与韦保衡虽是同科进士,但却素来不睦,因此被贬为播州司马。累职拜相咸通十四年(873年),韦保衡获罪赐死,萧遘被征召回朝,担任礼部员外郎,改任考功员外郎、知制诰。乾符元年(874年),萧遘被任命为翰林学士、中书舍人,后累迁至户部侍郎、翰林承旨。广明元年(880年),黄巢起义军进犯长安。唐僖宗出逃,任命萧遘为兵部侍郎、判度支,让他掌握财赋。中和元年(881年),唐僖宗到达西川。萧遘被任命为中书侍郎、同平章事,并兼任吏部尚书。中和三年(883年),武宁节度使时溥中毒,怀疑是判官李凝古所为,因此将其杀死。
据《新唐书·宰相世系表》记载,萧遘出身于兰陵萧氏,是后梁明帝萧岿的后人,他的五世祖萧嵩、高伯祖萧华、曾祖萧复、族祖萧俛、萧仿、父亲萧置,都曾在唐朝担任宰相。而根据《萧江全谱》、《溪南江氏族谱》等谱牒记载,萧遘生有七子,其次子萧祯,在朱温篡唐之时,指江为姓,改姓为江,隐居在徽州(今安徽歙县),是为萧江氏一世祖。
王铎是萧遘科举时的主考官,唐僖宗在蜀地时,二人同时拜相。一次,僖宗召见宰相,王铎不慎跌倒,萧遘从旁将他扶起。僖宗非常高兴,道:“宰相和睦,是我的幸事啊。”又对萧遘道:“你能尊重长者,我很高兴。”萧遘答道:“臣扶王铎不仅仅是尊重长者,臣还是王铎的门生。”僖宗笑道:“王铎选进士,朕选宰相,都没有亏负卿啊。”