梁简文帝萧纲初封晋安王,庾肩吾为晋安国常侍。萧纲迁镇,庾肩吾也随同迁转,历任云麾参军,并兼记室参军。萧纲喜好文学,招纳文士,庾肩吾和徐□、刘孝威等同被赏接,又受命抄撰书籍,当时号为高斋学士。简文帝萧纲继位后,以庾肩吾为度支尚书。后侯景至建康,矫诏遣庾肩吾使江州招降萧大心,他乘机逃至会稽,转赴江陵,投奔萧绎,封武康县侯,《梁书》及《南史》庾肩吾传都未明记其生卒年和年岁。
梁元帝27岁时所作《法宝联璧序》,记庾肩吾为48岁,可以推知其生年。庾信于承圣二年(553)封武康县侯,袭父爵,则庾肩吾当卒于此年。元帝萧绎为作墓志。
庾肩吾历任萧纲府中属官,当时盛行的宫体诗,他是推波助澜者之一。现存的诗文,多为应制、奉和、侍宴、谢启这一类酬应之作,但象“路高村反出,林长鸟更稀。寒云间石起,秋叶下山飞”(《游甑山》),“泉飞疑度雨,云积似重楼”(《寻周处士弘让》)等句写景还很生动。他的《乱后行经吴邮亭》一诗,对侯景之乱也颇有悲愤之情。由于他讲求声律,有一些五言诗已经具备了五言律诗的雏形。
庾肩吾还是一位书法家,著有《书品》,叙述书法的源流演变,评论历代书法家的特色,颇受后人的重视。