少有才学，南齐时，以太学生游于竟陵王萧子良西邸，历始安王侍郎、建安征虏府主簿功曹，兼记室参军。诗为谢脁所称赏。入梁，官至为晋安王侍郎。事迹附见《南史》卷五九《王僧孺传》后。史称其“盛有才藻，卒于晋安王侍郎”（《南史》）。
虞羲的诗以《文选》所录《咏霍将军北伐》最为有名。这首诗写沙场烽火，如“长城地势险，万里与云平”、“飞狐白日晚，瀚海愁云生。羽书时断绝，刁斗昼夜惊”，颇有气势。诗中歌颂霍去病伐匈奴的战功，并对他的早死感到惋惜，反映了齐梁间一些人希望北伐、平定中原的意愿。虞羲还有一首抒情诗《送友人上湘》写离别之情：“共盈一樽酒，对之愁日暮；汉广虽容，风悲未可渡。”用典贴切，感情真挚。其他如《见江边竹》、《春郊》、《咏秋月》等，也有一些清丽之句。
虞羲原有集11卷，《隋书·经籍志》录有《虞羲集》9卷，已佚。今仅存文1篇，诗12首，收入《全上古三代秦汉三国六朝文》、《先秦汉魏晋南北朝诗》中。