宋明帝时为右军将军,先后镇会稽(今浙江绍兴)、淮阴(今江苏清江西),以军功累官至南兖州刺史。明帝卒,他与尚书令袁粲等共掌朝政,并领石头戍军事。元徽二年(公元474年)平江州刺史桂阳王休范的反叛,进爵为公,迁中领军将军,掌握了禁卫军,督五州军事。与袁粲、褚渊、刘秉号称“四贵”。宋皇室成员争权,自相残杀,朝廷实权渐集于道成。升明元年(公元477年)七月,道成杀后废帝刘昱,立刘准(宋顺帝)。萧道成封齐王,兼总军国,次第诛灭忠于宋室的袁粲、荆州刺史沈攸之、黄回等。三年四月受宋禅即皇帝位,,改元建元,史称南齐。道成惩宋之亡,务从俭约,减免百姓逋租宿债,宽简刑罚,但对宋之宗室王侯,无少长皆幽死。次年下令扩大清理户籍,按虞玩之的建议,设立校籍官,以宋元嘉二十七年(450年)版籍为准整理户籍。