宣和初年,从漳州司录授国子录,提升监察御史。当时蔡京掌权,廖刚论奏无所顾忌。因双亲年老要求补授地方官,出朝为兴化军知军。钦宗即位,以右正言召回。父亲去世服丧,服丧期满,授工部员外郞,因母亲有病推辞不受。绍兴元年,邻州出现了盗贼,官吏全都逃走,顺昌人听廖刚的命令。廖刚告知跟随盗贼的人回来就业,接着其它盗贼进入顺昌,路监司下令廖刚安抚平定。廖刚派长子廖迟规劝盗贼,贼知道廖刚父子有信义,也都散去。被召为吏部员外郎,进言说:“古代天子都有自己的兵将,用来防备意外,增强君主的威势。希望考核旧制,挑选精锐为亲兵,平常作为防御,行动时作为中军,这是强干弱枝之法。”又进谏说:“国家艰难已达到顶点,现在正要图谋革新,像会稽这样的地方确实不是可以长久停留的。请营建建康,亲率六军前往作为固守的计策。