全文分三段
第一段，从千里马对伯乐的依赖关系出发，说明千里马才能的被埋没是不可避免的。文章一开篇就奇峰突起，用“世有伯乐，然后有千里马”点出论证的前提。这句话还包含着一个反题，即“无伯乐，则无千里马”，实际上指明了千里马对伯乐的依赖关系。但这里的“伯乐”是一个普遍概念，指的是特别善于相马的人。因此下面接着就提出“千里马常有，而伯乐不常有”这一论断，突出了这“常有”和“不常有”之间的尖锐矛盾，说明千里马的被埋没简直具有必然性。然后趁势而下，说到千里马的命运上来，用“祇辱于奴隶人之手，骈死于槽枥之间”描绘了千里马被埋没的具体情形，引人深思。这一段，从全篇来看，目的是提出问题；它之所以要强调知马者惟伯乐这个意思，则是为下文揭露“食（sì）马者”的“不知马”张本。
第二段，揭示千里马被埋没的根本原因是“食（sì）马者”的“不知马”。千里马被埋没，在一般人看来，大概要归咎于它的才美“不外见”。因此，本段一开头就用“马之千里者，一食或尽粟一石，食（sì）马者不知其能千里而食也”点出问题的要害。“一食或尽粟一石”是夸张的说法，强调千里马的食量大大超过常马；“不知其能千里而食”，是说“食（sì）马者”只是按照常马的食量来喂养它，说明这种人的无知。接着，先以“是马也，虽有千里之能”作低回之势；再用一组排比句揭示这“才美不外见”，正是“食不饱，力不足”所造成的恶果；最后又用反诘句“且欲与常马等不可得，安求其能千里也”，对“食（sì）马者”的无知发出强烈的谴责。这是从反面证明“世有伯乐，然后有千里马”的道理。
第三段，归纳全文中心，对“食（sì）马者”的无知妄说进行辛辣的嘲讽。先用揭露矛盾的方法刻画“食（sì）马者”的形象：“策之不以其道，食之不能尽其材，鸣之而不能通其意”，这三句紧承上文，全面总结了这种人“不知马”的表现；“执策而临之”，写他们洋洋自得、以“知马者”自居的神情，“之”指代千里马，他们在千里马跟前竟然宣称“天下无马”，这是十足的妄说。两相对照，生动地揭露了这种人的愚蠢、荒唐。然后用“呜呼”领出作者的感慨：“其真无马邪”承上文“天下无马”，是作者对“食马者”的反诘，也是向读者发问，用来为下句蓄势；然后以“其真不知马也”作答，结住全文。
本文篇幅虽短，中心却十分突出。贯穿全文的是“不知马”这句话。文中连用十一个“不”字。开始说“伯乐不常有”、千里马之“不以千里称”，已隐含着“不知马”的意思；中间先明确指出“食（sì）马者不知其能千里而食”，然后以“食不饱，力不足，才美不外见（xiàn），且欲与常马等不可得”说明“不知”所造成的恶果；最后更以“不以”“不能”来痛斥“食（sì）马者”的无知，由此导出全文的结句“其真不知马也”，点明了中心。