吴兢是在魏元忠、朱敬则双双为相时被荐举为史官的，年纪三十左右。《唐会要·史馆上·在外修史》中有唐玄宗开元二十五年（737）时吴兢在集贤院和史馆修史的记载，这时他六十八岁。他担任修史工作至少近四十年。吴兢一生的大部分时间和主要精力都献给了修史事业，可是在史馆修史工作并不顺利，史料记载中有他几次请求调离史职的奏表。
刘知几和吴兢所在的史馆，已与唐太宗贞观年间的史馆大不相同。贞观时史官位尊权重，甄选严格，通籍禁门，优礼有加，“得厕其流者，为一时之美事”。修史也具有相当高的效率。然而其后每况愈下。史馆或因政争而动荡，或因庸才充斥、监修弄权而混乱。刘知几在阐述辞职理由时说：“三为史臣，再入东观，竟不能勒成国典。”吴兢的辞职表中也有类似语言：“臣自掌史东观十有七年，岁序徒淹，勤劳莫著，不能勒成大典，……乞罢今职。”此时史官俸禄的确不高。吴兢自父亲退休之后，顿感经济困窘，不得不提出了加俸的请求，“又兢父致仕已来，俸料斯绝，所冀禄秩稍厚，甘脆有资，乌鸟之诚，幸垂矜察”。
吴兢这一次请辞职是在任史官十七年后提出的，时间是开元初年，没有被批准。后吴兢又以居丧为由，上三次表文，坚拒起复史职。但是，吴兢请求辞职并不说明他不重视或不热爱史官工作。从他所上的三次表文中清楚看到，他对史官一职的宗旨及职能有相当透彻认识和高度推崇之情。他说：“史官之任，为代准的，……树终古之风声”，“定一代之是非，为百王之准的。”这可以看作是对史官修史根本宗旨的认识。正由于吴兢对于史官一职寄托厚望，所以也就愈不能容忍妨碍史馆正常运作的种种不端现象。作为一种抗议，他才愤然提出辞去无比热爱的史职。
吴兢的另一种抗议手段是自己编撰本朝国史。既然自己的史学主张无法在史馆中实现，既然史馆中所修国史有种种歪曲、不实之处，为保留一代信史，就必须自己动手别撰一套国史了。他在开元十四年（726）上奏唐玄宗，披露了自己从武后末期及唐中宗时开始私撰国史的经过。从奏表中可以了解有关此事与他的想法。
第一，二十几年来，吴兢个人撰修国史两种，已成128卷。《唐书》为纪传体，《唐春秋》为编年体。吴兢在公余时间，以个人之力撰写，该要付出多么大的艰辛。
第二，吴兢对自撰国史的质量是较有自信心的，“皇家一代之典，尽在于斯矣”。此亦可佐证他辞史职时自述个人能力不足，是故意自贬。
第三，吴兢之所以披露私撰一事，首先是即将撰成，接近定稿，这就“不敢不奏”；其次是遇到缮写困难，因卷帙较大，个人之能力、财力均不足以承担，不得不请求官方帮助。
身处乌烟瘴气的史馆，吴兢除了辞职以抗议、私撰以抵制外，还尽最大可能保持自己的史学特色，为维护史学的优良传统而进行不懈的努力。