源乾曜出身于鲜卑秃发氏。南凉国主秃发傉檀之子秃发破羌投降北魏,赐姓名为源贺。源贺生源怀,源怀生源子恭,源子恭生源彪,源彪生源师民。源师民是源乾曜的祖父,在隋朝官至刑部侍郎。源乾曜父亲源直心,唐高宗年间官至司刑太常伯(即刑部尚书),后因罪被流放岭南,死于贬所。兄长源乾珍,史籍只载其名,生平事迹不详。源乾曜生有四子:长子源复,官至华州刺史;次子源弼,官至工部郎中;三子源洁,官至河南县令;幼子源清,娶唐玄宗之女真阳公主,拜驸马都尉。
早年经历源乾曜早年考中进士,累迁至殿中侍御史。706年(神龙二年),唐中宗任命十道巡察使,让他们负责考察官吏、安抚百姓等事务。源乾曜出任江南道巡察使,因政绩突出,升任谏议大夫。累职升迁711年(景云二年),源乾曜针对朝廷荒废射礼的行为,上奏道:“圣王教化百姓,必制定礼乐以正人情。君子三年不为礼乐,则礼崩乐坏。古代择士,先观射礼,并不是取一时之乐。射可以区别正邪、观察德行,圣王对此无不重视。如今朝廷吝惜费用,而荒废射礼,甚是不妥。臣认为花费的虽是钱财,但保全的却是礼制,请陛下重开射礼。”不久,源乾曜出任梁州都督。 713年(开元元年),邠王府僚属犯法,唐玄宗便要大臣推举王府长史。源乾曜得到太常卿姜皎的举荐,入宫奏对。他神态清明,气质爽朗,回答问题有条不紊。
唐玄宗在打猎时不慎放走一只白鹰,便命京兆府官吏捕捉。京兆府找到白鹰时,它已挂在荆棘丛里死了。官吏都担心皇帝治罪,源乾曜却道:“事有偶然,死亦常理,皇帝仁爱明察,应不会以此治罪。如果怪罪,就让我来承担,你们不用害怕。”于是上表请罪,并未受到追究。