馬匹是被人類很早就服了的動物不過早期的騎兵既沒有馬鞍，也沒有馬鐙，全靠自己的雙腿緊緊夾住馬腹催馬賓士，在馬上也無法使用身體力量來進行劈砍、刺殺等格鬥動作，主要是依靠射箭來殺傷敵人。只有從小在馬背上長大的遊牧民族才善於這種高難度的騎射，中原地區的華夏族軍隊要到較晚的時期才開始組建騎兵。

戰國時期一般講到國家軍事實力時往往“車騎”並提，足可見當時的騎兵已和車兵並列為重要的技術兵種。《戰策》提到蘇秦遊說秦王，說秦國有“戰車萬乘，奮擊百萬”，“以大王之賢，士民之眾，車騎之用，兵法之教，可以並諸侯、吞天下”。范蠡也說“秦卒之勇，車騎之多”，所向無敵。與“車騎對稱的“奮擊”、“秦卒”應該就是步兵，看來這就是當時軍隊的三大兵種了。《史記》記載蘇秦的話，說是燕國有“帶甲數十萬，車六百乘，騎六千匹”；趙國“帶甲數十萬，車千乘，騎萬匹“”魏國“武士二十萬，奮擊二十萬”，“車六百乘，騎五千匹””；南方的楚國則步兵比重大，“帶甲百萬，車千乘，騎萬匹”。總的來說各國的騎兵只佔全部軍力的5%都不到。

當時華夏族的服裝都是寬著長袍騎在馬上要做射箭動作很困難。公元前307年，北方的趙國在長期與遊牧民族的衝突中痛感騎兵的重要性，國王趙武靈王毅然推行“胡服騎射”，將騎兵的服裝改為與遊牧民族相同的窄袖短衣，終於建立起可以與遊牧民族作戰的騎兵。後來任用李牧為統帥，訓練士兵騎射，並精選戰車1300乘，騎兵1。3萬人，“百金之士”5萬，弓箭手10萬，組成主力部隊與匈奴作戰，接連打敗或降伏匈奴的附屬國如東胡、林胡等，使得匈奴在以後的十幾年裡不敢接近趙國的邊境。趙國這支特編的部隊步騎比例還是沒超過10：1。

戰國時期的騎兵仍然還沒有馬鐙，難以進行馬上格鬥，在野戰中一般不在正面進行突擊，主要用於包抄、遷回、追擊。如李牧以騎兵兩翼包抄戰術擊敗匈奴大軍。秦趙長平之戰，白起以1。5萬騎兵截斷趙軍與營壘之間的聯絡。騎兵的編制還不大，並不獨立執行戰役任務。

秦漢時期騎兵已有很多的獨立建制部隊，比如楚漢相爭時，兩軍有很多稱為“騎將”的軍官。公元前202年楚漢垓下決戰，項羽最後失敗，帶領800名騎兵突圍。劉邦命令騎將灌嬰率5000騎兵猛追，一直追過準河。項羽只剩下28個騎兵，被數千名漢軍騎兵包圍。項羽知道無法逃脫，對手下的騎兵說：“我起兵八年來，打了七十多仗，從來沒有打過敗仗，所以稱霸天下。今天被圍困在此，是天要亡我，不是我不會打仗。反正今天我帶你們決一死戰，一定要打贏它幾個回合，突圍、斬將、刈旗，讓你們知道是天要亡我，不是我不會打仗。”他把剩餘的騎兵分為四隊，說我為諸位取對方一員將軍”，要騎兵四面突擊，約好在一個山頭會合，他自己大吼一聲，乘亂一直衝到漢軍人叢中，果然將漢軍的一個軍官砍於馬下。與騎兵會合後，漢軍又包圍上來，項羽又與騎兵一起突擊，殺死漢軍的一個都尉和上百騎兵。突出重圍到烏江（今安徽和縣東北）邊再次會合時，28騎只喪失2騎。騎兵們都衷心敬佩項羽。項羽認為是天要亡他，而且喪失了過去帶過江的8000子弟兵，無面目復見江東父老，於是把戰馬送給梢公，要騎兵全都下馬步戰，與漢軍追兵短兵相接，最後項羽受傷自刎而亡。

西漢為與匈奴作戰，逐步組建起大規模的騎兵部隊，徵兵時專門有“騎士”的兵役，朝廷任命專門的“車騎將軍”，以後又設立“驃騎將軍”、“驍騎將軍”等名號，朝廷直屬的北軍中也有“屯騎校尉”和“越騎校尉”、“胡騎校尉”。漢武帝時期發動多次進攻匈奴的戰爭，出動的騎兵動輒數以十萬計，可見當時軍隊中騎兵的比重加大，在邊境地區已經超過了步兵。東漢保留了西漢時的制度，但軍隊中騎兵的比重明顯下降。幾次邊境戰爭中，由內附的南匈奴或羌族部落騎兵起到重要作用，漢族騎兵出動數量不多。如73年竇固等出擊西域，89年竇憲等出擊北匈奴，漢族騎兵都不到“萬騎規模。在中原地區的戰爭中往往“步騎”並提，在作戰時仍然採用混編，騎兵起輔助作用。

東漢末年的戰亂中，曹操集團的軍事實力很大程度上在於其有一支較精銳的騎兵。比如在200年官渡之戰中，曹操親自率5000騎兵突襲袁紹軍後勤基地烏巢，獲得決定性勝利。又如211年曹軍進攻關中，以步兵誘敵，而以“虎騎”為主力夾擊，大敗馬超、韓遂。這種“虎騎”很可能就是人馬都披甲的重灌騎兵，說明漢族軍隊騎兵開始有重灌與輕裝區別，而且這種重灌騎兵已具有野戰強攻突擊能力。

十六國混戰時期（304~439）是重灌騎兵全面登上軍事舞臺的時期。北方遊牧民族大批內遷，畜牧業的發展有可能使騎兵用馬大量增加；馬鐙等更為完善的乘馬具的發明，大大增加了騎兵在馬上的格鬥能力；手工業的發展也能夠為騎兵提供更完善的防護甲。因此重灌騎兵已具有強大的突擊能力，成為戰場上令人生畏的決定性力量。軍隊中騎兵的比重也大大增加，如312年漢族軍閥王濬組織五萬軍隊進攻盤踞襄國的軍閥石勒，石勒先敗後勝，在最後的追擊戰中繳獲“鎧馬”5000匹。可見在王戎軍隊中重灌騎兵至少要佔到十分之一以上。28年石勒進攻洛陽，出動的軍隊中步兵六萬，騎二萬七千”，騎兵達到全軍近三分之一。383年前秦待堅以百萬大軍進攻東晉，據說步兵有60萬，騎兵有27萬。可見步騎之比為2：1似乎是當時的慣例。而後來北魏軍隊動輒出動數以十萬計的騎兵大兵團作戰，甚至在450年大舉進攻南朝劉宋時，出動的騎兵居然達到了60萬，營寨綿延3000裡。北朝極端重視騎兵的傳統也影響到隋唐。

唐太宗是一位輕騎兵（指人披甲、馬不披甲的騎兵，人披的甲是兩檔鎧為主，主要遮蔽胸部，或者也叫胸甲騎兵）奔襲戰術的積極實踐者，他在建立唐朝過程中東征西討，很多戰役都是他親自率輕騎兵奔襲、突擊而獲勝。唐代也是古代漢族皇朝軍隊騎兵的鼎盛時期。按照《通典》所載唐初大將李靖的說法，唐代軍隊的標準編成是騎兵要佔到戰鬥部隊的30%，而盛唐時期全部57萬常備軍中有16萬是騎兵，差不多也佔到30%。

唐代中葉起中原漢族皇朝逐漸喪失對於主要馬匹產區的控制，軍隊編成中的騎兵比重也隨之逐漸降低。到北宋建立時，軍隊編成中儘管有相當比重的“馬軍”，但卻大部分是沒有馬匹的步兵。北宋皇朝千方百計促進馬匹的養育，而在農業地區難以放牧大批馬群，馬匹生產長期萎縮，“馬軍”也就只能名不副實。這種局面到南宋時更為嚴重，騎兵補充馬匹只能依靠廣西等地出產的矮種馬，騎兵的比重不到5%。而與兩宋對峙的遼、西夏、金、元等遊牧少數民族皇朝卻以騎兵為主力軍，屢屢打敗宋軍。南宋能夠與之一戰的部隊往往裝備有較多騎兵，比如著名的岳家軍，以俘獲的馬匹編練8000騎兵，號“背嵬年”，又編練“遊奕馬軍”，1140年穎昌大戰，這兩支騎兵與金騎兵進行大規模騎兵會戰，獲得勝利。

明代在初期為與蒙古作戰，極力加強騎兵實力，尤其是在明永樂年間（1403~1425），永樂帝親自多次遠征漠北，每次都出動大量騎兵。1409年邱福率10萬騎兵奔襲韃靼本雅失裡，結果是全軍覆沒，邱福陣亡，明朝廷立即動員組建30萬騎兵，也只用了半年多時間。可見當時有強大的騎兵後備力量。但1449年“土木之變”後，朝廷直接掌握的京軍幾乎被全部消滅，尤其是騎兵損失後再也沒有能夠恢復到原來的水平。而戰馬的供應更加困難，從此明軍逐步倒退到兩宋時期的那種狀況，騎兵在軍隊編成中所佔比例不到十分之一。

清代八旗兵的主體是騎兵，而綠營兵則基本是以步兵為主。入關前八旗兵的騎、步比為1：1，入關後仍然基本保持這一比例。而從制度上來看，朝廷規定綠營兵部隊一般原則是“馬三步七”，但實際上各地均不相同。比如江西、安徽軍都是“馬一步九”；陝西、甘肅駐軍則為“馬六步四”。由於清代“馬兵”是指級別最高、薪俸最多計程車兵，因此“馬兵”並不一定是備有馬匹的騎兵，連水師的土兵也有相當比例的“馬兵。