全面抗戰爆發后，1938年2月16日，豫北汲縣淪陷。大革命時期就參加共產黨的汲縣口頭村教師李繼韶積極開展抗日救亡運動。他用學校貯存的數十石糧食，購買步槍6支，加上他原有的1支步槍和1支手槍，以本村“夜間青年文化補習班”的進步學生為骨干，組建了汲縣第一支抗日武裝——馬牙山抗日游擊隊，李繼韶任隊長。

　　游擊隊成立后，便在口頭村附近的馬牙山扎下營寨，一面加緊訓練，一面開展抗日活動。不久，游擊隊展開作戰，截擊了一支日偽運輸隊，擊斃偽軍排長1人，俘虜日本兵1人，繳獲馬匹、馬車及一批軍需物資。

　　1938年3月初，駐守淇縣的日軍在良相村建立了一個偽區公所，派20多人的偽軍看守。游擊隊得到消息后，立即從馬牙山營地連夜出發，行軍15公里到達淇縣良相村，將偽區公所突然包圍。副隊長馬三群等人悄悄越墻跳入院內，沖入營房，俘虜了全部偽軍。

　　游擊隊的勝利，引起駐守淇縣日軍的極大驚恐。1938年3月20日，日軍百余人，攜帶4門迫擊炮向口頭村撲來。隊長李繼韶得到報告后，決定在虎頭山和馬牙山之間通往口頭村的大道兩側設下埋伏，打擊來犯之敵。

　　當敵人進入游擊隊的伏擊圈時，游擊隊突然猛烈射擊。敵人慌忙向公路兩翼的山上連續發射炮彈，由于游擊隊隱蔽較好，幾乎沒有傷亡，憤而居高臨下不斷向敵人射擊。戰斗從上午一直進行到下午，日軍招架不住，急忙收兵逃走。此戰，游擊隊擊斃敵人近20人，繳獲手榴彈100余顆。

　　1938年夏，八路軍一一五師三四四旅六八八團挺進豫北，來到汲縣塔崗村，派人和游擊隊取得聯系，鼓勵他們再接再厲，堅持抗戰。游擊隊早就聽說過八路軍的威名，當即要求編入八路軍。

　　經上級批準，六八八團將馬牙山抗日游擊隊命名為八路軍太行游擊第一支隊，李繼韶任支隊長、六八八團的劉英任政委。支隊下設兩個大隊，分別由李作英、馬三群任大隊長。六八八團又給游擊隊配備了參謀、司號員，給兩個大隊各配備了一名指導員。接著，三四四旅派專人對游擊隊進行了整訓，使該部政治、軍事素質在短期內有了很大提高。

　　11月初，八路軍三四四旅六九〇團派代表將游擊第一支隊接到林縣臨淇鎮，編入六九〇團第一營。至此，馬牙山抗日游擊隊正式成為八路軍正規部隊的一部分。