秦大將蒙恬率重兵一舉將匈奴騎兵逐出河套，將陰山以南地區納入漢朝版圖。秦軍在狼山南麓的黃河北河兩岸筑起四十四座城堡，派駐重兵。隨后，蒙恬又率大軍乘勝追擊，將匈奴殘余橫掃出陰山，并在“北假”之地，即北河以北、陰山以南的沖積洪積平原上，屯田戍邊。又沿陰山，自東而西修筑長城，以求江山永固。

　　兩狼山口是溝通陰山南北的重要通道，溝壑幽深，峭壁險峻，南北兩口相距不到十公里。從此口進軍，南越陰山，可以取得出奇制勝之效。作為狼山中地勢最為奇險的一個要沖，兩狼山口歷來為兵家所必爭。秦將蒙恬登上狼山北口一個巔峰，極目而望，只見山口的北面是一個巨大的山間盆地，視野開闊，無所阻隔，好一個大軍交戰的天然沙場！盆地內綠草豐茂，溪流環繞，又是一個蓄養戰馬的絕好牧場。蒙恬看得眼熱，便決定在此處筑一城堡，作為戍邊屯墾的指揮中樞。

　　狼山北口東側的山巔之上恰好有一處四周高圍、中間低洼的特殊山勢，蒙恬便叫兵士搬石筑墻，因勢建成一座易守難攻、居高臨下的石堡。墻頭設有瞭望哨位若干，烽火臺就設在東西兩側的山頭之上，而石堡內則成為理想的駐兵之所。在運石筑城時，將士們發現山上山下的榆樹林中散落著許多枯干的榆樹圪樁，便將這些樹干立起來，在城堡四周里三層外三層地做成榆木柵欄，在城堡的外圍形成九重防線，使城堡更加固若金湯。

　　城堡筑成之時，蒙恬親臨視察，遠遠就見無數榆木柵欄隱于綠蔭之中，圍欄高低遠近相互勾連，哨位刀槍劍戟交錯林立，中心城堡居高望遠，東西烽燧遙相呼應，石城、榆柵、哨兵、烽燧共同形成一個立體的防御體系，不禁十分欣慰。蒙恬登上城塞，一位將官將一瓢清涼的泉水捧到他面前，讓他解渴潤嗓。原來，將士們想了一個絕妙的辦法，用榆木做成水桶，又用柔韌的樹條制成繩索，直接將山下的泉水打吊上來飲用。蒙恬將泉水一飲而盡，十分高興地說：“榆木為柵，溪水為飲。這是上天賜與我們的制勝法寶。就將此城堡定名為榆溪塞，如何？”眾將士聽了，都以為名實相符，山呼海嘯般應道：“榆樹為塞，邊城永固！”