遠征軍南翼部隊向松山發起進攻後,對滇西日軍形成了南北夾攻態勢。遠征軍北翼攻擊兵團第53軍和54軍的作戰區域橫廣約50公里,縱長達百餘公里。區內地形複雜,山川相間。百餘里怒江,僅栗柴壩渡、勐古渡等渡口勉強可通行特製之舟渡。怒江之西有高黎貢山巍然聳立,由北而南蜿蜒而下,綿亘數百里,形成天然之屏障,陡峻險阻。山中原始森林,叢葉密布,遮天蔽日,僅少數道路勉強可以通行騾馬,其餘皆羊腸鳥道,路跡難辨。在南、北齋公房,羊腸小道多為溪流浸蝕之谷道,崎嶇險阻,勉可攀登,倘有不慎,即可墜斃。
山頂氣候寒冷,與山麓迥異,過山凍斃者纍纍相接。山谷中空氣流通困難,毒蚊叢生,瘴氣隨起,疫癘為患甚烈。山中居民絕少,給養極為困難。由於正值雨季,高黎貢山上的大霧使得美軍的空中支援也無法有效進行。在高黎貢山戰鬥中,遠征軍官兵因凍餓病而死者甚至超過陣亡人數。美軍顧問團參謀長弗蘭克·多爾在其《回憶錄》中寫道:「中國遠征軍進入了高不可測的困難地帶。數以十計的騾馬和伕役,滑下了冰凍的隘道,墜下幾千英尺的深溝中死去。戰鬥是在雲層覆蓋、海拔11,000英尺高的冰天雪地之中進行的。這是第二次世界大戰中,海拔最高的陸上作戰,被稱為『雲層上的戰場』」。
對北翼擔任攻擊任務的遠征軍來說,首當其衝的巨大障礙,就是日軍在高入雲霄的高黎貢山兩條千年古道各要隘構築的堅固工事,和隱藏在濃林莽草或陡峻山岩之中頑抗的日本守軍。日軍憑天險設防於可通行之隘路口,並逐次增強,易守難攻。遠征軍在陡險地勢上攻都是仰攻,有的仰角達到了七八十度,前面的人得由後面的人推托着開槍,或者是要把人拴在樹杈上打槍。日軍在山口要道上只要一兩個人,用一挺機關槍,就可擋住幾百上千人的衝鋒。
北翼攻擊兵團右路軍第54軍第198師主力同日軍的第一場大血戰在高黎貢山東坡小橫溝——灰坡山頂陣地展開。小橫溝——灰坡山樑,西靠高黎貢山主脈,東臨怒江大峽谷,地處怒江勐古渡與高黎貢山北齋公房之間,是古代南方絲綢之路從雲龍經六庫栗柴渡或從保山(永昌)經勐古渡前往騰沖兩條古道的交匯口。日軍在小橫溝山樑設前後兩道防線。因山高坡陡、敵人火力集中,198師在盟軍飛機和江東炮兵全力支援下,經過三天激戰,才奪取了古道交匯要口。此役雖斃敵副聯隊長及以下守兵100餘人,但遠征軍因三面仰攻,傷亡慘重,重傷營長1人,陣亡連長朱開勳及以下兵員200餘人。美軍教官夏泊爾中尉帶頭衝鋒,中彈犧牲,成為大反攻中第一個獻身的美國盟軍人員。
奪取小橫溝敵前線陣地後,198師乘勝分兩路向北線至高點冷水溝——北齋公房埡口衝擊。冷水溝——北齋公房埡口位於高黎貢山極頂,是古代南方絲綢之路從雲龍或保山至騰沖古道北線翻越高黎貢山的天險要隘。山口橫截高黎貢山主脈呈西東走向,東為冷水溝、西為北齋公房,海拔高程3,150米。為有效控制該古道要隘,日軍沿山口修建了碉堡戰壕等大量工事,防守嚴密。198師經過半個月的掘壕圍攻,反覆爭奪,才於6月14日佔領了北齋公房整個山口,擊斃日軍大隊長以下300餘人。此役為遠征軍整個滇西反攻中地勢最高的要塞爭奪戰。激戰中,遠征軍594團一營營長魯砥中身先士卒,中彈陣亡。團長譚子斌陣前督戰被炸斷右腿,重傷不退,血盡而亡。
北翼攻擊部隊左路軍沿永騰古道中線進攻南齋公房的戰鬥,是遠征軍同日軍高黎貢山攻防戰中最為酷烈的戰鬥。其中的關鍵之戰是大塘子戰役。 大塘子是南齋公房北坡百花嶺以北2公里處的一個大村寨,因村前有一人工水塘而得名。這裏東接怒江雙虹橋,西通高黎貢山南齋公房,是古代南方絲綢之路永昌至騰沖段古道中線翻越高黎貢山的主要驛站,也是高黎貢山東側山腹部「屏障大勢」的「中央咽喉」。這一帶地域內有大小山峰7座,分別對雙虹橋至大塘子之間的大小兩條古道形成俯控夾峙之勢。日軍不僅在山頂的南齋公房埡口重兵布防,並且在南齋公房東5公里黃心樹至江畔數十平方公里的崇山峻嶺中,設置了以大塘子自然村為防禦核心的眾多固定據點和移動據點。日軍148聯隊千餘人(後增至2,000多人)常駐該地。
日軍在滇西有6個「堅固據點」,大塘子就是其中之一。「堅固據點」都築有隱蔽好、射界寬、抗力強的堡壘群及火力點。在大塘子東部戰區的小營盤山和打鷹墩山,日軍把山頂挖空,砍來大量圓木,拆來大量居民房屋枋板,在工事之上鋪築了一層圓木,一層土石,一層枋板,又一層土石,可有效抵禦炸彈、炮彈轟擊。大塘子「封死」了遠征軍攻越南齋公房的軍事通道,必須首先攻克。
奉命進攻大塘子的遠征軍北翼左路軍前鋒是第20集團軍第54軍36師。按照第20集團軍的作戰計劃,以第54軍為第一梯隊,其所部第36師須先行攻下大塘子、南齋公房;然後以第53軍為第二梯隊,待第一梯隊完成上述任務後,直插騰沖的江苴壩子。1944年5月11日黃昏第36師過江後,第二天拂曉即向大塘子日軍前沿陣地發起進攻。日軍頑強抵抗並不斷發起反衝鋒。雙方激烈攻防,數度肉搏,傷亡慘重。僅燙習山攻戰兩天多,36師就傷亡、失蹤官兵305名,日軍也傷亡300餘員,內有大尉2員。36師因傷亡過半,反攻任務由後續渡江的第53軍負責。
53軍以130師和116師分多路進攻。經5天激戰,才拔除日軍大尖山和百花嶺等外圍陣地,對大塘子日軍核心陣地形成三面包圍態勢。從5月19日開始,53軍三路大軍發起總攻。先是通過放火燒山,使日軍山頭陣地工事暴露,然後立即在空軍、炮兵的支援下實施強攻。同時用穿插部隊實施大迂迴,截斷敵後方聯絡線。又經過6天的血肉拚搏,終於5月24日將大塘子核心陣地全部佔領,打開了反攻高黎貢山的前進通道。此役為怒江反攻初期規模最大的要路爭奪戰,在前後10餘天的激戰中,先後有348團營長王福林、美軍聯絡官麥姆瑞少校等數百官兵英勇獻身。
53軍奪取敵大塘子前線陣地後,於1944年5月25日將主力116師和130師兵分兩路攻向日軍山頂陣地南齋公房埡口。南齋公房是古代南方絲綢之路永昌至騰沖段古道中線翻越高黎貢山的至高點和天險關隘。因此南齋公房爭奪戰是遠征軍反攻高黎貢山古道中線最關鍵的一場戰役。南齋公房埡口橫截高黎貢山主脈,呈西東走向,海拔高程3,170米。埡口兩端危岩聳峙,千年古道在懸崖間曲折蜿蜒,「一夫當關,萬夫莫開」。日軍陣地以埡口為中心向兩側山樑延伸,面對埡口呈交叉俯控之勢。經過10餘天激戰,53軍攻擊部隊才於6月11日從東、北、南三面將日軍守敵300餘人趕下埡口,奪取了南齋公房山口的控制權。此役是整個滇西抗戰中繼北齋公房之後第二個高海拔交通要塞爭奪戰。