蔣介石在獲悉臨沂戰況後，致電李宗仁和龐炳勳、張自忠：臨沂捷報頻傳，殊堪嘉慰。仍希督勵所部確切協同包圍敵人於戰場附近而殲滅之。如敵脫逸須跟蹤猛追，開作戰以來之殲敵新紀錄，振國軍之氣勢，有厚望焉。18日，張、龐兩軍從東、南、西三面夾擊湯頭、王疃、傅家池、草坡附近日軍，經過兩天激戰，先後攻克李家五湖、輦沂莊、車莊、前湖崖，日軍完全被擊潰，殘敵大部向莒縣逃竄，一部仍固守湯頭待援。此階段戰鬥，張、龐兩軍共殲滅日軍3000餘人，其中包括第11聯隊長聯隊長野裕一郎大佐，第3大隊大隊長牟田中佐。(《李宗仁致軍委會電》(1938年3月19日)，國民政府軍令部戰史會檔案，中國第二歷史檔案館藏。)日軍“以載重汽車運回莒縣屍體約100余車，……屢次焚化屍體，其不及運回，就地掩埋者達七八百具”。
正當張、龐兩軍要圍殲湯頭日軍之時，第5戰區忽令“第59軍(除留第112旅外)即調費縣，準備向泗水、滕縣轉用”。(《國民革命戰史第三部：抗日御侮》第5卷，第138頁。)20日夜，第59軍主力全部西撤，22日凌晨抵達費縣附近。而在此同時，日軍增援部隊3000餘人，會同湯頭之殘敵千餘人，復向第40軍反攻，猛烈的炮火晝夜不停，龐軍孤軍奮戰不支，亭子頭、東莊屯陣地均被突破，乃退至桃園、石埠嶺、黃山一線陣地死守。時龐軍兵力僅存2000餘人，臨沂再度告急。
23日，蔣介石命令第59軍“不必向泗水、滕縣分轉兵力，仍應協力第40軍迅速殲滅臨沂北方之敵，以競全功，而利大局爲要”。24日晨，第59軍抵達臨沂附近，並在韋家屯、桃園一帶與日軍激戰。25日，爲解龐軍團之圍，第38師以3個團夜襲桃園、三官廟，次日晨攻佔桃園，並將三官廟之敵包圍。26日，日軍一部4000餘人由船流對岸渡過沂河西進;另一部約1個聯隊也到達臨沂西北約15公里的義堂集一線，準備進攻臨沂城。
張自忠急派主力於城西北之王家岔河、八里屯、小嶺、古城一線佈防拒敵。龐軍團固守沂河東岸的九曲店、石埠嶺、黃山之線。其時龐軍僅剩千餘人，已喪失戰鬥力;“張軍實力雖剩半數，而士氣較前甚差，非有生力援軍，臨沂難守”。於是，李宗仁急派繆溦流第57軍王肇治旅、湯恩伯部1個騎兵團赴臨沂增援。
從27日晨開始至29日晚，日軍向臨沂大舉進攻，儘管日軍以飛機往復轟炸，大炮猛烈射擊，並佔領了臨沂周圍許多村落，但第59軍在傷亡2000餘人的情況下，前仆後繼，奮勇抗敵，使日軍橫屍遍野，始終未能越過臨沂半步。
日方資料對這次攻擊作戰是這樣敘述的：阪本支隊從3月22日進攻，並擊敗沂州東北面及東面之敵。25日早，以主力開始攻擊沂河東面的沂河東岸敵陣地……步兵第21聯隊的主力……於25日夜開始轉進，26日正午佔領義堂集，負責警戒。
接着，阪本支隊長將主力轉移到沂州西北方，從27日開始攻擊沂州，逐次攻佔了沂州周圍敵佔領的村莊，但由於敵之頑強抵抗，直到29日也未能佔領沂州縣城。這時，由於日軍在臺兒莊方面戰況吃緊，第2軍“命令第5師團救援瀨谷支隊。於是，第5師團命令阪本支隊，暫時中止攻擊沂州，去救援瀨谷支隊”。29日夜，日軍退守義堂集、艾山一線，僅留下步兵約2個大隊同中國軍隊對峙，等待援軍，阪本率4個步兵大隊、2個野炮兵大隊馳援臺兒莊。31日，板垣率援軍抵達湯頭，指揮作戰。
臨沂保衛戰的勝利，使日軍第5師團主力始終不能與津浦路北段的第10師團按預定計劃會合於臺兒莊，斬斷了華北日軍的左臂，從而使冒險突進到臺兒莊的瀨谷旅團處於孤立無援的境地，爲臺兒莊戰役的勝利奠定了基礎。
令人遺憾的是，中國方面對阪本支隊主力增援臺兒莊的行動毫無察覺，第5戰區於此時從臺兒莊抽調出黃光華第139師火速增援臨沂，張自忠軍也於30日集中兵力向臨沂西北反攻，致使阪本支隊順利到達臺兒莊地區，並向湯恩伯第20軍團側背攻擊，打亂了該軍團圍殲瀨谷支隊的作戰計劃。蔣介石爲此電斥張自忠：“臨沂之敵得自由轉用於向城、蘭陵鎮方面，實該軍之恥，應連派有力部隊向向城之敵猛烈追擊。免致臺、嶧之敵已屆聚殲之時再行逸脫。事關抗戰前途甚巨，務希努力爲要。”
然而，張自忠“兩次保全臨沂，犧牲頗大。敵憊之餘，未能扼敵迂迴西進，誠爲美中不足”。況且，對傷亡過半的第59軍和幾乎全軍覆滅的第40軍來說，板垣師團的後續部隊仍然構成重大威脅，當然不可能阻止阪本旅團主力的西進。而第5戰區長官部戰術指揮紊亂，對日軍動向掌握不清，以致調度失當，盲目用兵，則是造成戰術失誤的主要原因。
