在这种情况下，中国军队不得不再次奋起还击。自1984年4月28日至5月15日，中国昆明军区部队发起中越边境拔点还击作战，浴血奋战，先后攻占老山、662.6高地、八里河东山地区的68个主要高地，共歼灭越军营长以下1898人，沉重打击了越南的侵略气焰。这里需要指出的是，在这次作战中，中国军队不仅收复了被越南侵占的老山中国一侧领土，还打到了越南境内，占领了老山当面纵深近2公里范围内的部分越南领土。在两国关系没有改善，双方仍处于边境军事冲突的态势下，这样做是有必要的。唯如此才能形成有利的边境防御态势，不使战火再次漫延到中国境内，并可成为日后双方进行谈判的政治筹码。
上面是老山轮战期间的双方阵地图。中国军队推进最远处即图右侧靠近越南清水村的142号高地。在整个老山战区，中国军队控制了约10平方公里的越南领土。
这是越南版的老山战区图，注意，其将老山画进了越南境内
此后越军为重新夺回老山，连续向中国军队发起大规模反扑。双方持续进行拉锯争夺，不断向前线调兵遣将，直至绵延成为历时5年多的老山轮战（加上者阴山方向作战，统称为两山轮战）。在此期间，广大解放军参战官兵和支前人员表现出热爱祖国，无私奉献，团结一心，浴血奋战的可贵精神，被称之为“老山精神”，成为了新时期鼓舞国人建设奋进的时代精神。
到了80年代末，由于国际环境变化，中越两国关系得到改善，两山战火也渐渐熄灭。1991年中越关系恢复正常化以后，两国开始进行边界谈判。经过8年16轮的谈判和协商，两国zf签订了边界条约，在所有双方有争议的227平方公里土地中，113平方公里划归越南，114平方公里划归中国。此后直至2008年底，双方共同完成了中越陆界全线勘界立碑的全部工作。在1347公里长的中越陆地边界上，竖立起了近2000块界碑，明确而不留争议地标定了两国国界，彻底解决了这一千年遗留问题。
在老山地区，鉴于山脉分水岭的标志非常明确，因此两国仍基本像前《中法新约》界务专条那样平分了骑线各高地。唯独主峰地区有所不同。由于历史的原因，老山已成为中国的一个时代象征，“老山精神”寄托了一代人的爱国感情，具有很重的政治分量。出于上述考虑，双方在谈判中互相容谅，对老山主峰做出了新的划分。原来的国界线是从主峰顶部中间通过，新条约则把主峰顶部全部划给了中国，新国界线移到了主峰南坡上的一条越方巡逻道处。站在老山主峰的中国领土内，下边就是面向越南的山坡，对面20多公里范围内的越南境内一览无余，中国实际上控制了主峰，让越方无险可守。总算下来，在老山主峰地区比战前多划了7700平方米给中国，面积约比一个标准足球场要大一些。
这里需要强调的是，在两国签订了新的边界条约后，中国军队就全部退出了原先占据的越南境内的领土。这是历家政治的需要，也是两国和平的需要。中国打这一仗，原本就不是为了侵占越南领土，越界打过去也主要是出于军事防御的考虑。中国早就公开宣称过，自卫还击，不要越南一寸领土。当两国恢复和平后，全部退回来也是应有之义。那种以为军队打到哪里哪里就成为自己领土的思维，还处于二战前的历史状态，要赶快回炉学习。什么中国已经把老山割让给越南一类的谣言可以休矣。
现在的老山已经成为著名的爱国主义教育基地，主峰上矗立着原国务委员兼国防部长张爱萍上将题写的“老山精神万岁”汉白玉纪念碑。收复老山时牺牲的昆明军区陆军第14军40师118团5连副连长张大权烈士的雕像也屹立在这里，横抢立马，守卫祖国边疆，那是一代共和国军人的军魂。
