1947年5月13日孟良崮战役爆发，陈毅和粟裕指挥华野5个纵队将张灵甫和他的整编第74师包围。老蒋为了救援张灵甫，调动了数十万大军企图对我军形成反包围。最终我军顶住压力，全歼了整编第74师，陈毅称孟良崮战役为“百万军中取敌上将首级”。张灵甫殒命后，老蒋极为心痛，亲自为其撰写祭文：“以我绝对优势之革命武力，竟为劣势乌合之匪所陷害。真是空前大的损失，能不令人哀痛！”
为了宣扬张灵甫“杀身成仁”的精神，老蒋不仅在南京玄武湖畔为其修建了纪念碑，还将蒙阴县改名为灵甫县，并将英国援助的一艘驱逐舰命名为灵甫号。表面上老蒋给了张灵甫极大的哀荣，但实际上他对张灵甫在孟良崮战役中的表现是十分不满的。1947年5月19日，老蒋在对军官训练团第二期学员训话时专门讲到了孟良崮战役，并用9个字评价了张灵甫，可谓一针见血。
老蒋的原话是这样的：“74师这次在鲁中攻击匪军根据地坦埠，攻击两天没有攻下，发现敌人的主力已向他包围，于是全师撤退到距蒙阴30里的孟良崮。当时全师有六个团兵力，如果师、旅、团长平时有高深的战术修养，能够选择适当的地形，配置兵力，构成周密的火网，则不论敌人兵力如何雄厚，绝不能在一天之内解决我们。但当时该师不守山口，只守山头，而山头又是石山，又没有饮水，因此敌人的炮火威力倍增，而我军的伤亡更大，以至整个失败。”
在老蒋看来，整编74师之所以败得这样惨，主要原因是师、旅、团长“没有高深的战术修养”，这其中自然也就包括了师长张灵甫。我们知道张灵甫毕业于黄埔四期，之后还在陆大将官班深造过，老蒋为何说他没有高深的战术修养呢？傅作义的王牌悍将董其武在其自传《戎马春秋》给出了这样的解答：在陆大受训，将领班的将领按规定每人可以带一个参谋，但是我们班里的张灵甫，却带了两个参谋去上学。他每天只上一节课，其余的课让参谋替他去上。他花了七百万元在重庆近郊买了一处洋楼，每天在那里养尊处优。一个星期天，他请我去他那里。我到了一看，富丽堂皇、光彩耀目，简直象一座王宫。又是舞厅，又是餐厅，看得我眼花缭乱。我这个在塞外前线吃土豆睡土炕的土包子实在坐不住，忙向主人佯称有事告辞了。
每天只上一节课，其余的课让参谋替他去上，张灵甫如此态度，怎么可能学到高深的战术修养呢？在这一点上，他甚至还不如杂牌出身的黄百韬。孟良崮战役中黄百韬负责张灵甫的侧翼安全，当他得知张灵甫竟然率领整编74师上了孟良崮后很是吃惊，急忙打电话给张灵甫说：“钟麟兄，你那个师装备重，车辆多，怎么能去孟良崮呢？孟良崮无遮无蔽，无水无草，部队怎么办呢？”但骄横的张灵甫并没有听从黄百韬的劝告，最终兵败身亡。张灵甫在孟良崮战役中的表现，像极了守街亭的马谡，老蒋评价他“没有高深的战术修养”可谓一针见血。
