毛澤東、朱德之外，最高統帥部里還有一個粟裕的知己：劉少奇。
劉少奇是毛澤東最得力的助手與第一個接班人，曾在二十餘年間受到毛澤東格外的倚重、信任。複雜激烈的黨內鬥爭中，毛澤東之所以笑到最後，最高領導地位與毛澤東思想指導地位得以最終確立，都有劉少奇殫精竭慮的汗馬之功。
劉少奇也因此成為一人之下，萬人之上的全黨二把手。
但毛澤東的信任似乎有一個前提，這位二把手不能插手軍隊，或者說擁有自己的“山頭”與“嫡系將領”。這也是後來兩人不幸翻臉時，毛澤東對劉少奇說“你有什麼了不起，我動一個小指頭就可以把你打倒”的自信之源。
1941年皖南事變後，劉少奇出任新四軍政治委員兼中共中央華中局書記，與粟裕在華東戰場上並肩作戰。
因此，劉少奇雖然曾做過新四軍的政委、新四軍軍分會書記乃至中央軍委副主席，但還是沒有機會在軍事上成就亮點，未能成為後來的三十六個軍事家之一，頭上也就只有政治家和理論家的桂冠。
劉少奇與粟裕的認識較晚，是在“皖南事變”前夕的1940年。後來，劉少奇對粟裕的信任與推舉也是不遺餘力的。
這年10月，粟裕和陳毅取得黃橋戰役大捷後，與南下的八路軍第五縱隊會師。當年長征的紅軍主力與南方叢林的游擊隊，六年後終於再次融合在一起，也就是喜歡舞文弄墨的陳毅在詩里記敘的一件大事：“十年征戰幾人回，又見同儕並馬歸。”
粟裕以新四軍江北指揮部副指揮的身份，在江蘇海安主持大會，紀念這一非凡的勝利，並歡迎中原局書記劉少奇以及他帶來的八路軍第五縱隊司令員黃克誠等人。
不久，兩支部隊奉命統一指揮，成立了新四軍、八路軍華中總指揮部，陳毅任代總指揮(總指揮葉挺未到職)，劉少奇為政委。這便是後來新四軍新軍部的雛形。
陳毅升職而去，粟裕也跟著前進了半步，開始獨立打理江北指揮部。
但這時候，初來乍到的“中央大員”劉少奇，更多倚重的是早負盛名的陳毅，不僅三個月前就決定將蘇北各部隊(包括八路軍南下部隊及渡河支援的四、五支隊)由陳毅擔任戰役上的統一指揮，而且不久後他還向毛澤東提議，重建後的新四軍軍部，“以陳毅代軍長”。
粟裕雖然剛創造了黃橋戰役以少勝多的軍事傑作，被劉少奇稱為“有偉大的決定意義”，但他到底還不是軍事主官，其運籌帷幄的實際內情並不為人知曉。因此，劉少奇並未對他留下後來的“黑馬”印象。
“皖南事變”後，劉少奇擔任了華中局書記兼新四軍政委，成為華中戰略區的一把手，一師師長粟裕正式成為他麾下的戰將。
劉少奇在新四軍的時間並不長，一年後的1942年3月就奉毛澤東之命返回延安，成為中共中央書記處三位書記之一(毛澤東、劉少奇、任弼時)，進入了中央核心領導層。但這麼短的時間內，他就敏銳地看出了粟裕的出色才幹。
離開新四軍前的1月20日，他在華中局擴大會議總結工作時，給予了粟裕和他的一師非同一般的評價。
他稱讚說：“我一師幾年來工作是獲得了最大的成績，在抗戰中建立了最大的功勞。在我全軍中以第一師部隊作戰最多，戰果最大。”隨後，他還具體列舉了一師一些戰例以及其他許多工作的成績。
這時候，蘇南的新四軍六師打得不夠好，有不能立腳之勢。劉少奇當即向毛澤東提議，由粟裕統一指揮一、六兩個師。
毛澤東很快予以批准，粟裕也就獨挑大樑，成為唯一同時指揮兩個師的師長。
劉少奇經過九個月長途跋涉的“小長征”後回到延安，向毛澤東詳細地彙報了自己的工作。其間，他對粟裕還讚不絕口，高興地說在華中局和新四軍工作時發 現兩個人才，“一是新四軍四師政委鄧子恢，他是農村工作的專家;二是新四軍一師師長粟裕，是新四軍7個師中，打仗打得最多和最好的一個師長。”
毛澤東原本和粟裕有井岡山同吃紅米飯的淵源，劉少奇又如此力薦這位“黑馬”，自然印象就更深了。
1945年8月28日，毛澤東赴重慶與蔣介石談判，由劉少奇代理其中共中央主席一職。從這時開始到第二年春天，劉少奇一直主持中共中央工作。
劉少奇決定讓年長粟裕九歲，曾參與組織福建西部農民暴動，任閩西南軍政委員會主席的老資格領導人張鼎丞擔任華中軍區副司令員。
華中軍區管轄原來新四軍的區域，與陳毅任司令員的山東軍區平級，劉少奇此舉，無疑是對粟裕相當的信任與重用。
粟裕認為，由張鼎丞擔任華中軍區司令員，更有利於工作和團結，因此向華中局建議，改任自己為副職，張鼎丞為正職。
在華中局未同意的情況下，粟裕直接致電中共中央，陳述自己這一建議和理由。
劉少奇接到電報後，認為粟裕擔任正職是適當的，也依然堅持原來的決定。
10月27日，華中局根據劉少奇的批複，再次宣布華中軍區“以粟裕為司令，張鼎丞為副司令”。
在執行劉少奇代表中共中央做出的“向北發展，向南防禦”的戰略決策過程中，華中局和陳毅提出新四軍除三師全部調往東北以外，其餘都部分抽調去山東或東北。這樣，不管是調往山東、東北的部隊，還是留在華中的部隊，都將打破各部原有的完整建制。
粟裕認為，這不利於部隊的建設和作戰，而應儘可能保留主力部隊的原有建制，以保持傳統的作風和戰鬥力。
因此，他多次向陳毅和華東局(華中局改稱)建議，但沒有得到同意。粟裕再次直接向中共中央陳述自己的意見。
劉少奇出於對粟裕的信任，從諫如流，支持粟裕的意見，他為中共中央起草回電說，“其(粟裕)提議是有理由的”，“各師建制應儘可能不分割”①。
1948年5月，毛澤東調離陳毅，讓粟裕接任其職，擔任華東野戰軍司令員兼政委(粟裕堅持謙讓後，改任代司令員兼代政委)。這一決策的運籌過程，除了戰局需要與毛澤東的信任外，劉少奇的及時建言，也起了很大的作用。
《一個老兵心目中的陳毅元帥》與《傳檄到中原》兩書，曾披露陳毅突然被調離華野的真實原因：“中央有人說：‘陳毅在山東，很多有能力的幹部他沒有充分用起來，很多事情他攬在自己一個人身上，結果這些事情沒有做好。’而這人和饒漱石的關係密切。”
這個人是指劉少奇。
饒漱石早年在東北期間，就在劉少奇領導下工作，深受其信任。劉少奇曾在華中局會議上說：“饒漱石同志是毛澤東同志的優秀學生!是一個成熟的革命者。”
因此，他離開新四軍前，鄭重向毛澤東推薦饒漱石接替自己的職務，使之成為華中局與新四軍的一把手。饒漱石也由此成為華中以致後來華東戰略區與東北高崗、西南鄧小平、西北彭德懷、中南林彪同列的人物。
儘管饒漱石很不地道，後來翻臉不認人，妄圖拱倒有知遇之恩的劉少奇，但他們曾經關係密切，也是不爭的事實。
中共建政後，劉少奇雖然短時間兼任過軍委副主席，但主要工作在地方，不分管軍隊的具體事務，不久又相繼擔任全國人大常委會委員長、中共中央副主席、國家主席，因此與從未脫下軍裝的粟裕交往不多，但他並未忘記這位老部下。
1955年全軍授銜，在粟裕早已提出辭帥並獲毛澤東批准後的9月9日，負責決定元帥人選的中共中央書記處(即後來的中央政治局常委，成員為毛澤東、 劉少奇、周恩來、朱德、)召開會議，有關元帥軍銜授予問題成為議題之一。兩天後的晚上，中央書記處又召開會議，再次專門討論元帥軍銜授予問題。
會上，劉少奇提出對陳毅授銜元帥的異議。
此前的1954年9月，陳毅被任命國務院副總理，分工為常務副總理，兼管科學院、政法、文化，並“準備做外交工作”。1955年5月，國務院再次分 工，確定陳毅分管第一、第二辦公室、民族事務和科學、衛生工作。按周恩來、劉少奇、鄧小平因工作重心在地方而不授銜的標準，陳毅顯然也可以不授銜。
而如果陳毅不授銜，那麼南方紅軍游擊隊、新四軍以及華東野戰軍(三野)必然要有一位其他代表授銜元帥，時任解放軍總參謀長的粟裕將再次成為當然人選。
顯然，劉少奇在給粟裕爭取授銜元帥的最後機會。
但這兩次元帥人選最後確定的會議，中央書記處五大書記之一的周恩來均因正在北戴河療養而未參加，當中央書記處委託中央辦公廳主任徵求他的意見時，周恩來主張給陳毅授元帥銜。
據《周恩來年譜》記載：“1955年9月11日，周(恩來)致函，主張給陳毅授帥，認為給陳(毅)授帥，對陳(毅)現在和將來的工作都沒什麼影響。”
因為周恩來的堅持，劉少奇的異議未被書記處通過，粟裕也因此與軍人的最高榮譽——元帥軍銜再次失之交臂。
1959年廬山會議上，一年前批判粟裕的彭德懷被打倒。他曾向毛澤東施加影響，說粟裕“裡通外國”，引起毛澤東的震怒，不久就解除了粟裕的總參謀長一職。
不想才過一年，“裡通外國”的帽子被如法炮製，也扣到了“始作俑者”彭德懷頭上。毛澤東生氣地說：“其他一切都好談，裡通外國就難辦了。”與上一年對粟裕的震怒如出一轍。
1969年11月，劉少奇這個被毛澤東培養了二十餘年的接班人，沒能等上“接班”的風光日子，在飽受迫害中悲慘地辭世，粟裕也失去了一位伯樂。