सरदार ने अपना गुरू श्री गांधी जी को माना था, उन्होंने अपना सर्वस्व उनको समर्पित किया था। गांधी जी का उदय हिन्दुस्थान में अंग्रेजों के खिलाफ जनसंघर्ष के लिए हो चुका था। 1918 तक सरदार श्री गांधी से प्रभावित नहीं हुए थे। चंपारण सत्याग्रह के दौरान अदालत में गांधी जी के दिये हुये निवेदन के बाद ही गांधीजी के बारे में सरदार के मन में प्रभाव आया बाद में करीब 30 साल तक वे गांधी जी का ही आदेश मानते रहे। ऐसा नहीं ि क वे अनेक मुद्दों पर गांधी जी से अपनी अलग राय राय रखकर मतभिन्नता प्रकट कर चुके थे। खिलाफत आंदोलन, राजकोट की वीरावाला की लड़ाई, अंतरिम सरकार में कांग्रेस का शामिल होना व जिन्ना का जहर उगलने वाला मार्ग आदि ऐसे अनेक विषय थे जिसमें उनकी अपनी सोच थी।
सोमनाथ मंदिर का पुननिर्माण
जूनागढ़ के कारोबार की समुचित व्यवस्था करके सरदार पटेल सोमनाथ गए। सोमनाथ के सागरतट पर प्राचीन एवं ऐतिहासिक ज्योर्तिलिंग को जीर्ण शीर्ण अवस्था में देखकर उसके सम्मुख नतमस्तक खड़े होकर बोले, ’’जाम साहब ! (जामनगर के राजा) इस मंदिर का जीर्णोद्धार करना हम सबका का प्रथम कर्तव्य है। मंदिर के नवनिर्माण के लिए न्यास का गठन कीजिए उसके लिए जरूरी पूंजी हम एकत्रित करेंगे।
सरदार जब दिल्ली वापस लौटे तो भारत के उपप्रधानमंत्री एक पंथ विशेष के धर्मस्थल के निर्माण कार्य के साथ जुड़ गए यह बात प्रधानमंत्री श्री नेहरू को पसंद नहीं आयी। उन्होंने सरदार को कहा सरकार का मंत्री यदि इस प्रकार किसी धर्म के मंदिर की नवनिर्मिती के साथ जुड़ जाये तो ठीक नहीं तो सरदार ने कहा कि इस नवनिर्माण में सरकारी तिजोरी में से एक रूपया भी उपयोग में नहीं लिया जायगा।