स्वतन्त्र भारत के पहले तीन वर्ष सरदार पटेल उप-प्रधानमन्त्री, गृह मन्त्री, सूचना मन्त्री और राज्य मन्त्री रहे। इस सबसे भी बढ़कर  उनकी ख्याति भारत के रजवाड़ों को शान्तिपूर्ण तरीके से भारतीय संघ में शामिल करने तथा भारत के राजनीतिक एकीकरण के कारण है। 5 जुलाई, 1947 को सरदार पटेल ने रियासतों के प्रति नीति को स्पष्ट करते हुए कहा कि- “धीरे-धीरे बहुत-सी देशी रियासतों के शासक भोपाल के नवाब से अलग हो गये और इस तरह नवस्थापित रियासती विभाग की योजना को सफलता मिली। भारत के तत्कालीन गृहमन्त्री सरदार वल्लभ भाई पटेल ने भारतीय संघ में उन रियासतों का विलय किया, जो स्वयं में सम्प्रभुता प्राप्त थीं। उनका अलग झंडा और अलग शासक था।

सरदार पटेल ने आज़ादी के ठीक पूर्व (संक्रमण काल में) ही पी.वी.मेनन के साथ मिलकर कई देशी राज्यों को भारत में मिलाने के लिए कार्य आरम्भ कर दिया था। पटेल और मेनन ने देशी राजाओं को बहुत समझाया कि उन्हें स्वायत्तता देना सम्भव नहीं होगा। इसके परिणामस्वरूप तीन रियासतें- हैदराबाद, कश्मीर और जूनागढ़ को छोड़कर शेष सभी राजवाड़ों ने स्वेच्छा से भारत में विलय का प्रस्ताव स्वीकार कर लिया। 15 अगस्त, 1947 तक हैदराबाद, कश्मीर और जूनागढ़ को छोड़कर शेष भारतीय रियासतें ‘भारत संघ’ में सम्मिलित हो चुकी थीं, जो भारतीय इतिहास की एक बड़ी उपलब्धि थी। जूनागढ़ के नवाब के विरुद्ध जब बहुत विरोध हुआ तो वह भागकर पाकिस्तान चला गया और इस प्रकार जूनागढ़ भी भारत में मिला लिया गया।

जब हैदराबाद के निजाम ने भारत में विलय का प्रस्ताव अस्वीकार कर दिया तो सरदार पटेल ने वहाँ सेना भेजकर निजाम का आत्मसमर्पण करा लिया। भारतीय राष्ट्रीय आन्दोलन को वैचारिक एवं क्रियात्मक रूप में एक नई दिशा देने के कारण सरदार पटेल ने राजनीतिक इतिहास में एक गौरवपूर्ण स्थान प्राप्त किया। वास्तव में वे आधुनिक भारत के शिल्पी थे। उनके कठोर व्यक्तित्व में विस्मार्क जैसी संगठन कुशलता, कौटिल्य जैसी राजनीति सत्ता तथा राष्ट्रीय एकता के प्रति अब्राहम लिंकन जैसी अटूट निष्ठा थी। जिस अदम्य उत्साह असीम शक्ति से उन्होंने नवजात गणराज्य की प्रारम्भिक कठिनाइयों का समाधान किया, उसके कारण विश्व के राजनीतिक मानचित्र में उन्होंने अमिट स्थान बना लिया। भारत के राजनीतिक इतिहास में सरदार पटेल के योगदान को कभी भुलाया नहीं जा सकता। सरदार पटेल के ऐतिहासिक कार्यों और किये गये राजनीतिक योगदान निम्नवत् हैंद्वीपसमूह भारत के साथ मिलाने में भी पटेल की महत्त्वपूर्ण भूमिका थी।

इस क्षेत्र के लोग देश की मुख्यधारा से कटे हुए थे और उन्हें भारत की आजादी की जानकारी 15 अगस्त, 1947 के कई दिनों बाद मिली। हालांकि यह क्षेत्र पाकिस्तान के नजदीक नहीं था, लेकिन पटेल को लगता था कि इस पर पाकिस्तान दावा कर सकता है। इसलिए ऐसी किसी भी स्थिति को टालने के लिए पटेल ने लक्षद्वीप में राष्ट्रीय ध्वज फहराने के लिए भारतीय नौसेना का एक जहाज भेजा। इसके कुछ घंटे बाद ही पाकिस्तान नौसेना के जहाज लक्षद्वीप के पास मंडराते देखे गए, लेकिन वहाँ भारत का झंडा लहराते देख उन्हें वापिस कराची लौटना पड़ा।