भगवान शिव के किसी भी मंदिर में शिवलिंग के आसपास एक नंदी बैल जरूर होता है क्योंो नंदी के बिना शिवलिंग को अधूरा माना जाता है। इस बारे में पुराणों की एक कथा में कहा गया है शिलाद नाम के ऋषि थे जिन्होंशने लम्बेी समय तक शिव की तपस्या की थी। जिसके बाद भगवान शिव ने उनकी तपस्यात से खुश होकर शिलाद को नंदी के रूप में पुत्र दिया था।शिलाद ऋषि एक आश्रम में रहते थे। उनका पुत्र भी उन्हींं के आश्रम में ज्ञान प्राप्तर करता था। एक समय की बात है शिलाद ऋषि के आश्रम में मित्र और वरुण नामक दो संत आए थे। जिनकी सेवा का जिम्माा शिलाद ऋषि ने अपने पुत्र नंदी को सौंपा। नंदी ने पूरी श्रद्धा से दोनों संतों की सेवा की। संत जब आश्रम से जाने लगे तो उन्होंरने शिलाद ऋषि को दीर्घायु होने का आर्शिवाद दिया पर नंदी को नहीं।
इस बात से शिलाद ऋषि परेशान हो गए। अपनी परेशानी को उन्होंिने संतों के आगे रखने की सोची और संतों से बात का कारण पूछा। तब संत पहले तो सोच में पड़ गए। पर थोड़ी देर बाद उन्होंलने कहा, नंदी अल्पायु है। यह सुनकर मानों शिलाद ऋषि के पैरों तले जमीन खिसक गई। शिलाद ऋषि काफी परेशान रहने लगे।
एक दिन पिता की चिंता को देखते हुए नंदी ने उनसे पूछा, ‘क्या बात है, आप इतना परेशान क्योंे हैं पिताजी।’ शिलाद ऋषि ने कहा संतों ने कहा है कि तुम अल्पायु हो। इसीलिए मेरा मन बहुत चिंतित है। नंदी ने जब पिता की परेशानी का कारण सुना तो वह बहुत जोर से हंसने लगा और बोला, ‘भगवान शिव ने मुझे आपको दिया है। ऐसे में मेरी रक्षा करना भी उनकी ही जिम्मेलदारी है, इसलिए आप परेशान न हों।’
नंदी पिता को शांत करके भगवान शिव की तपस्या करने लगे। दिनरात तप करने के बाद नंदी को भगवान शिव ने दर्शन दिए। शिवजी ने कहा, ‘क्या  इच्छा् है तुम्हावरी वत्स’. नंदी ने कहा, मैं ताउम्र सिर्फ आपके सानिध्य में ही रहना चाहता हूं। नंदी से खुश होकर शिवजी ने नंदी को गले लगा लिया। शिवजी ने नंदी को बैल का चेहरा दिया और उन्हें अपने वाहन, अपना मित्र, अपने गणों में सबसे उत्ताम रूप में स्वीकार कर लिया।इसके बाद ही शिवजी के मंदिर के बाद से नंदी के बैल रूप को स्था पित किया जाने लगा।