Unsupervised क्लस्टरिंग एल्गोरिदम

क्लस्टरिंग क्या है?

क्लस्टरिंग कुछ समानता मानदंडों के आधार पर विभिन्न समूहों के तहत टिप्पणियों के एक सेट को इकट्ठा करने की प्रक्रिया है। मशीन लर्निंग में क्लस्टरिंग बहुत आवश्यक है क्योंकि यह हमारे डेटा सेट को वर्गीकृत करने में मदद करता है और किसी भी प्रकार के डेटा की लेबलिंग की मदद के बिना हमारे डेटा को अच्छी तरह से समझने में हमारी मदद करता है। ये एल्गोरिदम सुविधा सेट में अंतर्निहित पैटर्न की पहचान करके ऐसा करते हैं। हालांकि, अलग-अलग एल्गोरिदम डेटा बिंदुओं को क्लस्टर करने की दिशा में अलग-अलग दृष्टिकोण लेते हैं। सबसे आम और व्यापक रूप से उपयोग किए जाने वाले क्लस्टरिंग एल्गोरिथ्म के-मीन्स क्लस्टरिंग है। लेकिन एल्गोरिदम के बारे में विस्तार से चर्चा करते हुए, मैं आपको उस विधि से परिचित कराता हूं जिसके द्वारा हम टिप्पणियों के बीच समानता को मापते हैं

समानता मानदंड

डेटा सेट में टिप्पणियों के बीच समानता आमतौर पर दूरी मैट्रिक्स द्वारा की जाती है। मैनहट्टन, यूक्लिडियन और मिंकोव्स्की दूरी, तीन प्रसिद्ध और व्यापक रूप से इस्तेमाल की जाने वाली दूरी मीट्रिक हैं।

यदि (X1, x2,…, xn) और (y1, y2,…, yn) दो दिए गए डेटा बिंदु / अवलोकन हैं:

मैनहट्टन दूरी:

यूक्लिडियन दूरी :

Minkowski आदर्श के क्रम के साथ दूरी = p:

छोटी दूरी मीट्रिक का मान होती है, उच्चतर दो अवलोकनों के बीच समानता होती है।

K- मीन्स क्लस्टरिंग

एल्गोरिथम के पीछे का विचार K क्लस्टर सेंट्रोइड के साथ K समूहों में से किसी एक को सभी बिंदुओं को समूहित करना है। संपूर्ण क्लस्टरिंग एल्गोरिथ्म एक्सपेक्टेशन-मैक्सिमाइजेशन की अवधारणा पर आधारित है।

एल्गोरिथ्म में शामिल कदम:

1. बेतरतीब ढंग से k क्लस्टर केंद्रों / केंद्रों को प्रारंभ करें
2. ई-चरण: क्लस्टर सेंट्रोइड में से प्रत्येक से सभी टिप्पणियों की दूरी की गणना करें और उन टिप्पणियों को क्लस्टर पर असाइन करें जिनमें विशेष अवलोकन की न्यूनतम दूरी है।
3. M- चरण: किसी क्लस्टर में सभी अवलोकनों के माध्य / माध्यिका की गणना करें और क्लस्टर सेंट्रोइड को माध्य / माध्य मान पर पुन: असाइन करें
4. चरण 2 और 3 को तब तक दोहराएं जब तक कि किसी वैकल्पिक क्लस्टर के लिए टिप्पणियों का पुन: असाइनमेंट न हो

इस एल्गोरिथ्म का एक अन्य डाउन-साइड यह है कि यह गोलाकार समूहों को बनाता है और गैर-गोलाकार संरचनाओं के साथ समूहों के समूह के लिए उपयुक्त नहीं है। इन मुद्दों को संबोधित करने के लिए, हमारे पास अन्य क्लस्टरिंग एल्गोरिदम हैं जिन्हें पदानुक्रमित क्लस्टरिंग एल्गोरिदम के रूप में जाना जाता है।

पदानुक्रमित क्लस्टरिंग

ये क्लस्टरिंग एल्गोरिदम पदानुक्रम की अवधारणा पर आधारित हैं। यह अनलिस्टेड डेटा में एक पदानुक्रमित पैटर्न खोजने की कोशिश करता है। दो प्रकार के पदानुक्रम क्लस्टरिंग हैं:

1. एग्लोमेरेटिव क्लस्टरिंग: यह एल्गोरिथ्म एक नीचे तक पहुंचता है और प्रत्येक अवलोकन को एक अद्वितीय क्लस्टर से संबंधित डेटा सेट में लेता है और तब एल्गोरिथ्म उपयुक्त संख्या में क्लस्टर तक कुछ समानता मानदंडों के आधार पर उन्हें क्लब करने की कोशिश करता है।
2. विभाजक क्लस्टरिंग: यह एल्गोरिथ्म एक शीर्ष डाउन अप्रोच लेता है जिसमें सभी अवलोकनों को एक क्लस्टर के रूप में माना जाता है और फिर समूहों को सबसे अधिक भिन्न समूहों / टिप्पणियों के आधार पर विभाजित किया जाता है।

एक मैट्रिक्स जो प्रत्येक बिंदुओं के बीच की दूरी को संग्रहीत करता है। दूरी किसी भी दूरी मीट्रिक पर आधारित हो सकती है। यदि हम अपने डेटा सेट में n अवलोकन करते हैं, तो निकटता मैट्रिक्स आकार nxn है, जिसमें विकर्ण तत्व 0 के बराबर है।

Agglomerative Hierarchical क्लस्टरिंग में शामिल कदम:

1. प्रत्येक अवलोकन एक अद्वितीय क्लस्टर को सौंपा गया है
2. हम निकटता मैट्रिक्स में दो बिंदुओं / समूहों के बीच की सबसे छोटी दूरी की तलाश करते हैं और उनके बीच न्यूनतम दूरी वाले बिंदुओं / समूहों को क्लब करते हैं और तदनुसार निकटता मैट्रिक्स को अपडेट करते हैं। दूरी की गणना विभिन्न प्रकार के किसी भी एक, अर्थात् एकल, पूर्ण, औसत लिंकेज के आधार पर की जा सकती है।
3. उपरोक्त चरण को तब तक दोहराएं जब तक हमें एक क्लस्टर न मिल जाए।

• एकल-लिंकेज : इस लिंकेज विधि में, दो समूहों के बीच की दूरी को विपरीत समूहों के किसी भी दो बिंदुओं के बीच कम से कम संभव दूरी के रूप में परिभाषित किया गया है। जब हम डेटा में गैर-गोलाकार क्लस्टरिंग पैटर्न खोजने की कोशिश करते हैं, तो सिंगल लिंकेज क्लस्टरिंग का उपयोग करना सबसे अच्छा होता है
• पूर्ण-लिंकेज : इस लिंकेज विधि में, दो समूहों के बीच की दूरी को विपरीत समूहों के किसी भी दो बिंदुओं के बीच सबसे लंबी दूरी के रूप में परिभाषित किया जाता है। पूर्ण लिंक दो समूहों के बीच डेटा में मौजूद संभावित शोर के लिए मजबूत हैं।
• औसत-लिंकेज : इस लिंकेज विधि में दो क्लस्टर के बीच की दूरी को एक क्लस्टर में प्रत्येक बिंदु और दूसरे क्लस्टर में प्रत्येक बिंदु के बीच गणना की गई सभी दूरी के औसत के रूप में परिभाषित किया गया है। औसत लिंकेज डेटा में संभावित शोर को मजबूत करने के लिए है।

एक डेंड्रोग्राम पदानुक्रमित क्लस्टरिंग के परिणामस्वरूप गठित पदानुक्रमित पेड़ का एक चित्रमय प्रतिनिधित्व है। यह एल्गोरिथ्म के विभिन्न चरणों में गठित समूहों का उपयुक्त रूप से प्रतिनिधित्व करता है। यह पिंट के बारे में एक मोटा विचार देता है जिस पर हमें सही संख्या में क्लस्टर प्राप्त करने के लिए एल्गोरिथ्म को समाप्त करने की आवश्यकता होती है।

पदानुक्रमित क्लस्टरिंग के लाभ

1. K- साधन क्लस्टरिंग के विपरीत, श्रेणीबद्ध क्लस्टरिंग इनपुट के रूप में क्लस्टर की संख्या नहीं लेती है। टी एल्गोरिथ्म डेटा में क्लस्टर की सही संख्या को पहचानने के लिए पर्याप्त स्मार्ट है।
2. K- साधन क्लस्टरिंग के विपरीत, यह एल्गोरिथ्म गोलाकार के अलावा डेटा में गैर-गोलाकार क्लस्टरिंग पैटर्न पा सकता है।