Ziroh Labs Builds Kompact AI to Run Heavy AI Models on Low End Laptops and PC

AI की दुनिया में जहां हर कोई NVIDIA जैसे भारी-भरकम GPUs पर निर्भर है, वहीं एक भारतीय स्टार्टअप Ziroh Labs ने कुछ अलग ही रास्ता चुना है। कंपनी ने Kompact AI नाम की एक टेक्नोलॉजी डेवलप की है, जो बड़े-बड़े AI मॉडल्स को सिर्फ CPU पर चलाने में सक्षम है, यानी अब हाई-एंड ग्राफिक्स कार्ड की जरूरत नहीं।

ब्लूमबर्ग की रिपोर्ट के मुताबिक, इस प्रोजेक्ट में Ziroh Labs को IIT मद्रास का टेक्निकल सपोर्ट मिला है। दोनों मिलकर ये दिखाना चाहते हैं कि AI सिर्फ अमीर रिसोर्स वाले डेटा सेंटर का खेल नहीं है, बल्कि एक मिड-रेंज लैपटॉप में भी LLMs जैसे Meta का LLaMA 2 या Alibaba का Qwen2.5 आसानी से रन हो सकता है।

कंपनी ने हाल ही में एक डेमो भी दिखाया जिसमें Intel Xeon प्रोसेसर वाले लैपटॉप पर ये मॉडल्स स्मूदली चलते हुए नजर आए। न कोई GPU, न कोई क्लाउड कॉस्ट, सिर्फ लोकल कंप्यूटिंग। Ziroh Labs का कहना है कि Kompact AI उन इंडिविजुअल डेवलपर्स, कॉलेज प्रोजेक्ट्स और छोटे स्टार्टअप्स के लिए गेमचेंजर साबित हो सकता है जो अभी तक हार्डवेयर की लिमिटेशन के चलते बड़े मॉडल्स से दूर थे।

Kompact AI फिलहाल एक प्राइवेट टेस्टिंग फेज में है, लेकिन कंपनी ने साफ किया है कि इसका मकसद ओपन-सोर्स स्टाइल में ज्यादा से जयादा डेवलपर्स को AI एक्सप्लोर करने का मौका देना है, बिना इस डर के कि उनके पास GPU नहीं है।

Ziroh Labs का ये मूव ऐसे वक्त पर आया है जब दुनियाभर में GPU की शॉर्टेज और कीमतें दोनों बढ़ रही हैं। ऐसे में अगर कोई सिस्टम सिर्फ CPU के दम पर बड़े मॉडल रन कर सकता है, तो ये सिर्फ इंडिया के लिए ही नहीं, बल्कि पूरी AI इंडस्ट्री के लिए एक रूट-ब्रेकिंग सॉल्यूशन बन सकता है। अब देखना ये होगा कि Kompact AI को कितना स्केलेबल और डेवलपर-फ्रेंडली बनाया जा सकता है।