मैंने घर पर सेल्फ-होस्टिंग एआई क्यों शुरू की?
इस लेख का अंग्रेजी से मशीन द्वारा अनुवाद किया गया है। मूल लेख पढ़ें

इस पृष्ठ पर
परिचय#
पिछले दो वर्षों में, एआई चुपचाप मेरे रोजमर्रा के कार्यप्रवाह का हिस्सा बन गया।
कोड लिखना। प्रोजेक्ट्स में मौजूद कमियों को दूर करना। दस्तावेज़ों का सारांश तैयार करना। नए विचार उत्पन्न करना। नई तकनीकों को सीखना। यहां तक कि छोटे-छोटे दैनिक कार्य भी धीरे-धीरे क्लाउड में चल रहे एआई टूल्स पर निर्भर होने लगे।
और कुछ देर बाद, मैंने एक अजीब बात देखी:
एआई के साथ मेरी लगभग हर बातचीत किसी और के बुनियादी ढांचे पर निर्भर थी।
मैंने जो भी प्रॉम्प्ट लिखा, कोड का जो भी टुकड़ा पेस्ट किया, जिस भी विचार के साथ प्रयोग किया - वह सब उन कंपनियों के स्वामित्व वाले दूरस्थ सर्वरों पर संसाधित हो रहा था जिन पर मेरा कोई नियंत्रण नहीं था।
शुरू में तो यह सामान्य लगा।
आधुनिक सॉफ्टवेयर इसी तरह काम करता है। हम दूसरों के सर्वरों से संगीत स्ट्रीम करते हैं। फाइलों को दूसरों के क्लाउड में स्टोर करते हैं। उन प्लेटफॉर्मों से कंप्यूटिंग पावर किराए पर लेते हैं जिन्हें हम कभी भौतिक रूप से नहीं देखते। एआई हमें उसी सिस्टम की अगली परत जैसा लगा।
लेकिन जैसे-जैसे मैं इन उपकरणों पर अधिक निर्भर होता गया, यह विचार उतना ही असहज होता गया।
क्योंकि एआई अब सिर्फ एक और ऐप नहीं रह गया था।
यह एक चिंतन उपकरण बनता जा रहा था।
कुछ ऐसा जिसका उपयोग मैंने समस्याओं को हल करते समय किया। कुछ ऐसा जिसके साथ मैंने सीखते समय संवाद किया। कुछ ऐसा जो धीरे-धीरे मेरे दैनिक कार्य करने के तरीके का अभिन्न अंग बन गया।
और इससे मेरे मन में एक बड़ा सवाल खड़ा हो गया:
क्या होगा जब बुद्धिमत्ता स्वयं एक सदस्यता सेवा बन जाएगी?
न सॉफ्टवेयर, न स्टोरेज, न मनोरंजन।
बुद्धिमत्ता।
क्या होता है जब आपकी तेजी से सोचने, काम को स्वचालित करने, विचारों पर मंथन करने, कोड लिखने या नए कौशल सीखने की क्षमता पूरी तरह से किसी और के सर्वर तक पहुंच पर निर्भर करती है?
वह विचार मेरी अपेक्षा से अधिक समय तक मेरे मन में बना रहा।
उसी समय, मैंने इंटरनेट पर एक और बदलाव होते हुए देखना शुरू किया।
अधिक से अधिक डेवलपर पूरी तरह से क्लाउड पर निर्भर सेटअप से दूर जाने लगे थे। लोग फिर से होमलैब बना रहे थे। मीडिया सर्वर को स्वयं होस्ट कर रहे थे। निजी क्लाउड स्टोरेज चला रहे थे। अपने स्वयं के पासवर्ड मैनेजर होस्ट कर रहे थे। सब कुछ किराए पर लेने के बजाय अपने बुनियादी ढांचे का अधिक स्वामित्व अपने पास रख रहे थे।
और धीरे-धीरे, एआई भी उस चर्चा में शामिल होने लगा।
पहली बार, शक्तिशाली भाषा मॉडल को स्थानीय स्तर पर चलाना व्यावहारिक होता जा रहा था।
ओपन-सोर्स मॉडल अविश्वसनीय रूप से तेज़ी से बेहतर हो रहे थे। उपभोक्ता जीपीयू अनुमान लगाने के लिए पर्याप्त सक्षम होते जा रहे थे। ओलामा जैसे टूल ने स्थानीय मॉडल परिनियोजन को नाटकीय रूप से सरल बना दिया। और अचानक, घर पर एआई चलाने का विचार अब प्रयोगात्मक नहीं रह गया था।
यह होना ही था।
उस जिज्ञासा ने मुझे सेल्फ-होस्टेड एआई की दुनिया में और गहराई तक धकेल दिया।
शुरुआत में यह एक साधारण प्रयोग के रूप में शुरू हुआ था।
मैं यह देखना चाहता था कि क्या स्थानीय मॉडल वास्तव में YouTube डेमो और बेंचमार्क चार्ट के बाहर भी उपयोग करने योग्य हैं। मुझे धीमी प्रतिक्रियाओं, खराब तर्क क्षमता और एक निराशाजनक सेटअप प्रक्रिया की उम्मीद थी जो अंततः मुझे क्लाउड API पर वापस जाने के लिए मजबूर कर देगी।
इसके बजाय, मुझे कुछ बिल्कुल अलग मिला।
कुछ ही घंटों के भीतर, मेरे अपने हार्डवेयर पर एक स्थानीय भाषा मॉडल सीधे चलने लगा।
कोई एपीआई कुंजी नहीं। उपयोग ट्रैकिंग नहीं। इंटरनेट पर निर्भरता नहीं। रिमोट इन्फरेंस के लिए प्रतीक्षा नहीं। उपयोग के साथ धीरे-धीरे बढ़ने वाली मासिक सदस्यता नहीं।
मेरी अपनी मशीन ही स्थानीय स्तर पर वास्तविक समय में प्रतिक्रियाएँ उत्पन्न कर रही है।
और सच कहूं तो, वह क्षण क्लाउड एआई का उपयोग करने से आश्चर्यजनक रूप से अलग महसूस हुआ।
ऐसा इसलिए नहीं था कि मॉडल जादुई रूप से बेहतर था।
लेकिन क्योंकि प्रौद्योगिकी के साथ संबंध अलग तरह का महसूस हुआ।
एआई अब कोई सेवा नहीं रह गई थी। यह "कहीं होस्ट की गई" नहीं थी। यह उधार ली गई बुद्धिमत्ता नहीं थी जिसे किसी अकाउंट डैशबोर्ड के माध्यम से एक्सेस किया जा सके।
यह बुनियादी ढांचे जैसा प्रतीत हुआ।
कोई ऐसी चीज़ जिस पर मेरा मालिकाना हक था। कोई ऐसी चीज़ जिस पर मेरा नियंत्रण था। कोई ऐसी चीज़ जो डॉकर कंटेनर, रिवर्स प्रॉक्सी, मीडिया सर्वर और स्टोरेज सिस्टम के साथ मेरे अपने सर्वर स्टैक के हिस्से के रूप में मौजूद थी।
उस अहसास ने एआई के प्रति मेरे दृष्टिकोण को पूरी तरह से बदल दिया।
जिज्ञासा के रूप में शुरू हुआ यह काम जल्दी ही मेरे द्वारा अब तक किए गए सबसे दिलचस्प बुनियादी ढांचा परियोजनाओं में से एक में बदल गया।
क्योंकि कहीं न कहीं, मेरा homelab सिर्फ ऐप्स और मीडिया के लिए एक सर्वर रैक होने से आगे बढ़ गया।
यह एक व्यक्तिगत एआई वातावरण में परिवर्तित होने लगा।
स्थानीय एआई की ओर बदलाव#
लंबे समय तक, स्थानीय स्तर पर बड़े भाषा मॉडल चलाना अवास्तविक लगता था।
एआई दूर की चीज़ लगती थी। औद्योगिक। महंगी।
जब भी लोग उन्नत एआई प्रणालियों के बारे में बात करते थे, तो चर्चा लगभग हमेशा विशाल डेटासेंटर, एंटरप्राइज़ जीपीयू और असीमित कंप्यूटिंग बजट वाली कंपनियों के इर्द-गिर्द घूमती थी। प्रशिक्षण के लिए ही ऐसे बुनियादी ढांचे की आवश्यकता होती थी जिसे अधिकांश लोग व्यक्तिगत रूप से कभी देख भी नहीं पाते थे, स्वामित्व की तो बात ही छोड़ दें।
यहां तक कि अनुमान लगाना—यानी इन मॉडलों को चलाना —भी आम डेवलपर्स के लिए दुर्गम प्रतीत होता था।
धारणा सरल थी:
शक्तिशाली एआई बड़ी तकनीकी कंपनियों की संपत्ति है।
और सच कहें तो, कुछ समय के लिए यह बात सच भी थी।
आधुनिक कृत्रिम बुद्धिमत्ता की प्रारंभिक लहर अत्यधिक केंद्रीकृत प्रतीत होती थी। जानकारी तक पहुंच एपीआई, सब्सक्रिप्शन और क्लाउड प्लेटफॉर्म के माध्यम से होती थी। बेहतर मॉडल के लिए आपको अधिक भुगतान करना पड़ता था। व्यापक उपयोग के लिए आपको किसी और के बुनियादी ढांचे पर निर्भर रहना पड़ता था।
लेकिन पिछले कुछ वर्षों में, कुछ चीजें अविश्वसनीय रूप से तेजी से बदल गईं।
ओपन-सोर्स मॉडल में अप्रत्याशित गति से सुधार हुआ।
जो प्रायोगिक सामुदायिक परियोजनाओं के रूप में शुरू हुआ था, वह धीरे-धीरे वास्तव में सक्षम मॉडलों में विकसित हो गया जो निम्नलिखित कार्य कर सकते थे:
- उपयोगी कोड लिखें
- दस्तावेज़ों का सारांश प्रस्तुत करें
- तकनीकी समस्याओं का तर्कपूर्वक समाधान करें
- स्क्रिप्टिंग में सहायता
- अनुसंधान में सहायता करें
- आश्चर्यजनक रूप से सुसंगत बातचीत करते हैं
और उनमें मामूली सुधार नहीं हो रहा था।
हर कुछ महीनों में, स्थानीय मॉडलों और क्लाउड-होस्टेड सिस्टमों के बीच का अंतर धीरे-धीरे कम होता चला गया।
साथ ही, उपभोक्ता हार्डवेयर चुपचाप अधिकांश लोगों की अपेक्षा कहीं अधिक सक्षम हो गया।
आधुनिक जीपीयू - विशेष रूप से सामान्य डेस्कटॉप कंप्यूटरों में मौजूद गेमिंग जीपीयू - अचानक इतने शक्तिशाली हो गए कि वे क्वांटाइज्ड भाषा मॉडल को स्थानीय रूप से उपयोगी गति से चला सकें।
गेमिंग या वीडियो एडिटिंग के लिए लोग जो हार्डवेयर खरीदते थे, अब वही हार्डवेयर घर पर ही सीधे एआई मॉडल चलाने में सक्षम था।
वह बदलाव महत्वपूर्ण लगा।
क्योंकि पहली बार, स्थानीय एआई सैद्धांतिक प्रतीत होना बंद हो गया था।
यह व्यावहारिक हो गया।
और फिर ओलामा जैसे उपकरण सामने आए और उन्होंने और भी अधिक बाधाओं को दूर कर दिया।
ओलामा से पहले, स्थानीय एआई अक्सर डरावना लगता था:
- निर्भरताओं का संकलन
- रनटाइम को मैन्युअल रूप से कॉन्फ़िगर करना
- CUDA समस्याओं से निपटना
- मॉडल फ़ाइलों की खोज
- अनुमान फ्रेमवर्क स्थापित करना
यह एक शोध परियोजना जैसा प्रतीत हुआ।
ओलामा ने उस अनुभव को पूरी तरह से बदल दिया।
अचानक, स्थानीय मॉडल को चलाने का तरीका कुछ इस तरह दिखने लगा:
ollama run llama3बस इतना ही था।
एक आदेश।
कुछ मिनट बाद, एक पूर्ण भाषा मॉडल आपके अपने कंप्यूटर पर स्थानीय रूप से चलने लगा।
लोगों की सोच से कहीं अधिक उस सादगी का महत्व था।
क्योंकि प्रौद्योगिकी तभी मुख्यधारा बनती है जब उसके प्रवेश में आने वाली बाधाएं दूर हो जाती हैं।
और स्थानीय एआई के साथ भी ठीक यही हुआ।
लगभग उसी समय, मैंने डेवलपर संस्कृति में कुछ और भी होते हुए देखा।
अधिक लोग सेल्फ-होस्टिंग की ओर लौट रहे थे।
इसलिए नहीं कि यह सस्ता था। इसलिए भी नहीं कि यह आसान था।
लेकिन क्योंकि स्वामित्व का महत्व फिर से बढ़ने लगा।
डेवलपर्स ने निर्माण शुरू किया:
- होमलैब्स
- निजी क्लाउड स्टोरेज
- मीडिया सर्वर
- स्मार्ट होम सिस्टम
- पासवर्ड प्रबंधक
- व्यक्तिगत वीपीएन
- स्व-होस्टेड डेवलपर इन्फ्रास्ट्रक्चर
हम जिन प्रणालियों पर दैनिक रूप से निर्भर रहते हैं, उन पर अधिक नियंत्रण रखने की इच्छा बढ़ती जा रही थी।
और अंततः, एआई भी उस आंदोलन का हिस्सा बन गया।
सच कहूं तो, यह बदलाव आश्चर्यजनक रूप से स्वाभाविक लगा।
कुछ साल पहले लोग गर्व से दिखावा करते थे:
- उनके प्लेक्स सर्वर
- NAS निर्माण
- कुबेरनेट्स क्लस्टर
- रिवर्स प्रॉक्सी सेटअप
अब लोग दिखा रहे हैं:
- स्थानीय एलएलएम स्टैक
- GPU सर्वर
- वेक्टर डेटाबेस
- एआई वर्कफ़्लो
- स्व-होस्टेड सहायक
homelab दुनिया और एआई की दुनिया में परस्पर संबंध स्थापित होने लगे।
और जब मैंने उस समानता को देखा, तो मैं उसके बारे में सोचना बंद नहीं कर सका।
क्योंकि एआई अब केवल क्लाउड में चलने वाला सॉफ्टवेयर नहीं रह गया था।
यह बुनियादी ढांचा बनता जा रहा था।
व्यक्तिगत अवसंरचना।
कुछ ऐसा जिसे डेवलपर वास्तव में अपने स्वामित्व में ले सकें, संशोधित कर सकें, प्रयोग कर सकें और पूरी तरह से अपने हार्डवेयर पर चला सकें।
मुझे वह विचार बहुत आकर्षक लगा।
इसका मतलब यह नहीं है कि स्थानीय एआई एकदम सही है। ऐसा बिल्कुल भी नहीं है।
क्लाउड मॉडल आज भी अक्सर अधिक शक्तिशाली होते हैं। एंटरप्राइज़ अनुमान प्रक्रिया आज भी कहीं अधिक तेज़ है। बड़े पैमाने पर होस्ट किए गए सिस्टम के आज भी कई फायदे हैं।
लेकिन असल मुद्दा यह नहीं है।
महत्वपूर्ण बात यह है कि स्थानीय एआई अब इतना अच्छा हो गया है कि वह वास्तव में उपयोगी बन सकता है।
और जब कोई चीज स्थानीय स्तर पर पर्याप्त उपयोगी हो जाती है, तो लोग स्वाभाविक रूप से उसे घर ले जाना शुरू कर देते हैं।
यही बात इनके साथ भी हुई:
- मीडिया स्ट्रीमिंग
- घन संग्रहण
- होम ऑटोमेशन
- वर्चुअलाइजेशन
- गेम सर्वर
एआई उस विकास की अगली कड़ी मात्र है।
और मुझे सच में लगता है कि हम अभी भी इसकी शुरुआत में ही हैं।
मेरा लोकल एआई स्टैक बनाना#
इन सब के केंद्र में ओलामा थी।
ओलामा के बारे में जो बात मुझे तुरंत प्रभावित करती है, वह यह है कि यह स्थानीय एआई तैनाती को कितना सुलभ और सहज महसूस कराता है।
इसे जानने से पहले, ज़्यादातर स्थानीय एआई ट्यूटोरियल डरावने लगते थे। उनमें मॉडल वेट को मैन्युअल रूप से डाउनलोड करना, इन्फ़रेंस बैकएंड को कॉन्फ़िगर करना, CUDA वातावरण स्थापित करना और घंटों तक निर्भरता संबंधी समस्याओं का निवारण करना शामिल था, तब जाकर कहीं जाकर कोई परिणाम मिलता था।
ओलामा ने उस सारी जटिलता को आश्चर्यजनक रूप से सरल चीज़ में बदल दिया।
एक ही कमांड से संपूर्ण भाषा मॉडल को स्थानीय रूप से डाउनलोड और चलाया जा सकता है:
ollama run llama3सच कहूं तो यह उन दुर्लभ क्षणों में से एक था जब तकनीक अचानक आपकी अपेक्षा से कहीं अधिक करीब महसूस होती है।
कुछ मिनट पहले तक, यह मॉडल इंटरनेट पर कहीं अमूर्त रूप में मौजूद था।
अब यह सीधे मेरे अपने कंप्यूटर पर चल रहा था।
कोई एपीआई डैशबोर्ड नहीं। कोई क्रेडिट नहीं। कोई बिलिंग पेज नहीं। क्लाउड पर निर्भरता नहीं।
यह एक स्थानीय प्रक्रिया है जिसमें मेरे अपने हार्डवेयर का उपयोग वास्तविक समय में किया जा रहा है।
और जैसे ही मैंने वह पहला मॉडल चालू किया, चीजें तेजी से आगे बढ़ने लगीं।
एक साधारण प्रयोग के रूप में शुरू हुआ यह कार्य धीरे-धीरे एक बहुत बड़ी अवसंरचना परियोजना में परिवर्तित हो गया।
क्योंकि एक बार जब आपको यह एहसास हो जाता है कि स्थानीय एआई वास्तव में काम करता है, तो अगला विचार यह होता है:
मैं इसे कितनी दूर तक ले जा सकता हूँ?
तो स्वाभाविक रूप से, मैंने इसके चारों ओर एक पूरा स्टैक बनाना शुरू कर दिया।
Homelab एआई सर्वर में बदलना#
उस समय, मेरा homelab पहले से ही कई सेल्फ-होस्टेड सेवाओं को संभाल रहा था।
मीडिया स्ट्रीमिंग। रिवर्स प्रॉक्सी। कंटेनर। स्टोरेज। वीपीएन एक्सेस। डेवलपर टूलिंग।
एआई धीरे-धीरे उस पारिस्थितिकी तंत्र के ऊपर एक और परत बन गया।
मैंने तैनाती को अलग-थलग और प्रबंधनीय रखने के लिए डॉकर के माध्यम से हर चीज को कंटेनर में डालना शुरू कर दिया।
एआई को एक स्वतंत्र प्रयोग के रूप में मानने के बजाय, मैंने इसे उसी बुनियादी ढांचे की मानसिकता में एकीकृत करना शुरू कर दिया जिसका उपयोग मैं पहले से ही अपने बाकी सर्वर स्टैक के लिए कर रहा था।
इसका मतलब यह था:
- स्थायी कंटेनर
- स्वचालित पुनः आरंभ
- केंद्रीकृत नेटवर्किंग
- GPU पासथ्रू
- रिवर्स प्रॉक्सी रूटिंग
- दूरदराज का उपयोग
- संसाधन उपयोग की निगरानी करना
धीरे-धीरे, स्थानीय एआई एक नवीनता की तरह लगने के बजाय मेरे बुनियादी ढांचे के भीतर चलने वाली एक वास्तविक सेवा की तरह लगने लगी।
और सच कहूं तो, वह बदलाव पूरे अनुभव का सबसे शानदार हिस्सा था।
क्योंकि एआई स्टैक स्वाभाविक रूप से homelab के बाकी हिस्सों में घुलमिलने लगा था।
मेरा सर्वर अब केवल इतना ही नहीं था:
- एक मीडिया सर्वर
- एक भंडारण प्रणाली
- एक वर्चुअलाइजेशन मशीन
यह एक एआई सर्वर भी बनता जा रहा था।
एक उपयुक्त इंटरफ़ेस जोड़ना#
शुरुआत में कमांड लाइन मजेदार थी, लेकिन मुझे कुछ ऐसा चाहिए था जो रोजमर्रा के कामों के लिए अधिक उपयोगी हो।
तभी मैंने ओलामा के ऊपर ओपन वेबयूआई को जोड़ा।
उस एक बदलाव ने अनुभव को पूरी तरह से बदल दिया।
टर्मिनल कमांड के माध्यम से ही मॉडल के साथ इंटरैक्ट करने के बजाय, मुझे अचानक ये विकल्प मिल गए:
- एक आधुनिक चैट इंटरफ़ेस
- मॉडल स्विचिंग
- बातचीत का इतिहास
- मल्टी-मॉडल वर्कफ़्लो
- दस्तावेज़ अंतःक्रिया
- कुल मिलाकर कहीं अधिक परिष्कृत अनुभव
यह सेटअप किसी बैकएंड प्रयोग की तरह कम और व्यावसायिक एआई प्लेटफॉर्म के स्व-होस्टेड संस्करण की तरह अधिक लगने लगा।
लेकिन इस बार, सब कुछ स्थानीय स्तर पर चल रहा था।
नेटवर्क से बाहर कोई अनुरोध नहीं भेजा जा रहा है। कहीं और क्लाउड इन्फरेंस नहीं हो रहा है। बाहरी अपटाइम पर कोई निर्भरता नहीं है।
यह मेरा खुद का इंफ्रास्ट्रक्चर है जो सीधे मेरे हार्डवेयर से एआई प्रतिक्रियाएं प्रदान करता है।
और हैरानी की बात यह है कि इससे बेहद संतुष्टि मिली।
GPU मोमेंट#
इस यात्रा का सबसे दिलचस्प हिस्सा यह एहसास करना था कि जब आप गंभीरता से स्थानीय एआई का उपयोग करना शुरू करते हैं तो GPU एक्सेलरेशन कितना महत्वपूर्ण हो जाता है।
तकनीकी रूप से CPU इन्फरेंस काम करता है, लेकिन जैसे ही मैंने GPU एक्सेलरेशन को सक्षम किया, अनुभव पूरी तरह से बदल गया।
प्रतिक्रियाएँ नाटकीय रूप से तेज़ हो गईं। मॉडल अधिक इंटरैक्टिव लगने लगे। पूरी प्रणाली वास्तविक दैनिक उपयोग के लिए व्यावहारिक हो गई।
और सच कहूं तो, यह एक और ऐसा क्षण था जब अचानक मुझे सब कुछ समझ में आ गया।
कई वर्षों तक, जीपीयू मुख्य रूप से इन उद्देश्यों के लिए विपणन किए जाते थे:
- गेमिंग
- प्रतिपादन
- वीडियो संपादन
अब उसी हार्डवेयर को व्यक्तिगत एआई कंप्यूटिंग इंफ्रास्ट्रक्चर में परिवर्तित किया जा रहा था।
यह बदलाव ऐतिहासिक रूप से महत्वपूर्ण प्रतीत होता है।
क्योंकि हम एक ऐसी दुनिया में प्रवेश कर रहे हैं जहां उपभोक्ता हार्डवेयर अब केवल मनोरंजन हार्डवेयर नहीं रह गया है।
यह खुफिया उपकरण बनता जा रहा है।
और इससे लोगों की होम सर्वर के बारे में सोचने का तरीका पूरी तरह बदल जाता है।
कहीं भी रिमोट एक्सेस और प्राइवेट एआई#
अंततः, मैं अपने घर के नेटवर्क के बाहर भी अपने स्थानीय मॉडलों तक पहुंच प्राप्त करना चाहता था।
इसलिए मैंने सेटअप में वीपीएन एक्सेस को एकीकृत कर दिया।
इसका मतलब यह था कि मैं पूरे सिस्टम को सार्वजनिक रूप से इंटरनेट पर उजागर किए बिना, अपने एआई स्टैक को दूरस्थ रूप से सुरक्षित रूप से एक्सेस कर सकता था।
इस हिस्से ने वास्तव में इस सेटअप की उपयोगिता को बदल दिया।
उस समय, स्थानीय एआई सर्वर को घर पर मौजूद किसी भौतिक मशीन से जुड़ाव महसूस होना बंद हो गया।
मुझे ऐसा लगने लगा जैसे यह एक निजी एआई वातावरण है जिसे मैं कहीं से भी एक्सेस कर सकता हूं।
और क्योंकि सब कुछ सेल्फ-होस्टेड था:
- उपयोग की कोई सीमा नहीं थी
- मूल्य निर्धारण से संबंधित कोई संदर्भ प्रतिबंध नहीं हैं
- एपीआई कोटा के बारे में कोई चिंता नहीं है
- बिलिंग में अचानक हुई बढ़ोतरी अप्रत्याशित नहीं है
बुनियादी ढांचा मौजूद था और जब भी मुझे इसकी जरूरत पड़ी, यह उपलब्ध रहा।
आखिरकार जब बात समझ में आई#
सबसे बड़ा आश्चर्य तकनीक खुद नहीं थी।
यह इस बात का उदाहरण था कि स्थानीय एआई पहले से ही कितना उपयोगी है।
मुझे शुरू में ही लगा था कि अनुभव में कुछ कमी आएगी।
मुझे लगा था कि स्थानीय मॉडल मुख्यतः इस प्रकार मौजूद होंगे:
- रोचक प्रदर्शन
- प्रायोगिक खिलौने
- बेहद सीमित सहायक
इसके बजाय, मैंने खुद को हर दिन सचमुच उन पर निर्भर पाते हुए पाया।
कोडिंग के लिए। स्क्रिप्टिंग के लिए। विचार-मंथन के लिए। बुनियादी ढांचे से जुड़ी समस्याओं को डीबग करने के लिए। तकनीकी दस्तावेज़ों का सारांश बनाने के लिए। अपरिचित अवधारणाओं को शीघ्रता से सीखने के लिए।
और समय बीतने के साथ, कुछ अप्रत्याशित घटना घटित हुई।
क्लाउड एआई का अनुभव अलग होने लगा।
जरूरी नहीं कि स्थिति बदतर हो।
बस… दूर।
क्योंकि एक बार जब आप अपने खुद के हार्डवेयर पर पूरी तरह से चलने वाली एआई का अनुभव कर लेते हैं, तो क्लाउड एआई के साथ बातचीत करना अचानक अधिक लेन-देन जैसा लगने लगता है।
आपको यह एहसास होता है कि:
- आपके मशीन से अनुरोध भेजे जा रहे हैं
- सीमाएं कहीं न कहीं मौजूद होती हैं।
- पहुँच बाहरी प्रणालियों पर निर्भर करती है
- मूल्य निर्धारण से उपयोग व्यवहार प्रभावित होता है
स्थानीय एआई उस रिश्ते को बदल देता है।
यह प्रणाली अधिक निकटता का एहसास कराती है। अधिक व्यक्तिगत। अधिक प्रयोगात्मक। अधिक नियंत्रणीय।
आपको ऐसा महसूस होना बंद हो जाता है कि आप किसी प्लेटफॉर्म से जानकारी किराए पर ले रहे हैं।
और आपको ऐसा महसूस होने लगेगा कि स्टैक का एक हिस्सा आपका भी है।
वह मनोवैज्ञानिक बदलाव शायद पूरी परियोजना का सबसे दिलचस्प हिस्सा था।
क्योंकि कई मायनों में, सेल्फ-होस्टेड एआई सिर्फ तकनीक के बारे में नहीं है।
यह उपयोगकर्ताओं और गणना के बीच के संबंध को बदलने के बारे में है।
यह पहले से ही एक बहुत ही दमदार और विस्तृत लेख का रूप ले रहा है।
अगली चीज़ जो आपको जोड़नी चाहिए वह है वह अनुभाग जो लेख को एक बड़ा दार्शनिक महत्व देता है - वह हिस्सा जो पाठकों को "शानदार homelab सेटअप" से परे रुककर सोचने पर मजबूर करता है।
फिलहाल आपके लेख में निम्नलिखित बातें शामिल हैं:
- भावनात्मक जुड़ाव
- स्थानीय एआई की ओर बदलाव
- आपकी अवसंरचना यात्रा
- स्वामित्व का मनोवैज्ञानिक अंतर
अब आपको वह भाग चाहिए जो निम्नलिखित का उत्तर देता है:
“यह आंदोलन वास्तव में क्यों मायने रखता है?”
व्यापक परिप्रेक्ष्य#
स्थानीय स्तर पर एआई चलाने में मैंने जितना अधिक समय बिताया, उतना ही मुझे एहसास हुआ कि यह सिर्फ एक और सेल्फ-होस्टिंग ट्रेंड नहीं था।
ऐसा लगा मानो यह लोगों के कंप्यूटिंग के साथ बातचीत करने के तरीके में एक बहुत बड़े बदलाव की शुरुआत हो रही हो।
कई वर्षों तक, अधिकांश व्यक्तिगत प्रौद्योगिकी एक ही दिशा में आगे बढ़ी:
बादल की ओर।
हमारी फाइलें क्लाउड स्टोरेज में स्थानांतरित हो गईं। हमारा मनोरंजन स्ट्रीमिंग प्लेटफॉर्म पर चला गया। हमारा सॉफ्टवेयर सब्सक्रिप्शन पर आधारित हो गया। हमारा बुनियादी ढांचा किराये की सेवाओं में बदल गया।
सुविधा की जीत हुई।
और सच कहें तो, कई मायनों में क्लाउड कंप्यूटिंग ने इस उद्योग को बेहतर बनाया है। इसने महंगे हार्डवेयर या जटिल सेटअप की आवश्यकता के बिना लाखों लोगों के लिए शक्तिशाली उपकरणों को सुलभ बना दिया है।
लेकिन साथ ही साथ, इसका स्वामित्व भी धीरे-धीरे बदलता रहा।
हमने सॉफ्टवेयर का स्वामित्व खो दिया। हमने बुनियादी ढांचे का स्वामित्व खो दिया। हमने उन प्रणालियों पर नियंत्रण खो दिया जिन पर हम प्रतिदिन निर्भर रहते थे।
हमें सुविधा तो मिली, लेकिन प्रौद्योगिकी से हमारा संपर्क टूट गया।
और ऐसा लगता है कि एआई इस प्रवृत्ति को और भी आगे बढ़ा रहा है।
क्योंकि पारंपरिक क्लाउड सेवाओं के विपरीत, एआई केवल डेटा संग्रहीत करने या सामग्री प्रदान करने तक सीमित नहीं है।
यह संज्ञानात्मक प्रक्रिया की एक परत बनती जा रही है।
लोग इन चीजों पर तेजी से निर्भर होते जा रहे हैं:
- सोच
- सीखना
- रचनात्मकता
- प्रोग्रामिंग
- स्वचालन
- निर्णय समर्थन
इससे बातचीत का रुख पूरी तरह बदल जाता है।
जब खुफिया जानकारी ही कुछ चुनिंदा प्लेटफार्मों द्वारा नियंत्रित केंद्रीकृत अवसंरचना बन जाती है, तो निर्भरता का स्वरूप बहुत अलग होने लगता है।
और मुझे लगता है कि यही एक कारण है कि स्थानीय एआई इस समय इतना महत्वपूर्ण लगता है।
ऐसा इसलिए नहीं है कि अचानक से हर किसी को घर पर GPU सर्वर की जरूरत पड़ जाए।
लेकिन क्योंकि लोग विकल्प चाहते हैं।
वे निम्नलिखित क्षमता चाहते हैं:
- मॉडल को निजी तौर पर चलाएं
- खुलकर प्रयोग करें
- अपने वर्कफ़्लो के मालिक बनें
- स्थायी सदस्यता निर्भरता से बचें
- वे नियंत्रित कर सकते हैं कि उनका डेटा कहाँ जाता है
- यह तय करें कि एआई उनके जीवन में कैसे एकीकृत होगा।
कई मायनों में, स्थानीय एआई शुरुआती इंटरनेट की विचारधारा से मिलती-जुलती लगती है:
- विकेन्द्रीकरण
- प्रयोग
- खुलापन
- व्यक्तिगत स्वामित्व
यही बात वर्तमान समय को इतना दिलचस्प बनाती है।
पहली बार, उन्नत एआई मॉडल अब पूरी तरह से उद्यम के बुनियादी ढांचे के पीछे बंद नहीं हैं।
अब ये इतने सुलभ हो गए हैं कि लोग इन्हें खुद चला सकते हैं।
और एक बार ऐसा हो जाने पर, नवाचार अत्यंत तेजी से फैलता है।
आप डेवलपर्स को निर्माण करते हुए देखना शुरू करते हैं:
- स्थानीय कोडिंग सहायक
- निजी अनुसंधान उपकरण
- एआई-संचालित होमलैब्स
- व्यक्तिगत स्वचालन प्रणालियाँ
- ऑफ़लाइन एआई वर्कफ़्लो
- पूरी तरह से स्व-होस्टेड एआई पारिस्थितिकी तंत्र
इसलिए नहीं कि कंपनियों ने उन्हें ऐसा करने को कहा था।
लेकिन क्योंकि आखिरकार वे ऐसा कर सकते हैं।
और सच कहूं तो, मुझे लगता है कि अभी बहुत शुरुआती दौर है।
फिलहाल, सेल्फ-होस्टेड एआई अभी भी कुछ हद तक प्रायोगिक प्रतीत होता है। मॉडल का आकार बड़ा होता है। हार्डवेयर की सीमाएं मौजूद हैं। सेटअप की जटिलता अभी भी कई लोगों को इससे दूर रखती है।
लेकिन सुधार की गति हास्यास्पद है।
मॉडल छोटे और अधिक स्मार्ट होते जा रहे हैं। अनुमान लगाने की प्रक्रिया तेज़ होती जा रही है। उपभोक्ता GPU अधिक सक्षम होते जा रहे हैं। ओपन-सोर्स टूलिंग में तेजी से सुधार हो रहा है।
जिस तरह समय के साथ सेल्फ-होस्टिंग मीडिया सर्वर सामान्य हो गए, मुझे आश्चर्य नहीं होगा अगर अंततः पर्सनल एआई सर्वर भी आम हो जाएं।
कुछ साल पहले, अपना खुद का क्लाउड स्टोरेज चलाना एक विशिष्ट व्यवसाय जैसा लगता था।
अब लोग बेफिक्र होकर दौड़ते हैं:
- एनएएस सिस्टम
- डॉकर स्टैक
- होम वीपीएन
- स्मार्ट होम सर्वर
- कुबेरनेट्स क्लस्टर
एआई उस पारिस्थितिकी तंत्र के ऊपर जोड़ी गई अगली प्राकृतिक परत की तरह महसूस होती है।
और सच कहूं तो, यह संभावना मुझे क्लाउड से हमेशा के लिए इंटेलिजेंस किराए पर लेने की तुलना में कहीं अधिक उत्साहित करती है।
अंतिम विचार#
जब मैंने पहली बार स्थानीय एआई के साथ प्रयोग करना शुरू किया, तो मुझे एक मजेदार साइड प्रोजेक्ट की उम्मीद थी।
कुछ तकनीकी। कुछ अस्थायी। कुछ दिलचस्प, जिसे कुछ सप्ताहांतों के लिए आजमाया जा सके।
इसके बजाय, इसने एआई इंफ्रास्ट्रक्चर के बारे में मेरी सोच को पूरी तरह से बदल दिया।
क्योंकि एक बार जब आप अपने खुद के हार्डवेयर पर शक्तिशाली भाषा मॉडल को सीधे चलाने का अनुभव कर लेते हैं, तो एआई का पूरा विचार ही अलग लगने लगता है।
यह किसी दूरस्थ सेवा की तरह कम, बल्कि एक व्यक्तिगत उपकरण की तरह अधिक है।
यह तकनीक अब पहले से कहीं अधिक निकट, अधिक मूर्त और अधिक नियंत्रणीय प्रतीत होती है।
और शायद यही वह हिस्सा है जिसने मुझे सबसे ज्यादा आश्चर्यचकित किया।
सेल्फ-होस्टिंग एआई का मतलब सिर्फ पैसे बचाना या एपीआई सीमाओं से बचना नहीं है।
यह स्वामित्व के बारे में है।
आपके उपकरणों का स्वामित्व। आपके कार्यप्रवाहों का स्वामित्व। आपके डेटा का स्वामित्व। उस बुद्धिमत्ता का स्वामित्व जिस पर आप प्रतिदिन तेजी से निर्भर होते जा रहे हैं।
मेरे लिए, यही बात इस यात्रा को इतना रोमांचक बनाती है।
ऐसा इसलिए नहीं है कि स्थानीय एआई क्लाउड एआई को पूरी तरह से प्रतिस्थापित कर देगा।
लेकिन क्योंकि यह व्यक्तियों को अपनी शर्तों पर कंप्यूटिंग के इस नए युग में भाग लेने की क्षमता प्रदान करता है।
और सच कहूं तो, मुझे लगता है कि हम अभी उस बदलाव की शुरुआत ही देख रहे हैं।