কেন আমি বাড়িতে সেলফ-হোস্টিং এআই শুরু করেছি
এই নিবন্ধটি ইংরেজি থেকে যন্ত্রের সাহায্যে অনুবাদ করা হয়েছে। মূলটি পড়ুন

এই পৃষ্ঠায়
ভূমিকা#
গত দুই বছরে, এআই নীরবে আমার দৈনন্দিন কর্মপ্রবাহের অংশ হয়ে উঠেছে।
কোড লেখা। প্রজেক্ট ডিবাগ করা। ডকুমেন্টেশনের সারসংক্ষেপ করা। নতুন ধারণা তৈরি করা। নতুন প্রযুক্তি শেখা। এমনকি ছোট ছোট দৈনন্দিন কাজগুলোও ধীরে ধীরে ক্লাউডে চলমান এআই টুলের ওপর নির্ভরশীল হয়ে পড়তে শুরু করেছিল।
এবং কিছুক্ষণ পর, আমি একটি অদ্ভুত জিনিস লক্ষ্য করলাম:
এআই-এর সাথে আমার প্রায় প্রতিটি যোগাযোগই অন্য কারো পরিকাঠামোর ওপর নির্ভরশীল ছিল।
আমার লেখা প্রতিটি প্রম্পট, পেস্ট করা প্রতিটি কোড, পরীক্ষা-নিরীক্ষা করা প্রতিটি ধারণা — এই সবকিছুই এমন সব কোম্পানির মালিকানাধীন দূরবর্তী সার্ভারে প্রক্রিয়াজাত হচ্ছিল, যেগুলোর ওপর আমার কোনো নিয়ন্ত্রণ ছিল না।
প্রথমে সেটা স্বাভাবিক মনে হয়েছিল।
আধুনিক সফটওয়্যার এখন এভাবেই কাজ করে। আমরা অন্যের সার্ভার থেকে গান স্ট্রিম করি। অন্যের ক্লাউডে ফাইল সংরক্ষণ করি। এমন প্ল্যাটফর্ম থেকে কম্পিউটিং ক্ষমতা ভাড়া নিই, যা আমরা সশরীরে কখনো দেখিও না। এআই-কে ঠিক সেই একই সিস্টেমের পরবর্তী স্তর বলে মনে হয়েছিল।
কিন্তু আমি এই সরঞ্জামগুলোর ওপর যত বেশি নির্ভর করতে লাগলাম, ধারণাটা ততই অস্বস্তিকর হয়ে উঠল।
কারণ এআই এখন আর শুধু আরেকটি অ্যাপ ছিল না।
এটি একটি চিন্তার উপকরণ হয়ে উঠছিল।
এমন কিছু যা আমি সমস্যা সমাধানের সময় ব্যবহার করতাম। এমন কিছু যার সাথে আমি শেখার সময় সংযোগ স্থাপন করতাম। এমন কিছু যা ধীরে ধীরে আমার প্রতিদিনের কাজের পদ্ধতির সাথে অঙ্গীভূত হয়ে গেল।
আর তাতে আমার মনে আরও বড় একটি প্রশ্ন জেগে উঠল:
কী হবে যখন বুদ্ধিমত্তা নিজেই আরেকটি সাবস্ক্রিপশন পরিষেবা হয়ে উঠবে?
সফটওয়্যার নয়। স্টোরেজ নয়। বিনোদন নয়।
বুদ্ধিমত্তা।
কী হয় যখন আপনার দ্রুত চিন্তা করার, কাজ স্বয়ংক্রিয় করার, নতুন ধারণা নিয়ে ভাবার, কোড লেখার বা নতুন দক্ষতা শেখার ক্ষমতা সম্পূর্ণরূপে অন্য কারো সার্ভারে প্রবেশের ওপর নির্ভর করে?
চিন্তাটা আমার প্রত্যাশার চেয়েও বেশিদিন আমার মনে গেঁথে ছিল।
একই সময়ে, আমি ইন্টারনেট জুড়ে আরেকটি পরিবর্তন লক্ষ্য করতে শুরু করলাম।
আরও বেশি ডেভেলপার পুরোপুরি ক্লাউড-নির্ভর সেটআপ থেকে সরে আসতে শুরু করেছিলেন। মানুষ আবার হোমল্যাব তৈরি করছিল। নিজেরাই মিডিয়া সার্ভার হোস্ট করছিল। প্রাইভেট ক্লাউড স্টোরেজ চালাচ্ছিল। নিজেদের পাসওয়ার্ড ম্যানেজার হোস্ট করছিল। সবকিছু ভাড়া করার পরিবর্তে নিজেদের ইনফ্রাস্ট্রাকচারের আরও বেশি অংশের মালিক হচ্ছিল।
এবং ধীরে ধীরে, এআই-ও সেই আলোচনায় প্রবেশ করতে শুরু করল।
প্রথমবারের মতো, স্থানীয়ভাবে শক্তিশালী ল্যাঙ্গুয়েজ মডেল চালানো বাস্তবসম্মত হয়ে উঠছিল।
ওপেন-সোর্স মডেলগুলো অবিশ্বাস্য দ্রুত গতিতে উন্নত হচ্ছিল। সাধারণ জিপিইউগুলো ইনফারেন্সের জন্য যথেষ্ট সক্ষম হয়ে উঠছিল। Ollama-র মতো টুলগুলো স্থানীয়ভাবে মডেল স্থাপনকে ব্যাপকভাবে সহজ করে দিয়েছিল। আর হঠাৎ করেই, বাড়িতে এআই চালানোর ধারণাটি আর পরীক্ষামূলক বলে মনে হচ্ছিল না।
এটা অবশ্যম্ভাবী মনে হচ্ছিল।
সেই কৌতূহলই আমাকে সেলফ-হোস্টেড এআই-এর জগতে আরও গভীরে ঠেলে দিয়েছিল।
শুরুতে এটি একটি সাধারণ পরীক্ষা হিসেবে শুরু হয়েছিল।
আমি দেখতে চেয়েছিলাম যে স্থানীয় মডেলগুলো ইউটিউব ডেমো এবং বেঞ্চমার্ক চার্টের বাইরেও আসলেই ব্যবহারযোগ্য কিনা। আমি ধীরগতির প্রতিক্রিয়া, বাজে যুক্তি এবং একটি হতাশাজনক সেটআপ প্রক্রিয়ার আশঙ্কা করেছিলাম, যা শেষ পর্যন্ত আমাকে ক্লাউড এপিআই-এর দিকেই ফিরিয়ে নিয়ে যাবে।
পরিবর্তে, আমি সম্পূর্ণ ভিন্ন কিছু খুঁজে পেলাম।
কয়েক ঘণ্টার মধ্যেই আমি আমার নিজের হার্ডওয়্যারে সরাসরি একটি স্থানীয় ভাষা মডেল চালু করে ফেলেছিলাম।
কোনো এপিআই কী নেই। ব্যবহারের হিসাব রাখা হয় না। ইন্টারনেটের উপর নির্ভরশীলতা নেই। রিমোট ইনফারেন্সের জন্য অপেক্ষা করতে হয় না। ব্যবহারের সাথে সাথে নীরবে বাড়তে থাকা কোনো মাসিক সাবস্ক্রিপশন নেই।
আমার নিজের মেশিনটিই স্থানীয়ভাবে রিয়েল টাইমে প্রতিক্রিয়া তৈরি করছে।
আর সত্যি বলতে, সেই মুহূর্তটা ক্লাউড এআই ব্যবহার করার চেয়ে আশ্চর্যজনকভাবে আলাদা ছিল।
এইজন্য নয় যে মডেলটি অলৌকিকভাবে আরও ভালো ছিল।
কিন্তু কারণ প্রযুক্তির সাথে সম্পর্কটা অন্যরকম মনে হয়েছিল।
এআই আর কোনো পরিষেবা ছিল না। এটি আর “কোথাও হোস্ট করা” ছিল না। এটি কোনো অ্যাকাউন্ট ড্যাশবোর্ডের মাধ্যমে অ্যাক্সেস করা ধার করা বুদ্ধিমত্তা ছিল না।
এটাকে অবকাঠামো বলে মনে হচ্ছিল।
এমন কিছু যা আমার মালিকানাধীন ছিল। এমন কিছু যা আমি নিয়ন্ত্রণ করতাম। এমন কিছু যা ডকার কন্টেইনার, রিভার্স প্রক্সি, মিডিয়া সার্ভার এবং স্টোরেজ সিস্টেমের পাশাপাশি আমার নিজস্ব সার্ভার স্ট্যাকের অংশ হিসেবে বিদ্যমান ছিল।
সেই উপলব্ধিটি এআই-কে দেখার আমার দৃষ্টিভঙ্গি পুরোপুরি বদলে দিয়েছিল।
যা নিছক কৌতূহল থেকে শুরু হয়েছিল, তা দ্রুতই আমার করা সবচেয়ে আকর্ষণীয় অবকাঠামো প্রকল্পগুলোর একটিতে পরিণত হয়।
কারণ কোনো এক সময়ে, আমার homelab শুধু অ্যাপস ও মিডিয়ার জন্য একটি সার্ভার র্যাক থাকা বন্ধ করে দিয়েছিল।
এটি একটি ব্যক্তিগত এআই পরিবেশে পরিণত হতে শুরু করেছিল।
স্থানীয় এআই-এর দিকে পরিবর্তন#
দীর্ঘদিন ধরে, স্থানীয়ভাবে বড় আকারের ল্যাঙ্গুয়েজ মডেল চালানো অবাস্তব বলে মনে হতো।
এআই-কে দূরবর্তী, শিল্পভিত্তিক এবং ব্যয়বহুল মনে হতো।
যখনই উন্নত এআই সিস্টেম নিয়ে কথা হতো, আলোচনা প্রায় সবসময়ই বিশাল ডেটাসেন্টার, এন্টারপ্রাইজ জিপিইউ এবং কার্যত সীমাহীন কম্পিউট বাজেট সম্পন্ন কোম্পানিগুলোকে কেন্দ্র করে আবর্তিত হতো। শুধুমাত্র প্রশিক্ষণের জন্যই এমন পরিকাঠামোর প্রয়োজন হতো যা বেশিরভাগ মানুষ সশরীরে কখনো দেখতই না, মালিক হওয়া তো দূরের কথা।
এমনকি ইনফারেন্স—অর্থাৎ কেবল এই মডেলগুলো চালানো —সাধারণ ডেভেলপারদের কাছে নাগালের বাইরে বলে মনে হতো।
ধারণাটা ছিল সহজ:
শক্তিশালী এআই বড় প্রযুক্তি সংস্থাগুলোর দখলে।
আর সত্যি বলতে, কিছু সময়ের জন্য কথাটা সত্যিও ছিল।
আধুনিক এআই-এর প্রাথমিক পর্যায়টি ছিল অত্যন্ত কেন্দ্রীভূত। এপিআই, সাবস্ক্রিপশন এবং ক্লাউড প্ল্যাটফর্মের মাধ্যমে ইন্টেলিজেন্স ব্যবহারের সুযোগ ছিল। উন্নত মডেল চাইলে বেশি অর্থ দিতে হতো। আর পরিধি বাড়াতে চাইলে অন্যের পরিকাঠামোর ওপর নির্ভর করতে হতো।
কিন্তু গত কয়েক বছরে অবিশ্বাস্য দ্রুত গতিতে কিছু একটা বদলে গেছে।
ওপেন-সোর্স মডেলগুলো অবিশ্বাস্য গতিতে উন্নত হয়েছে।
যা পরীক্ষামূলক সামাজিক প্রকল্প হিসেবে শুরু হয়েছিল, তা ধীরে ধীরে সত্যিকারের সক্ষম মডেলে পরিণত হয় যা করতে পারে:
- ব্যবহারযোগ্য কোড লিখুন
- নথিগুলির সারসংক্ষেপ করুন
- প্রযুক্তিগত সমস্যাগুলির মাধ্যমে যুক্তি দিন
- স্ক্রিপ্টিং-এ সাহায্য
- গবেষণায় সহায়তা করা
- আশ্চর্যজনকভাবে সুসংগত কথোপকথন চালিয়ে যান
এবং তারা শুধু সামান্য উন্নতি করছিল না।
প্রতি কয়েক মাস অন্তর স্থানীয় মডেল এবং ক্লাউড-হোস্টেড সিস্টেমের মধ্যে ব্যবধান ক্রমশ কমতে শুরু করল।
একই সময়ে, ভোক্তা পর্যায়ের হার্ডওয়্যার নীরবে বেশিরভাগ মানুষের ধারণার চেয়ে অনেক বেশি সক্ষম হয়ে উঠল।
আধুনিক জিপিইউগুলো—বিশেষ করে সাধারণ ডেস্কটপে থাকা গেমিং জিপিইউগুলো—হঠাৎ করেই এত শক্তিশালী হয়ে উঠেছে যে, সেগুলো স্থানীয়ভাবে ব্যবহারযোগ্য গতিতে কোয়ান্টাইজড ল্যাঙ্গুয়েজ মডেল চালাতে পারে।
গেমিং বা ভিডিও এডিটিংয়ের জন্য মানুষ যে হার্ডওয়্যার কিনত, সেই একই হার্ডওয়্যার দিয়ে এখন সরাসরি বাড়িতেই এআই মডেল চালানো সম্ভব।
সেই পরিবর্তনটা গুরুত্বপূর্ণ বলে মনে হয়েছিল।
কারণ এই প্রথমবারের মতো, স্থানীয় এআই আর তাত্ত্বিক বলে মনে হচ্ছিল না।
এটি বাস্তবসম্মত হয়ে উঠল।
আর তারপর ওলামার মতো সরঞ্জাম আবির্ভূত হয়ে আরও বেশি ঘর্ষণ দূর করল।
ওলামার আগে, স্থানীয় এআই প্রায়শই ভীতিপ্রদ বলে মনে হতো:
- নির্ভরতা সংকলন
- ম্যানুয়ালি রানটাইম কনফিগার করা
- CUDA সংক্রান্ত সমস্যা মোকাবেলা করা
- মডেল ফাইল খোঁজা হচ্ছে
- অনুমান কাঠামো স্থাপন করা
এটা একটা গবেষণা প্রকল্পের মতো মনে হচ্ছিল।
ওলামা সেই অভিজ্ঞতাটা আমূল বদলে দিয়েছিল।
হঠাৎ করে, একটি স্থানীয় মডেল চালানো দেখতে এইরকম ছিল:
ollama run llama3ব্যস, এটুকুই।
একটি কমান্ড।
কয়েক মিনিট পরেই, আপনার নিজের মেশিনে একটি পূর্ণাঙ্গ ল্যাঙ্গুয়েজ মডেল স্থানীয়ভাবে চালু হয়ে গিয়েছিল।
সেই সরলতাটা মানুষ যতটা ভাবে, তার চেয়েও বেশি গুরুত্বপূর্ণ ছিল।
কারণ প্রযুক্তি তখনই মূলধারায় আসে, যখন এতে প্রবেশের বাধা দূর হয়ে যায়।
আর স্থানীয় এআই-এর ক্ষেত্রে ঠিক এটাই ঘটেছে।
প্রায় একই সময়ে, আমি ডেভেলপার সংস্কৃতিতে আরও একটি বিষয় ঘটতে লক্ষ্য করলাম।
আরও বেশি মানুষ আবার নিজেরাই থাকার ব্যবস্থা করতে শুরু করেছিল।
সস্তা ছিল বলে নয়। সহজ ছিল বলেও নয়।
কিন্তু কারণ মালিকানা আবার গুরুত্বপূর্ণ হয়ে উঠতে শুরু করেছিল।
ডেভেলপাররা নির্মাণ শুরু করলেন:
- হোমল্যাব
- ব্যক্তিগত ক্লাউড স্টোরেজ
- মিডিয়া সার্ভার
- স্মার্ট হোম সিস্টেম
- পাসওয়ার্ড ম্যানেজার
- ব্যক্তিগত ভিপিএন
- স্ব-হোস্টেড ডেভেলপার পরিকাঠামো
দৈনন্দিন জীবনে আমরা যে ব্যবস্থাগুলোর ওপর নির্ভর করি, সেগুলোর আরও বেশি নিয়ন্ত্রণ লাভের আকাঙ্ক্ষা বাড়ছিল।
এবং অবশেষে, এআই-ও সেই আন্দোলনের অংশ হয়ে উঠল।
সত্যি বলতে, পরিবর্তনটা আশ্চর্যজনকভাবে স্বাভাবিক মনে হয়েছিল।
কয়েক বছর আগে লোকেরা গর্ব করে দেখাচ্ছিল:
- তাদের প্লেক্স সার্ভার
- NAS নির্মাণ
- কুবারনেটিস ক্লাস্টার
- বিপরীত প্রক্সি সেটআপ
এখন লোকেরা দেখাচ্ছে:
- স্থানীয় এলএলএম স্ট্যাক
- GPU সার্ভার
- ভেক্টর ডেটাবেস
- এআই ওয়ার্কফ্লো
- স্ব-হোস্টেড সহকারী
homelab জগৎ এবং এআই জগৎ একে অপরের সাথে মিশে যেতে শুরু করল।
আর একবার সেই মিলটা চোখে পড়ার পর, আমি এটা নিয়ে চিন্তা করা থামাতেই পারছিলাম না।
কারণ এআই এখন আর শুধু ক্লাউডে চালিত সফটওয়্যার নয়।
এটি অবকাঠামোতে পরিণত হচ্ছিল।
ব্যক্তিগত পরিকাঠামো।
এমন কিছু যা ডেভেলপাররা প্রকৃতপক্ষে নিজেদের মালিকানায় রাখতে, পরিবর্তন করতে, পরীক্ষা-নিরীক্ষা করতে এবং সম্পূর্ণভাবে তাদের নিজস্ব হার্ডওয়্যারে চালাতে পারবে।
ধারণাটি আমাকে মুগ্ধ করেছিল।
এর কারণ এই নয় যে স্থানীয় এআই নিখুঁত। এটি মোটেও নিখুঁত নয়।
ক্লাউড মডেলগুলো এখনও প্রায়শই বেশি শক্তিশালী। এন্টারপ্রাইজ ইনফারেন্স এখনও নাটকীয়ভাবে দ্রুততর। বৃহৎ পরিসরের হোস্টেড সিস্টেমগুলোর এখনও কিছু সুবিধা রয়েছে।
কিন্তু আসল বিষয়টা তা নয়।
গুরুত্বপূর্ণ বিষয়টি হলো, স্থানীয় এআই এখন সত্যিকার অর্থে কার্যকর হয়ে ওঠার মতো যথেষ্ট উন্নত ।
আর কোনো জিনিস যখন স্থানীয়ভাবে যথেষ্ট দরকারি হয়ে ওঠে, তখন মানুষ অনিবার্যভাবে তা বাড়িতে নিয়ে আসতে শুরু করে।
একই ঘটনা ঘটেছিল:
- মিডিয়া স্ট্রিমিং
- ক্লাউড স্টোরেজ
- হোম অটোমেশন
- ভার্চুয়ালাইজেশন
- গেম সার্ভার
এআই হলো সেই বিবর্তনের পরবর্তী স্তর মাত্র।
আর আমি সত্যি মনে করি, আমরা এখনও এর একেবারে শুরুতেই আছি।
আমার স্থানীয় এআই স্ট্যাক তৈরি করা#
সবকিছুর কেন্দ্রবিন্দুতে ছিলেন ওলামা।
ওলামার যে বিষয়টি আমাকে তাৎক্ষণিকভাবে আকৃষ্ট করেছিল, তা হলো এটি স্থানীয় পর্যায়ে এআই স্থাপনকে কতটা সহজবোধ্য করে তুলেছিল।
এটি আবিষ্কার করার আগে, বেশিরভাগ স্থানীয় এআই টিউটোরিয়াল বেশ কঠিন মনে হতো। সেগুলোতে ম্যানুয়ালি মডেল ওয়েট ডাউনলোড করা, ইনফারেন্স ব্যাকএন্ড কনফিগার করা, CUDA এনভায়রনমেন্ট সেট আপ করা এবং ঘণ্টার পর ঘণ্টা ধরে ডিপেন্ডেন্সি সমস্যা সমাধান করার মতো কাজ করতে হতো, কিন্তু শেষ পর্যন্ত একটিও ফলাফল পাওয়া যেত না।
ওলামা সেই সমস্ত জটিলতাকে আশ্চর্যজনকভাবে সহজ একটি বিষয়ে পরিণত করেছিলেন।
একটিমাত্র কমান্ড দিয়েই সম্পূর্ণ ল্যাঙ্গুয়েজ মডেলটি স্থানীয়ভাবে ডাউনলোড ও রান করা যেত:
ollama run llama3সত্যি বলতে, এটা ছিল সেই বিরল মুহূর্তগুলোর মধ্যে একটা, যখন প্রযুক্তি হঠাৎ করেই আপনার প্রত্যাশার চেয়েও বেশি কাছের বলে মনে হয়।
কয়েক মিনিট আগেও মডেলটি ইন্টারনেটে কোনো এক বিমূর্ত ধারণা হিসেবে বিদ্যমান ছিল।
এখন এটা সরাসরি আমার নিজের মেশিনে চলছিল।
কোনো এপিআই ড্যাশবোর্ড নেই। কোনো ক্রেডিট নেই। কোনো বিলিং পেজ নেই। কোনো ক্লাউড নির্ভরতা নেই।
এটি আমার নিজের হার্ডওয়্যার ব্যবহার করে রিয়েল টাইমে পরিচালিত একটি স্থানীয় প্রক্রিয়া।
আর প্রথম মডেলটা চালু করার পর পরিস্থিতি দ্রুত জটিল হতে লাগল।
যা একটি সাধারণ পরীক্ষা হিসেবে শুরু হয়েছিল, তা ধীরে ধীরে একটি অনেক বড় অবকাঠামো প্রকল্পে পরিণত হয়।
কারণ একবার যখন আপনি বুঝতে পারেন যে স্থানীয় এআই আসলেই কাজ করে, তখন পরবর্তী চিন্তাটি হয়:
আমি এটা কতদূর নিয়ে যেতে পারি?
তাই স্বাভাবিকভাবেই, আমি এটাকে কেন্দ্র করে পুরো একটা স্ট্যাক তৈরি করতে শুরু করলাম।
Homelab এআই সার্ভারে রূপান্তর করা#
সেই সময়ে আমার homelab আগে থেকেই বেশ কয়েকটি সেলফ-হোস্টেড সার্ভিস চালু ছিল।
মিডিয়া স্ট্রিমিং। রিভার্স প্রক্সি। কন্টেইনার। স্টোরেজ। ভিপিএন অ্যাক্সেস। ডেভেলপার টুলিং।
এআই ধীরে ধীরে সেই বাস্তুতন্ত্রের উপরে যুক্ত হওয়া আরেকটি স্তর হয়ে উঠল।
ডিপ্লয়মেন্টগুলোকে বিচ্ছিন্ন ও পরিচালনাযোগ্য রাখতে আমি ডকারের মাধ্যমে সবকিছু কন্টেইনারাইজ করা শুরু করেছি।
এআই-কে একটি বিচ্ছিন্ন পরীক্ষা হিসেবে দেখার পরিবর্তে, আমি এটিকে আমার সার্ভার স্ট্যাকের বাকি অংশের জন্য ব্যবহৃত অবকাঠামোগত মানসিকতার সাথেই একীভূত করতে শুরু করলাম।
তার মানে:
- স্থায়ী কন্টেইনার
- স্বয়ংক্রিয় পুনরায় চালু
- কেন্দ্রীয় নেটওয়ার্কিং
- GPU পাসথ্রু
- বিপরীত প্রক্সি রাউটিং
- দূরবর্তী অ্যাক্সেস
- সম্পদ ব্যবহার পর্যবেক্ষণ
ধীরে ধীরে, স্থানীয় এআই আর কোনো নতুনত্ব বলে মনে না হয়ে আমার পরিকাঠামোর ভেতরে চলমান একটি প্রকৃত পরিষেবার মতো লাগতে শুরু করল।
আর সত্যি বলতে, ওই পরিবর্তনটাই ছিল পুরো অভিজ্ঞতার সবচেয়ে দারুণ অংশগুলোর মধ্যে একটি।
কারণ এআই স্ট্যাকটি homelab বাকি অংশের সাথে স্বাভাবিকভাবে মিশে যেতে শুরু করেছিল।
আমার সার্ভারটি আর শুধু:
- একটি মিডিয়া সার্ভার
- একটি স্টোরেজ সিস্টেম
- একটি ভার্চুয়ালাইজেশন মেশিন
এটি একটি এআই সার্ভারও হয়ে উঠছিল।
একটি সঠিক ইন্টারফেস যোগ করা#
শুরুতে কমান্ড লাইনটা বেশ মজার ছিল, কিন্তু দৈনন্দিন ব্যবহারের জন্য আমি আরও কার্যকরী কিছু একটা চাইছিলাম।
তখনই আমি Ollama-র উপরে Open WebUI যুক্ত করেছিলাম।
ওই একটি সংযোজনই অভিজ্ঞতাটিকে আমূল বদলে দিয়েছিল।
শুধুমাত্র টার্মিনাল কমান্ডের মাধ্যমে মডেলগুলোর সাথে ইন্টারঅ্যাক্ট করার পরিবর্তে, হঠাৎ করেই আমার কাছে ছিল:
- একটি আধুনিক চ্যাট ইন্টারফেস
- মডেল পরিবর্তন
- কথোপকথনের ইতিহাস
- মাল্টি-মডেল ওয়ার্কফ্লো
- নথি মিথস্ক্রিয়া
- সামগ্রিকভাবে আরও অনেক বেশি পরিমার্জিত অভিজ্ঞতা
এই ব্যবস্থাটিকে ব্যাকএন্ড পরীক্ষার চেয়ে বাণিজ্যিক এআই প্ল্যাটফর্মগুলোর একটি সেলফ-হোস্টেড সংস্করণের মতো বেশি মনে হতে শুরু করল।
তবে এবার সবকিছু স্থানীয়ভাবেই চলছিল।
নেটওয়ার্কের বাইরে কোনো অনুরোধ পাঠানো হয় না। অন্য কোথাও কোনো ক্লাউড ইনফারেন্স ঘটে না। বাহ্যিক আপটাইমের উপর কোনো নির্ভরতা নেই।
আমার নিজস্ব পরিকাঠামো, যা আমার হার্ডওয়্যার থেকে সরাসরি এআই প্রতিক্রিয়া সরবরাহ করে।
আর অদ্ভুতভাবে, ব্যাপারটা ভীষণ তৃপ্তিদায়ক ছিল।
GPU মুহূর্ত#
এই যাত্রার সবচেয়ে আকর্ষণীয় অংশগুলোর মধ্যে একটি ছিল এটা উপলব্ধি করা যে, একবার আপনি গুরুত্ব সহকারে স্থানীয় এআই ব্যবহার শুরু করলে GPU অ্যাক্সিলারেশন কতটা গুরুত্বপূর্ণ হয়ে ওঠে।
CPU ইনফারেন্স প্রযুক্তিগতভাবে কাজ করে, কিন্তু আমি GPU অ্যাক্সিলারেশন চালু করার পর অভিজ্ঞতা পুরোপুরি বদলে গেল।
প্রতিক্রিয়াগুলো নাটকীয়ভাবে দ্রুততর হয়ে উঠল। মডেলগুলো আরও বেশি ইন্টারেক্টিভ মনে হলো। পুরো সিস্টেমটি বাস্তব দৈনন্দিন ব্যবহারের জন্য কার্যকরী হয়ে উঠল।
আর সত্যি বলতে, এটা ছিল আরও একটা মুহূর্ত যখন সবকিছু হঠাৎ করে আমার কাছে পরিষ্কার হয়ে গেল।
বহু বছর ধরে, জিপিইউ প্রধানত নিম্নলিখিত উদ্দেশ্যে বাজারজাত করা হতো:
- গেমিং
- রেন্ডারিং
- ভিডিও সম্পাদনা
এখন সেই একই হার্ডওয়্যারকে ব্যক্তিগত এআই কম্পিউটিং পরিকাঠামোতে রূপান্তরিত করা হচ্ছিল।
এই পরিবর্তনটি ঐতিহাসিকভাবে গুরুত্বপূর্ণ বলে মনে হচ্ছে।
কারণ আমরা এমন এক বিশ্বে প্রবেশ করছি যেখানে ভোক্তা হার্ডওয়্যার আর শুধু বিনোদনের হার্ডওয়্যার নয়।
এটি ইন্টেলিজেন্স হার্ডওয়্যারে পরিণত হচ্ছে।
আর এটি হোম সার্ভার সম্পর্কে মানুষের চিন্তাভাবনাকে পুরোপুরি বদলে দেয়।
রিমোট অ্যাক্সেস এবং প্রাইভেট এআই এনিহোয়্যার#
অবশেষে, আমি আমার হোম নেটওয়ার্কের বাইরেও আমার স্থানীয় মডেলগুলোতে প্রবেশাধিকার চেয়েছিলাম।
তাই আমি সেটআপে ভিপিএন অ্যাক্সেস যুক্ত করেছি।
এর মানে হলো, আমি পুরো সিস্টেমটিকে ইন্টারনেটে সর্বসাধারণের জন্য উন্মুক্ত না করেই দূর থেকে নিরাপদে আমার এআই স্ট্যাকে প্রবেশ করতে পারতাম।
এই অংশটি সত্যিই সেটআপটির কার্যকারিতা বদলে দিয়েছে।
সেই মুহূর্তে, স্থানীয় এআই সার্ভারটি বাড়িতে থাকা কোনো ভৌত যন্ত্রের সাথে আর আবদ্ধ বোধ করছিল না।
আমার কাছে এটা এমন একটা ব্যক্তিগত এআই পরিবেশের মতো মনে হতে শুরু করল, যেখানে আমি যেকোনো জায়গা থেকে প্রবেশ করতে পারি।
এবং যেহেতু সবকিছু সেলফ-হোস্টেড ছিল:
- ব্যবহারের কোনো সীমা ছিল না
- মূল্য নির্ধারণের সাথে সম্পর্কিত কোন প্রেক্ষাপট সীমাবদ্ধতা নেই
- এপিআই কোটা নিয়ে কোনো উদ্বেগ নেই
- অপ্রত্যাশিত বিলিং বৃদ্ধি নেই
পরিকাঠামোটি সহজভাবে বিদ্যমান ছিল এবং আমার যখনই প্রয়োজন হতো, তা উপলব্ধ থাকত।
যে মুহূর্তে অবশেষে ব্যাপারটা মাথায় ঢুকলো#
সবচেয়ে বড় বিস্ময়টি প্রযুক্তিটি নিজে ছিল না।
স্থানীয় এআই ইতিমধ্যেই কতটা ব্যবহারযোগ্য, সেটাই ছিল এর প্রমাণ।
আমি প্রথমে ভেবেছিলাম অভিজ্ঞতাটা হয়তো আশানুরূপ হবে না।
আমি ভেবেছিলাম স্থানীয় মডেলগুলো মূলত নিম্নরূপ হবে:
- আকর্ষণীয় ডেমো
- পরীক্ষামূলক খেলনা
- অত্যন্ত সীমিত সহকারী
বরং, আমি নিজেকে প্রতিদিন সত্যিকার অর্থে তাদের ওপর নির্ভরশীল হতে দেখলাম।
কোডিং করার জন্য। স্ক্রিপ্টিং করার জন্য। চিন্তাভাবনা করার জন্য। অবকাঠামোগত সমস্যা ডিবাগ করার জন্য। প্রযুক্তিগত ডকুমেন্টেশন সংক্ষিপ্ত করার জন্য। অপরিচিত ধারণা দ্রুত শেখার জন্য।
আর সময়ের সাথে সাথে, অপ্রত্যাশিত কিছু একটা ঘটল।
ক্লাউড এআই-কে অন্যরকম মনে হতে শুরু করল।
অগত্যা খারাপ নয়।
শুধু… দূরবর্তী।
কারণ একবার যখন আপনি আপনার নিজের হার্ডওয়্যারে সম্পূর্ণরূপে চালিত এআই-এর অভিজ্ঞতা লাভ করেন, তখন ক্লাউড এআই-এর সাথে মিথস্ক্রিয়া হঠাৎ করেই আরও বেশি লেনদেনমূলক বলে মনে হয়।
আপনি সচেতন হন যে:
- অনুরোধগুলি আপনার মেশিন থেকে পাঠানো হচ্ছে
- কোথাও না কোথাও সীমাবদ্ধতা থাকে।
- অ্যাক্সেস বাহ্যিক সিস্টেমের উপর নির্ভর করে
- মূল্য নির্ধারণ ব্যবহারের আচরণকে প্রভাবিত করে
স্থানীয় এআই সেই সম্পর্কটি বদলে দেয়।
সিস্টেমটি আরও ঘনিষ্ঠ মনে হয়। আরও ব্যক্তিগত। আরও পরীক্ষামূলক। আরও নিয়ন্ত্রণযোগ্য।
আপনার আর এমনটা মনে হয় না যে আপনি কোনো প্ল্যাটফর্ম থেকে তথ্য ভাড়া করছেন।
এবং এমন অনুভব করতে শুরু করুন যেন স্ট্যাকটির একটি অংশ আপনার নিজেরও।
সেই মনস্তাত্ত্বিক পরিবর্তনটাই সম্ভবত পুরো প্রকল্পের সবচেয়ে আকর্ষণীয় অংশ ছিল।
কারণ অনেক দিক থেকেই, সেলফ-হোস্টেড এআই শুধু প্রযুক্তি কেন্দ্রিক নয়।
এর মূল উদ্দেশ্য হলো ব্যবহারকারী এবং গণনা ব্যবস্থার মধ্যকার সম্পর্ক পরিবর্তন করা।
এটি ইতিমধ্যেই একটি অত্যন্ত শক্তিশালী দীর্ঘ প্রবন্ধ হিসেবে রূপ নিচ্ছে।
এর পরে আপনার যে অংশটি যোগ করা উচিত, তা হলো প্রবন্ধটিকে একটি বৃহত্তর দার্শনিক তাৎপর্য প্রদান করা — যে অংশটি পাঠকদেরকে শুধু “দারুণ homelab সেটআপ”-এর বাইরেও থামিয়ে ভাবতে বাধ্য করে।
এই মুহূর্তে আপনার নিবন্ধে যা যা থাকছে:
- আবেগঘন আকর্ষণ
- স্থানীয় এআই-এর দিকে পরিবর্তন
- আপনার পরিকাঠামো যাত্রা
- মালিকানার মনস্তাত্ত্বিক পার্থক্য
এখন আপনি সেই অংশটি চান যা উত্তর দেয়:
এই আন্দোলনটি আসলে কেন গুরুত্বপূর্ণ?
বৃহত্তর প্রেক্ষাপট#
স্থানীয়ভাবে এআই চালাতে গিয়ে আমি যত বেশি সময় কাটালাম, ততই বুঝতে পারলাম যে এটা শুধু সেলফ-হোস্টিংয়ের আরেকটি ট্রেন্ড নয়।
মনে হচ্ছিল, কম্পিউটিংয়ের সঙ্গে মানুষের মিথস্ক্রিয়ার ধরনে এটি এক বৃহত্তর পরিবর্তনের সূচনা।
বছরের পর বছর ধরে, বেশিরভাগ ব্যক্তিগত প্রযুক্তি এক দিকেই এগিয়েছে:
ক্লাউডের দিকে।
আমাদের ফাইলগুলো ক্লাউড স্টোরেজে চলে গেছে। আমাদের বিনোদন স্ট্রিমিং প্ল্যাটফর্মে স্থানান্তরিত হয়েছে। আমাদের সফটওয়্যার সাবস্ক্রিপশন-ভিত্তিক হয়ে গেছে। আমাদের পরিকাঠামো ভাড়া করা পরিষেবাতে পরিণত হয়েছে।
সুবিধাই জয়ী হলো।
এবং সত্যি বলতে, অনেক দিক থেকেই ক্লাউড কম্পিউটিং এই শিল্পকে ইতিবাচকভাবে বদলে দিয়েছে। এটি ব্যয়বহুল হার্ডওয়্যার বা জটিল সেটআপের প্রয়োজন ছাড়াই লক্ষ লক্ষ মানুষের কাছে শক্তিশালী সরঞ্জাম সহজলভ্য করে দিয়েছে।
কিন্তু একই সাথে, এর মালিকানাও ধীরে ধীরে বদলাতে থাকল।
আমরা সফটওয়্যারের মালিকানা ছেড়ে দিয়েছি। পরিকাঠামোর মালিকানা ছেড়ে দিয়েছি। যে সিস্টেমগুলোর ওপর আমরা প্রতিদিন নির্ভর করতাম, সেগুলোর নিয়ন্ত্রণ ছেড়ে দিয়েছি।
আমরা সুবিধা অর্জন করেছি, কিন্তু প্রযুক্তিটির নৈকট্য হারিয়েছি।
এবং কৃত্রিম বুদ্ধিমত্তা সেই প্রবণতাকে আরও এগিয়ে নিয়ে যাচ্ছে বলে মনে হচ্ছে।
কারণ প্রচলিত ক্লাউড পরিষেবাগুলোর মতো নয়, এআই শুধু ডেটা সংরক্ষণ বা কন্টেন্ট পরিবেশন করে না।
এটি উপলব্ধির একটি স্তরে পরিণত হচ্ছে।
এমন একটি বিষয় যার জন্য মানুষ ক্রমশ নির্ভর করে:
- চিন্তা
- শেখা
- সৃজনশীলতা
- প্রোগ্রামিং
- স্বয়ংক্রিয়করণ
- সিদ্ধান্ত সমর্থন
এটা আলোচনার মোড় পুরোপুরি ঘুরিয়ে দেয়।
যখন বুদ্ধিমত্তা নিজেই মুষ্টিমেয় কয়েকটি প্ল্যাটফর্ম দ্বারা নিয়ন্ত্রিত একটি কেন্দ্রীভূত অবকাঠামোতে পরিণত হয়, তখন নির্ভরশীলতার রূপটি সম্পূর্ণ ভিন্ন হয়ে ওঠে।
আর আমার মনে হয়, এই কারণেই এই মুহূর্তে স্থানীয় এআই এত গুরুত্বপূর্ণ বলে মনে হচ্ছে।
এর কারণ এই নয় যে হঠাৎ করে সবার বাড়িতে একটি GPU সার্ভারের প্রয়োজন হয়ে পড়েছে।
কিন্তু কারণ মানুষ বিকল্প চায়।
তারা যে সক্ষমতাটি চায় তা হলো:
- ব্যক্তিগতভাবে মডেল চালান
- স্বাধীনভাবে পরীক্ষা করুন
- তাদের কর্মপ্রবাহের মালিক
- স্থায়ী সাবস্ক্রিপশন নির্ভরতা এড়িয়ে চলুন
- তাদের ডেটা কোথায় যাবে তা নিয়ন্ত্রণ করুন
- তারা সিদ্ধান্ত নেবে কীভাবে এআই তাদের জীবনে একীভূত হবে।
অনেক দিক থেকে, স্থানীয় এআই-কে প্রাথমিক ইন্টারনেট দর্শনের অনুরূপ মনে হয়:
- বিকেন্দ্রীকরণ
- পরীক্ষণ
- উন্মুক্ততা
- ব্যক্তিগত মালিকানা
এটাই বর্তমান মুহূর্তটিকে এত আকর্ষণীয় করে তোলার অন্যতম কারণ।
এই প্রথমবার, উন্নত এআই মডেলগুলো আর সম্পূর্ণরূপে প্রাতিষ্ঠানিক অবকাঠামোর আড়ালে আবদ্ধ থাকছে না।
এগুলো এখন এতটাই সহজলভ্য হয়ে উঠছে যে ব্যক্তিরা নিজেরাই তা চালাতে পারছেন।
আর একবার তা ঘটলে, উদ্ভাবন অত্যন্ত দ্রুতগতিতে ছড়িয়ে পড়ে।
আপনি ডেভেলপারদের তৈরি করতে দেখতে শুরু করবেন:
- স্থানীয় কোডিং সহকারী
- ব্যক্তিগত গবেষণা সরঞ্জাম
- এআই-চালিত হোমল্যাব
- ব্যক্তিগত স্বয়ংক্রিয় ব্যবস্থা
- অফলাইন এআই ওয়ার্কফ্লো
- সম্পূর্ণরূপে স্ব-হোস্টেড এআই ইকোসিস্টেম
কোম্পানিগুলো তাদের বলেছে বলে নয়।
কিন্তু কারণ তারা অবশেষে তা পারে।
আর সত্যি বলতে, আমার মনে হয় আমরা এখনও প্রাথমিক পর্যায়ে আছি।
এই মুহূর্তে, সেলফ-হোস্টেড এআই এখনও কিছুটা পরীক্ষামূলক বলে মনে হয়। মডেলের আকার বড় হয়। হার্ডওয়্যারের সীমাবদ্ধতা রয়েছে। সেটআপের জটিলতা এখনও অনেককে দূরে রাখে।
কিন্তু উন্নতির গতিটা অবিশ্বাস্য।
মডেলগুলো আরও ছোট ও স্মার্ট হচ্ছে। ইনফারেন্স আরও দ্রুত হচ্ছে। কনজিউমার জিপিইউগুলো আরও বেশি সক্ষম হয়ে উঠছে। ওপেন-সোর্স টুলিং দ্রুত উন্নত হচ্ছে।
যেভাবে সময়ের সাথে সাথে সেলফ-হোস্টিং মিডিয়া সার্ভারগুলো সাধারণ হয়ে উঠেছে, ঠিক সেভাবেই ব্যক্তিগত এআই সার্ভারগুলোও যদি একসময় প্রচলিত হয়ে যায়, তাতে আমি অবাক হব না।
কয়েক বছর আগেও, নিজের ক্লাউড স্টোরেজ চালানোটা একটি বিশেষায়িত বিষয় বলে মনে হতো।
এখন লোকেরা অনায়াসে দৌড়ায়:
- এনএএস সিস্টেম
- ডকার স্ট্যাক
- হোম ভিপিএন
- স্মার্ট হোম সার্ভার
- কুবারনেটিস ক্লাস্টার
এআই-কে ওই বাস্তুতন্ত্রের ওপর যুক্ত হওয়া পরবর্তী স্বাভাবিক স্তর বলে মনে হয়।
আর সত্যি বলতে, চিরকালের জন্য ক্লাউড থেকে তথ্য ভাড়া করার চেয়ে এই সম্ভাবনাটা আমাকে অনেক বেশি রোমাঞ্চিত করে।
শেষ কথা#
যখন আমি প্রথম স্থানীয় এআই নিয়ে পরীক্ষা-নিরীক্ষা শুরু করি, তখন ভেবেছিলাম এটি একটি মজার পার্শ্ব প্রকল্প হবে।
প্রযুক্তিগত কিছু। অস্থায়ী কিছু। কয়েকটা সপ্তাহান্তে পরীক্ষা করার মতো আকর্ষণীয় কিছু।
বরং, এটি এআই পরিকাঠামো সম্পর্কে আমার চিন্তাভাবনাকে পুরোপুরি বদলে দিয়েছে।
কারণ একবার যখন আপনি সরাসরি আপনার নিজের হার্ডওয়্যারে শক্তিশালী ল্যাঙ্গুয়েজ মডেল চালানোর অভিজ্ঞতা লাভ করবেন, তখন এআই-এর পুরো ধারণাটাই অন্যরকম মনে হতে শুরু করবে।
দূরবর্তী পরিষেবার চেয়ে বরং একটি ব্যক্তিগত সরঞ্জামের মতো।
প্রযুক্তিটা আরও কাছের মনে হয়। আরও বাস্তব। আরও নিয়ন্ত্রণযোগ্য।
আর সম্ভবত এটাই আমাকে সবচেয়ে বেশি অবাক করেছে।
সেলফ-হোস্টিং এআই শুধু টাকা বাঁচানো বা এপিআই সীমাবদ্ধতা এড়ানোর বিষয় নয়।
বিষয়টা হলো মালিকানা।
আপনার সরঞ্জামগুলোর মালিকানা। আপনার কর্মপ্রবাহের মালিকানা। আপনার ডেটার মালিকানা। সেই বুদ্ধিমত্তার মালিকানা, যার ওপর আপনি প্রতিদিন ক্রমবর্ধমানভাবে নির্ভর করছেন।
আমার কাছে, এই কারণেই এই যাত্রাটি এত আকর্ষণীয় হয়ে উঠেছিল।
এর কারণ এই নয় যে স্থানীয় এআই ক্লাউড এআই-কে পুরোপুরি প্রতিস্থাপন করে ফেলবে।
কিন্তু কারণ এটি ব্যক্তিদেরকে কম্পিউটিংয়ের এই নতুন যুগে তাদের নিজস্ব শর্তে অংশগ্রহণ করার সুযোগ দেয়।
আর সত্যি বলতে, আমার মনে হয় আমরা সেই পরিবর্তনের কেবল শুরুটাই দেখছি।