মুনশট এআই-এর কিমি K2.5 নিয়ে রেডিটে প্রশ্নোত্তরে উন্মোচিত হলো ওপেন-সোর্সের অত্যাধুনিক মডেলগুলোর জটিল বাস্তবতা

পড়তে 14 মিনিট
মুনশট এআই-এর কিমি K2.5 নিয়ে রেডিটে প্রশ্নোত্তরে উন্মোচিত হলো ওপেন-সোর্সের অত্যাধুনিক মডেলগুলোর জটিল বাস্তবতা

৫৯৫ গিগাবাইটের মডেল যখন ডেভেলপারদের বাস্তবতার মুখোমুখি

শিল্প বিশ্লেষকদের ভাষায়, এ পর্যন্ত তৈরি সবচেয়ে শক্তিশালী ওপেন-সোর্স কৃত্রিম বুদ্ধিমত্তার মডেল প্রকাশের দুই দিন পর মুনশট এআইয়ের গবেষকেরা রেডিটে এসে এমন এক শ্রোতৃমণ্ডলীর মুখোমুখি হলেন, যাঁরা একই সঙ্গে উচ্ছ্বসিত ও হতাশ। বেইজিংভিত্তিক স্টার্টআপটির উদ্‌যাপনের যথেষ্ট কারণ ছিল। মার্কিন এআই জায়ান্টদের সঙ্গে সক্ষমতার ব্যবধান কমানো এবং যুক্তরাষ্ট্রের চিপ রপ্তানি নিয়ন্ত্রণের সীমা পরীক্ষা করার খবরের শিরোনামে জায়গা করে নিয়েছিল কিমি K2.5। কিন্তু r/LocalLLaMA-তে অপেক্ষায় থাকা ডেভেলপারদের উদ্বেগ ছিল আরও তাৎক্ষণিক। এই ফোরামে প্রকৌশলীরা একক ভোক্তা-শ্রেণির জিপিইউ থেকে শুরু করে পেশাদারদের ছোট হার্ডওয়্যার র‌্যাক পর্যন্ত নানা যন্ত্রে বড় ভাষা মডেল চালানোর অভিজ্ঞতা বিনিময় করেন। তাঁদের জানতে চাওয়ার বিষয় ছিল, মডেলটি তাঁরা আসলে কবে ব্যবহার করতে পারবেন।

সূচিপত্র
  1. ৫৯৫ গিগাবাইটের মডেল যখন ডেভেলপারদের বাস্তবতার মুখোমুখি
  2. যে আকারের সমস্যা কাটছে না
  3. স্কেলিংয়ের নিয়ম কি দেয়ালে ঠেকেছে?
  4. এজেন্ট সোয়ার্মের ভেতরে: ১০০ সাব-এজেন্ট কীভাবে স্মৃতি ভাগ করে
  5. সিস্টেম ১ থেকে সিস্টেম ২-তে সরে যাওয়া
  6. কিমি কখনো নিজেকে ক্লদ বলে কেন
  7. রিওয়ার্ড মডেলে স্বকীয়তার খোঁজ
  8. এআই গবেষণার আসল কাজ: ত্রুটি নির্ণয়
  9. K3 ও ধারাবাহিকভাবে শেখার রোডম্যাপ
  10. ২০২৬ সালে ওপেন এআই সম্পর্কে যা জানা গেল
  11. একনজরে

তিন ঘণ্টার ‘আস্ক মি এনিথিং’ (এএমএ) অধিবেশনটি ২০২৬ সালে অত্যাধুনিক এআই উন্নয়নের এক অপ্রত্যাশিতভাবে খোলামেলা চিত্র তুলে ধরে। করপোরেট বিপণনসামগ্রীতে যে মসৃণ ছবি দেখা যায়, এটি তা নয়; বরং ত্রুটি নির্ণয়, মডেলের ব্যক্তিত্বে পরিবর্তন সামলানো এবং আজকের ওপেন-সোর্স এআইকে সংজ্ঞায়িত করা মৌলিক টানাপোড়েনের জটিল বাস্তবতা। মুনশট মডেলটির ওয়েট প্রকাশ করেছে, যাতে যে কেউ তা ডাউনলোড ও নিজের মতো করে সাজিয়ে নিতে পারেন। ফাইলটির আকার প্রায় ৫৯৫ গিগাবাইট। আলোচনায় অংশ নেওয়া বেশির ভাগ ডেভেলপারের কাছে এই উন্মুক্ততা রয়ে গেছে নিছক তাত্ত্বিক।

ComfortableAsk4494, zxytim ও ppwwyyxx ব্যবহারকারী নামে মুনশট দলের তিন সদস্য এতে অংশ নেন। প্রায় ১৮৭টি মন্তব্যে তাঁরা মডেলের স্থাপত্য, প্রশিক্ষণপদ্ধতি এবং এআই মডেলের স্বকীয়তা তৈরি হয় কীভাবে—এই দার্শনিক প্রশ্ন নিয়ে কথা বলেন। পাশাপাশি তাঁরা পরবর্তী অগ্রগতির সম্ভাব্য পথের একটি চিত্রও দেন, যা কেবল আরও বেশি প্যারামিটারের ওপর নির্ভরশীল নয়।

বিজ্ঞাপন

যে আকারের সমস্যা কাটছে না

প্রথম দফার প্রশ্নগুলোতে কিমি K2.5-কে যুগান্তকারী উদ্ভাবনের চেয়ে লজিস্টিক সমস্যাই বেশি মনে হয়েছে। এক ব্যবহারকারী সরাসরি জানতে চান, ফ্ল্যাগশিপ মডেলের পাশাপাশি মুনশট কেন ছোট মডেল তৈরি করছে না। তিনি লেখেন, “৮বি, ৩২বি, ৭০বির মতো ছোট আকার বুদ্ধিমত্তার ঘনত্বের জন্য দারুণ,” যেখানে ‘বি’ বলতে বিলিয়ন বা শতকোটি প্যারামিটার বোঝানো হয়েছে। আরেকজন বলেন, বিশাল মডেল নিয়ে উচ্ছ্বসিত হওয়া কঠিন হয়ে পড়েছে, কারণ অনেক ডেভেলপারই সেগুলো চালাতে পারেন না। তৃতীয় একজন আকারের মানদণ্ড হিসেবে মার্কিন প্রতিদ্বন্দ্বীদের কথা তুলে ধরে সীমিত ক্ষমতার জিপিইউতে চালানো যাবে—এমন কোডিং-কেন্দ্রিক সংস্করণ চান।

মুনশটের দল তখনই কোনো ছোট মডেল আনার ঘোষণা দেয়নি। তবে তাদের জবাবে বোঝা যায়, এ দাবি তাদের কাছে পরিচিত। এক সহ-আয়োজক লেখেন, “অনুরোধগুলো নোট করা হলো!” আরেকজন জানান, মুনশটের মডেল সংগ্রহে হাগিং ফেসে কয়েকটি ছোট মিশ্র-বিশেষজ্ঞ মডেল ইতিমধ্যে রয়েছে। তবে ছোট ও বড় মডেলের জন্য প্রায়ই আলাদা প্রকৌশল বিনিয়োগ দরকার বলেও তিনি সতর্ক করেন।

সবচেয়ে তাৎপর্যপূর্ণ উত্তরটি আসে যখন এক ব্যবহারকারী জানতে চান, স্থানীয়ভাবে ব্যবহারের জন্য প্রায় ১০০ বিলিয়ন প্যারামিটারের কোনো মডেল মুনশট তৈরি করবে কি না। কিমি দল এর বদলে আরেকটি আপসের প্রস্তাব দেয়: ২০০ বিলিয়ন বা ৩০০ বিলিয়ন প্যারামিটারের এমন মডেল, যা অনেক কাজেই তাদের ভাষায় “ব্যবহারযোগ্যতার সীমা”র ওপরে থাকতে পারে। এই উত্তর ওপেন-ওয়েট ল্যাবগুলোর দোটানাটা তুলে ধরে। এক ট্রিলিয়ন প্যারামিটারের ব্যবস্থার তুলনায় ২০০ থেকে ৩০০ বিলিয়ন প্যারামিটারের মডেল আরও বেশি মানুষের নাগালে আসবে। কিন্তু তাতেও একাধিক জিপিইউ বা মেমরি বাঁচাতে নির্ভুলতা কমিয়ে দেওয়া আক্রমণাত্মক কোয়ান্টাইজেশন কৌশল দরকার হবে।

আলোচনায় থাকা ডেভেলপাররা শুধু কিছুটা ছোট মডেল চাইছিলেন না। তাঁদের চাহিদা ছিল নিজেদের হাতে থাকা হার্ডওয়্যারে চালানো যায় এমন মডেল এবং এমন একটি রোডম্যাপ, যেখানে স্থানীয়ভাবে চালানোর বিষয়টিকে শখের ব্যবহারকারীদের গৌণ চাহিদা না ভেবে শুরু থেকেই গুরুত্বপূর্ণ সীমাবদ্ধতা হিসেবে দেখা হবে। এই বিনিময়ে ওপেন-সোর্স এআই সম্প্রদায়ের মধ্যে ক্রমবর্ধমান বিভাজনটি স্পষ্ট হয়েছে: একদিকে ডেটা সেন্টার-সমমানের অবকাঠামো লাগে এমন বিশাল মডেল প্রকাশকারী ল্যাব, অন্যদিকে নিজেদের যন্ত্রে ব্যবস্থা চালাতে আগ্রহী ব্যবহারকারীরা।

বিজ্ঞাপন

স্কেলিংয়ের নিয়ম কি দেয়ালে ঠেকেছে?

হার্ডওয়্যার নিয়ে অভিযোগ পেরিয়ে আলোচনা এগোতে থাকলে বড় ভাষা মডেল নিয়ে গবেষকদের কাছে ক্রমে সবচেয়ে গুরুত্বপূর্ণ হয়ে ওঠা প্রশ্নটি সামনে আসে: স্কেলিংয়ের নিয়ম কি স্থবির হয়ে পড়েছে? মডেলের আকার, ডেটার পরিমাণ ও কর্মক্ষমতার মধ্যে পূর্বানুমানযোগ্য যে সম্পর্ক বছরের পর বছর এআইয়ের অগ্রগতিকে চালিত করেছে, তাকেই স্কেলিংয়ের নিয়ম বলা হয়। এক অংশগ্রহণকারী সরাসরি জানতে চান, স্কেলিং কি “দেয়ালে ঠেকেছে”?

কিমির এক প্রতিনিধি এমন একটি ব্যাখ্যা দেন, যা শিল্পজুড়ে ক্রমেই বেশি শোনা যাচ্ছে। তিনি লেখেন, “উচ্চমানের ডেটার পরিমাণ উপলভ্য কম্পিউটিং ক্ষমতার মতো দ্রুত বাড়ছে না। তাই ইন্টারনেটের ডেটা দিয়ে প্রচলিত পরবর্তী-টোকেন পূর্বাভাস পদ্ধতিতে স্কেল বাড়ালে উন্নতি কম হবে।” এই পর্যবেক্ষণ একটি মৌলিক সীমাবদ্ধতার কথা বলে: ইন্টারনেটে মানসম্মত লেখা সীমিত, আর এআই ল্যাবগুলো এর বেশির ভাগ দিয়েই ইতিমধ্যে প্রশিক্ষণ দিয়েছে।

এরপর দলটি বিকল্প পথ হিসেবে তাদের পছন্দের পদ্ধতির কথা বলে। কিমি K2.5-এর এজেন্ট সোয়ার্ম ব্যবস্থার উল্লেখ করে তারা জানায়, এটি সমান্তরালে কাজ করা সর্বোচ্চ ১০০টি সাব-এজেন্টের মধ্যে সমন্বয় করতে পারে। তাদের মতে, এটি “ইনফারেন্স-সময়ের স্কেলিং”-এর একটি ধরন, যা সক্ষমতা বাড়ানোর নতুন পথ খুলে দিতে পারে। ইনফারেন্স-সময়ের স্কেলিং বলতে প্রাথমিক প্রশিক্ষণের সময় নয়, বরং মডেল যখন বাস্তবে প্রশ্নের উত্তর দেয়, তখন ব্যবহৃত কম্পিউটিং ক্ষমতা বাড়ানোকে বোঝায়।

দলের ব্যাখ্যায়, স্কেল বাড়ানো মানে শুধু প্রাক-প্রশিক্ষণের পরিসর বাড়ানো নয়। ইনফারেন্সের সময় কাঠামোবদ্ধ কাজের পরিমাণ বাড়িয়ে, পরে রিইনফোর্সমেন্ট লার্নিংয়ের মাধ্যমে সেই অন্তর্দৃষ্টি প্রশিক্ষণে যুক্ত করাও এর অন্তর্ভুক্ত হতে পারে। এক সহ-আয়োজক লেখেন, “স্কেল বাড়ানোর নতুন ধরন সম্ভবত আসতে পারে। সামনে হয়তো এমন মডেল দেখা যাবে, যা মানুষের পূর্বধারণার ওপর কম, এমনকি একেবারেই নির্ভর না করে শিখবে।”

এই বক্তব্যের ইঙ্গিত, অগ্রগতির মাপকাঠি হয়তো প্যারামিটারের সংখ্যা ও প্রাক-প্রশিক্ষণের লস কার্ভ থেকে সরে এমন ব্যবস্থার দিকে যাচ্ছে, যেগুলো পরিকল্পনা করতে, কাজ ভাগ করে দিতে এবং ফল যাচাই করতে পারে। এগুলো একটি নিউরাল নেটওয়ার্কে একবারের বিশাল গণনার ওপর নির্ভর না করে টুল ও সাব-এজেন্টকে ভিত্তি হিসেবে ব্যবহার করে।

বিজ্ঞাপন

এজেন্ট সোয়ার্মের ভেতরে: ১০০ সাব-এজেন্ট কীভাবে স্মৃতি ভাগ করে

কাগজে-কলমে এজেন্ট সোয়ার্মের ধারণাটি পুরোনো এক ভাবনার নতুন মোড়ক বলে মনে হয়: একটি কাজে অনেক এআই এজেন্টের সহযোগিতা। তবে এএমএতে আরও গুরুত্বপূর্ণ কিছু বিস্তারিত বিষয় উঠে আসে—তথ্য কোথায় সংরক্ষিত হয়, সমন্বয় কীভাবে হয় এবং কেন কাজ পরিচালনার ব্যবস্থা গোলমালে ভেঙে পড়ে না।

এক ডেভেলপার বহু-এজেন্ট ব্যবস্থার একটি পরিচিত উদ্বেগ তুলে ধরেন। ১০০টি সাব-এজেন্ট থাকলে সমন্বয়কারী এজেন্ট প্রায়ই গতি এবং সম্প্রদায়ের ভাষায় “কনটেক্সট রট”—দুই দিক থেকেই বাধা হয়ে দাঁড়ায়। কথোপকথনের ইতিহাসে অভ্যন্তরীণ কথাবার্তা ও টুল ব্যবহারের রেকর্ড জমতে জমতে মডেল তার মূল কাজের সূত্র হারিয়ে ফেললে কর্মক্ষমতার যে অবনতি ঘটে, তাকে কনটেক্সট রট বলা হয়।

কিমির এক সহ-আয়োজক এমন একটি নকশাগত সিদ্ধান্তের কথা বলেন, যা এন্টারপ্রাইজ পর্যায়ে এজেন্ট ব্যবস্থা তৈরি করা যে কারও জন্য গুরুত্বপূর্ণ।

সাব-এজেন্টগুলো নিজেদের আলাদা কার্যকরী স্মৃতি নিয়ে কাজ করে এবং সবকিছু একটি অভিন্ন প্রসঙ্গে পাঠানোর বদলে সমন্বয়কারীকে ফলাফল জানায়। এতে আমরা ভিন্ন একটি মাত্রায় মোট প্রসঙ্গের দৈর্ঘ্য বাড়াতে পারি!

আরেক ডেভেলপার কর্মক্ষমতা নিয়ে করা দাবির বিষয়ে জানতে চান। মুনশট প্রকাশ্যে বলেছে, উপযোগী কাজের ক্ষেত্রে এজেন্ট সোয়ার্ম প্রায় ৪.৫ গুণ গতি বাড়াতে পারে। সংশয়ীরা জানতে চান, এই হিসাব কি শুধু নির্দিষ্ট কাজ কতটা সমান্তরালে করা সম্ভব, সেটাই তুলে ধরে? দলটি স্বীকার করে, ফল নির্ভর করে কাজের ওপর। কোনো কোনো ক্ষেত্রে ব্যবস্থা ঠিক করে যে কাজে সমান্তরাল এজেন্টের দরকার নেই এবং অতিরিক্ত কম্পিউটিং ক্ষমতা খরচ করে না। দলটি আরও জানায়, সমন্বয়কারীকে সাব-এজেন্টগুলোর টোকেন বাজেট সামলাতে হয় এবং প্রত্যেককে উপযুক্ত আকারের কাজ দিতে হয়।

বিপণনের ভাষা বাদ দিয়ে প্রকৌশলগত দৃষ্টিতে পড়লে, মুনশটের বর্ণনাটি পরিচিত এক এন্টারপ্রাইজ পদ্ধতিরই কথা বলে: নিয়ন্ত্রণব্যবস্থাকে পরিচ্ছন্ন রাখা, কর্মী প্রক্রিয়াগুলোর ফলাফলের সীমা নির্ধারণ করা এবং সমন্বয়কারী যে লগ বুঝতে পারবে না, তা দিয়ে তাকে ভরিয়ে না তোলা। এই স্থাপত্যের ইঙ্গিত, ভবিষ্যতের এআই ব্যবস্থা একক, বিশাল চ্যাটবটের চেয়ে বিতরণকৃত কম্পিউটিং ক্লাস্টারের মতো দেখতে হবে।

বিজ্ঞাপন

সিস্টেম ১ থেকে সিস্টেম ২-তে সরে যাওয়া

এএমএতে সবচেয়ে তাৎপর্যপূর্ণ পরিবর্তনের যে ইঙ্গিত পাওয়া যায়, তা নতুন কোনো বেঞ্চমার্ক স্কোর নয়। এটি গবেষণার অগ্রাধিকার নিয়ে একটি বক্তব্য। এক প্রশ্নে জানতে চাওয়া হয়, মুনশট কি “সিস্টেম ১”-এর প্রাক-প্রশিক্ষণ থেকে কম্পিউটিং ক্ষমতা সরিয়ে “সিস্টেম ২”-এর রিইনফোর্সমেন্ট লার্নিংয়ে দিচ্ছে? মনোবিজ্ঞানী ড্যানিয়েল কাহনেম্যান জনপ্রিয় করা এই পরিভাষাগুলো চিন্তার দুই ধরন বোঝায়: সিস্টেম ১ হলো দ্রুত, সহজাত চিন্তা; আর সিস্টেম ২ হলো ধীর, ভেবেচিন্তে যুক্তি করার প্রক্রিয়া।

এআইয়ের ক্ষেত্রে এর অর্থ, বিস্তৃত ধরন শনাক্ত করার শিক্ষা থেকে সরে বহু ধাপের কাজে যুক্তি ও সঠিক আচরণকে স্পষ্টভাবে পুরস্কৃত করে—এমন প্রশিক্ষণের দিকে যাওয়া। কিমির এক প্রতিনিধি জানান, রিইনফোর্সমেন্ট লার্নিংয়ে কম্পিউটিং ক্ষমতার ব্যবহার বাড়তেই থাকবে। তিনি ইঙ্গিত দেন, বিশেষ করে “এজেন্টের ক্ষেত্রে” নতুন ধরনের আরএল উদ্দেশ্য-ফাংশন আসতে পারে।

এই বক্তব্যকে রোডম্যাপ হিসেবেও পড়া যায়। মডেল যত বেশি টুল ব্যবহার ও কাজকে ভাগ করতে শিখবে, ল্যাবগুলো তত বেশি বাজেট ব্যয় করবে এজেন্ট হিসেবে ভালো আচরণ শেখাতে; শুধু টোকেনের পূর্বাভাস দেওয়ায় নয়। এন্টারপ্রাইজগুলোর জন্য বিষয়টি গুরুত্বপূর্ণ, কারণ আরএল-নির্ভর উন্নতির সঙ্গে প্রায়ই কিছু আপস জড়িত থাকে। কোনো মডেল আরও দৃঢ় সিদ্ধান্ত নিতে পারে, অতিরিক্ত টুল ব্যবহার করতে পারে, কিংবা এমন পুরস্কার সংকেতের সঙ্গে বেশি সামঞ্জস্যপূর্ণ হয়ে উঠতে পারে, যা কোনো প্রতিষ্ঠানের প্রত্যাশার সঙ্গে পুরোপুরি মেলে না।

মুনশটের তুলনায় অনেক বড় জিপিইউ বহর থাকা মার্কিন ল্যাবগুলোর সঙ্গে কম্পিউটিং ক্ষমতার ব্যবধান নিয়ে জানতে চাইলে দলটি খোলাখুলি উত্তর দেয়। এক সহ-আয়োজক লেখেন, “আমার মনে হয় ব্যবধান কমছে না। তবে এজিআই অর্জনে কতটা কম্পিউটিং ক্ষমতা দরকার? দেখা যাক।” আরেকজন বিষয়টিকে আরও দার্শনিকভাবে তুলে ধরেন: “কম্পিউটিং ক্ষমতা কতটা পাওয়া যাবে, তা অনেক বিষয়ের ওপর নির্ভর করে। তবে যা-ই হোক, সীমাবদ্ধতার মধ্যেই উদ্ভাবন বিকশিত হয়।”

বিজ্ঞাপন

কিমি কখনো নিজেকে ক্লদ বলে কেন

ওপেন-ওয়েট মডেল প্রকাশের সঙ্গে এখন একটি নিয়মিত সন্দেহও জড়িয়ে থাকে: মডেলটি কি প্রতিদ্বন্দ্বীদের কাছ থেকে অতিরিক্ত কিছু শিখেছে? এই সন্দেহ দ্রুতই ডিস্টিলেশনের অভিযোগে রূপ নিতে পারে। ডিস্টিলেশনে একটি এআই অন্য এআইয়ের আউটপুটের ওপর প্রশিক্ষিত হয়। ওপেন মডেল নিয়ে আলোচনায় ছড়িয়ে থাকা সবচেয়ে অস্বস্তিকর দাবিগুলোর একটি তোলেন এক ব্যবহারকারী: K2.5 কখনো কখনো নিজেকে অ্যানথ্রপিকের ফ্ল্যাগশিপ মডেল “ক্লদ” বলে পরিচয় দেয়। এতে ব্যাপকভাবে অন্যের কাজ থেকে নেওয়ার ইঙ্গিত ছিল।

মুনশট এ আচরণ উড়িয়ে দেয়নি। বরং কোন পরিস্থিতিতে এমনটা ঘটে, তা ব্যাখ্যা করেছে। দলের ভাষ্য, উপযুক্ত সিস্টেম প্রম্পট দিলে মডেলটির “কিমি” বলার সম্ভাবনা বেশি, বিশেষ করে থিংকিং মোডে। কিন্তু সিস্টেম প্রম্পট ফাঁকা থাকলে মডেল এমন এক “অনির্ধারিত এলাকায়” চলে যায়, যা সচেতন প্রশিক্ষণ-সিদ্ধান্তের বদলে প্রাক-প্রশিক্ষণের ডেটা বণ্টনকে প্রতিফলিত করে।

এরপর তারা প্রশিক্ষণসংক্রান্ত একটি সিদ্ধান্তের সঙ্গে যুক্ত নির্দিষ্ট ব্যাখ্যা দেয়। মুনশট জানায়, প্রাক-প্রশিক্ষণের সময় তারা ইন্টারনেট থেকে নেওয়া নতুন কোডিং ডেটার অনুপাত বাড়িয়েছিল। এই ডেটায় “ক্লদ” টোকেনটির উল্লেখ বেশি দেখা যায়, সম্ভবত এআই কোডিং সহকারী নিয়ে আলোচনা করা ডেভেলপাররা প্রায়ই অ্যানথ্রপিকের মডেলটির নাম উল্লেখ করেন। বেঞ্চমার্কের ফল দেখিয়ে দলটি ডিস্টিলেশনের অভিযোগ খণ্ডন করে।

আসলে অনেক বেঞ্চমার্কেই K2.5 ক্লদকে ছাড়িয়ে গেছে বলে মনে হয়। HLE, BrowseComp, MMMU Pro, MathVision—কয়েকটির নামই বললাম।

এন্টারপ্রাইজে মডেল ব্যবহারকারীদের কাছে ইন্টারনেটের বিতর্কটি মূল বিষয় নয়। গুরুত্বপূর্ণ বিষয় হলো, পরিচয় বদলে যাওয়া একটি বাস্তব ত্রুটির ধরন। মডেলের নিজের পরিচয় কী হবে, তা অনিশ্চয়তার ওপর ছেড়ে না দিয়ে সিস্টেম প্রম্পট নিয়ন্ত্রণের মাধ্যমে প্রতিষ্ঠানগুলো প্রায়ই এ সমস্যা কমাতে পারে। এএমএতে প্রম্পট পরিচালনাকে শুধু ব্যবহারকারীর অভিজ্ঞতা বাড়ানোর বিষয় হিসেবে নয়, নির্ভরযোগ্যভাবে মডেল ব্যবহারের জরুরি পরিচালনাগত শৃঙ্খলা হিসেবে দেখা হয়েছে।

বিজ্ঞাপন

রিওয়ার্ড মডেলে স্বকীয়তার খোঁজ

আলোচনায় বারবার উঠে এসেছে, আগের কিমি মডেলগুলোর তুলনায় K2.5-এর লেখার ধরন বেশি সাধারণ মনে হয়। ব্যবহারকারীরা বলছেন, এটি এখন বেশি করে আদর্শ “সহায়ক সহকারী”র মতো। বেশি প্রশিক্ষণোত্তর প্রক্রিয়ার মধ্য দিয়ে যাওয়া মডেলগুলোর স্বাভাবিক ব্যক্তিত্ব হিসেবে এই সুরকে এখন অনেক ডেভেলপার দেখেন। এক ব্যবহারকারী জানান, কিমি K2-এর ব্যক্তিত্ব তাঁর ভালো লেগেছিল এবং জানতে চান, এরপর কী হলো।

কিমির এক সহ-আয়োজক স্বীকার করেন, প্রতিটি নতুন সংস্করণে কিছু না কিছু ব্যক্তিত্বগত পরিবর্তন আসে। তিনি বলেন, ব্যক্তিত্ব বিষয়টি ব্যক্তিভেদে ভিন্ন এবং তা মূল্যায়ন করাও কঠিন। “এটি বেশ কঠিন সমস্যা,” তিনি লেখেন। দলটি জানায়, তারা সমস্যাটির উন্নতি করতে চায় এবং ব্যবহারকারীভেদে ব্যক্তিত্ব আরও কাস্টমাইজ করার সুযোগ দিতে চায়।

কোডিংয়ের দক্ষতা বাড়ালে সৃজনশীল লেখালেখি ও আবেগীয় বুদ্ধিমত্তার ক্ষতি হয় কি না, সে বিষয়ে আরেক আলোচনায় কিমির এক প্রতিনিধি বলেন, মডেল যথেষ্ট বড় হলে এ দুটির মধ্যে স্বাভাবিকভাবে কোনো বিরোধ নেই। তবে বিভিন্ন সংস্করণে “লেখার রুচি” ধরে রাখা কঠিন, কারণ রিওয়ার্ড মডেল নিয়ত বদলাচ্ছে। সৃজনশীল লেখালেখির অগ্রগতি নজরে রাখতে এবং সেই অনুযায়ী রিওয়ার্ড মডেল সমন্বয় করতে দলটি অভ্যন্তরীণ বেঞ্চমার্ক—একধরনের মেটা-মূল্যায়ন—ব্যবহার করে।

আরেকটি উত্তরে আরও এগিয়ে এমন ভাষা ব্যবহার করা হয়, যা করপোরেট এআইয়ের কারিগরি বিবরণীতে অস্বাভাবিক শোনালেও এসব টুল প্রতিদিন ব্যবহার করেন এমন মানুষের কাছে পরিচিত। দলটি রিওয়ার্ড মডেলের “আত্মা” নিয়ে কথা বলে এবং ব্যবহারকারীর রুচি প্রতিফলিত করা একটি “অবস্থা” সংরক্ষণ করে মডেলের আউটপুট তৈরিতে তা ব্যবহার করার সম্ভাবনার কথা তোলে। এই বিনিময় এমন এক পণ্যগত সম্ভাবনার দিকে ইঙ্গিত করে, যেটিকে এন্টারপ্রাইজগুলো প্রায়ই অবমূল্যায়ন করে। শৈলীর পরিবর্তন শুধু নান্দনিকতার বিষয় নয়। এতে মডেল কীভাবে সিদ্ধান্ত ব্যাখ্যা করে, কতটা দ্বিধা প্রকাশ করে, অস্পষ্টতা সামলায় এবং গ্রাহক ও কর্মীদের সঙ্গে যোগাযোগ করে—সবকিছু বদলে যেতে পারে।

বিজ্ঞাপন

এআই গবেষণার আসল কাজ: ত্রুটি নির্ণয়

প্রশিক্ষণ ও রিইনফোর্সমেন্ট লার্নিংয়ের সময় অপ্রত্যাশিত কী ঘটেছিল—এ প্রশ্নের উত্তরে আলোচনার সবচেয়ে তাৎপর্যপূর্ণ সাংস্কৃতিক দিকটি উঠে আসে। জোর দিতে এক সহ-আয়োজক একটিমাত্র শব্দ লেখেন: ত্রুটি নির্ণয়।

প্রাক-প্রশিক্ষণ হোক বা প্রশিক্ষণোত্তর ধাপ, একটি বিষয় বারবার সবচেয়ে গুরুত্বপূর্ণ অগ্রাধিকার হয়ে ওঠে: ত্রুটি নির্ণয়।

এই মন্তব্য পুরো অধিবেশনজুড়ে চলা একটি বিষয়কে স্পষ্ট করে। মডেলের বিভিন্ন আকারে নতুন ধারণা মূল্যায়নের “স্কেলিং সিঁড়ি” পদ্ধতি নিয়ে জানতে চাইলে zxytim ব্যর্থতার একটি অভিজ্ঞতা তুলে ধরেন। আগের প্রজন্মের মডেলে পরীক্ষামূলক লিনিয়ার-অ্যাটেনশন স্থাপত্য কিমি লিনিয়ার দ্রুত যুক্ত করতে গিয়ে দলটি একবার সমস্যায় পড়েছিল। একটি নির্দিষ্ট আকারে সেটি স্কেলিং সিঁড়ির পরীক্ষায় উত্তীর্ণ হয়নি। তাঁরা পেছনে ফিরে এসে সহ-আয়োজকের ভাষায় “কঠিন এক ত্রুটি নির্ণয় প্রক্রিয়ার” মধ্য দিয়ে যান। কয়েক মাস পর অবশেষে সেটি কাজ করাতে সক্ষম হন।

তিনি আরও লেখেন, “পরিসংখ্যানগতভাবে, ছোট আকারে কাজ করে—এমন বেশির ভাগ ধারণাই স্কেলিং সিঁড়ি পেরোতে পারে না। যেগুলো পারে, সেগুলো সাধারণত সরল, কার্যকর ও গাণিতিক ভিত্তিসম্পন্ন। গবেষণার কাজ মূলত ব্যর্থতা সামলানো, সাফল্য উদ্‌যাপন নয়।”

এআই সরবরাহকারী মূল্যায়ন করা কারিগরি নেতৃত্বের জন্য এই স্বীকারোক্তি শিক্ষণীয়। অত্যাধুনিক সক্ষমতা শুধু মার্জিত উদ্ভাবন থেকে আসে না। আসে নিরলসভাবে ত্রুটির উৎস খুঁজে বের করা থেকে, আর এমন প্রতিষ্ঠানের সংস্কৃতি থেকে যেখানে কাজটি সফল হবে কি না জানা না থাকলেও কোনো সমস্যায় মাসের পর মাস ব্যয় করতে প্রস্তুত থাকা হয়। পণ্য উন্মোচনের সময় প্রায়ই যে মসৃণ বয়ান শোনা যায়, বাস্তবতার এই চিত্র তার সঙ্গে তীব্রভাবে মেলে না।

বিজ্ঞাপন

K3 ও ধারাবাহিকভাবে শেখার রোডম্যাপ

এএমএটি কিমির পরবর্তী প্রজন্মের মডেল নিয়ে সূক্ষ্ম ইঙ্গিতও দেয়। ডেভেলপাররা জানতে চান, প্রচলিত অ্যাটেনশন পদ্ধতির চেয়ে দীর্ঘ প্রসঙ্গ আরও দক্ষভাবে সামলানোর লক্ষ্যে মুনশটের লিনিয়ার অ্যাটেনশন গবেষণা কিমি K3-তে যুক্ত হবে কি না। দলের সদস্যরা বলেন, লিনিয়ার পদ্ধতি গুরুত্বসহকারে বিবেচনা করা হচ্ছে। একজন লেখেন, “কিমি লিনিয়ার সম্ভবত K3-এর অংশ হবে। অন্য অপ্টিমাইজেশনও যুক্ত করব।”

অন্য এক আলোচনায় সহ-আয়োজক ভবিষ্যদ্বাণী করেন, K3 “K2.5-এর চেয়ে অনেক, এমনকি ১০ গুণও ভালো হতে পারে।” দলটি আরও জানায়, ধারাবাহিকভাবে শেখার বিষয়টি তারা সক্রিয়ভাবে অনুসন্ধান করছে। এর ইঙ্গিত, ভবিষ্যতে এজেন্টরা দীর্ঘ সময় ধরে কার্যকরভাবে কাজ করতে পারবে। একবারের কাজ নয়, চলমান প্রকল্প সামলাতে এজেন্ট কাজে লাগাতে চাইলে এটি এন্টারপ্রাইজের জন্য অত্যন্ত গুরুত্বপূর্ণ।

এক সহ-আয়োজক লেখেন, “আমরা মনে করি, ধারাবাহিকভাবে শেখার ফলে এজেন্টের স্বায়ত্তশাসন বাড়বে এবং তারা আরও দীর্ঘ সময় ধরে কার্যকরভাবে কাজ করতে পারবে।” এজেন্ট সোয়ার্মের ক্ষেত্রে দলটি জানায়, ব্যবস্থা আরও স্থিতিশীল হলে ডেভেলপারদের জন্য কাজ পরিচালনার কাঠামোটি উন্মুক্ত করার পরিকল্পনা রয়েছে। তারা আরও বলে, “আশা করি খুব শিগগিরই।”

২০২৬ সালে ওপেন এআই সম্পর্কে যা জানা গেল

অধিবেশনে সব প্রশ্নের উত্তর মেলেনি। বিভিন্ন ধরনের ডেটা নিয়ে প্রশিক্ষণের পদ্ধতি, রিওয়ার্ড হ্যাকিং ঠেকানোর ব্যবস্থা এবং ডেটা পরিচালনার মতো সবচেয়ে কারিগরি কিছু প্রশ্নের উত্তর আসন্ন একটি কারিগরি প্রতিবেদনের জন্য রেখে দেওয়া হয়। এটা অস্বাভাবিক নয়। অনেক ল্যাবই এখন পরিচালনাগতভাবে সবচেয়ে গুরুত্বপূর্ণ বিস্তারিত বিষয়গুলোকে সংবেদনশীল বলে বিবেচনা করে।

তবে আলোচনায় এআইয়ের প্রতিযোগিতা এখন কোথায়, তা স্পষ্ট হয়েছে। সবচেয়ে গুরুত্বপূর্ণ ব্যবধানটি চীন ও যুক্তরাষ্ট্রের মধ্যে নয়, কিংবা ওপেন ও ক্লোজড মডেলের মধ্যেও নয়। ব্যবধানটি হলো মডেল যা দেওয়ার প্রতিশ্রুতি দেয়, আর ব্যবস্থা বাস্তবে যা দিতে পারে—তার মধ্যে। কাজ পরিচালনার ব্যবস্থাই ক্রমে পণ্যের মূল অংশ হয়ে উঠছে। মুনশট শুধু একটি মডেল দিচ্ছে না। তারা এমন এক দৃষ্টিভঙ্গিও সামনে আনছে, যেখানে পরবর্তী অগ্রগতি আসবে কাজ ভাগ করতে, টুল ব্যবহার করতে এবং দ্রুত কাঠামোবদ্ধ ফল দিতে পারা এজেন্ট থেকে।

ওপেন ওয়েট হার্ডওয়্যারের বাস্তবতার মুখে পড়েছে। ডেভেলপাররা এমন উন্মুক্ততা চাইছেন, যা স্থানীয়ভাবে চালানো যায়; ডেটা সেন্টার ছাড়া ব্যবহারই করা যায় না, এমন উন্মুক্ততা নয়। আর প্রতিযোগিতার ক্ষেত্র কেবল কাঁচা বুদ্ধিমত্তা থেকে সরে নির্ভরযোগ্যতার দিকে যাচ্ছে: কোনো বেঞ্চমার্কে দুই পয়েন্ট এগিয়ে থাকার বদলে টুল ব্যবহারের শৃঙ্খলায় ত্রুটি নির্ণয়, বহু-এজেন্টের কাজে স্মৃতি সামলানো এবং ব্যবহারকারীর আস্থা নির্ধারণকারী সেই পরিমাপ করা কঠিন “রুচি” ধরে রাখার দিকে।

বহুল আলোচিত প্রকাশনা এবং ক্রমবর্ধমান ভূরাজনৈতিক বয়ানের পরিপ্রেক্ষিতে মুনশট রেডিটে উপস্থিত হয়েছিল। সেখানে অপেক্ষা করা ডেভেলপারদের আগ্রহ ছিল আরও ব্যবহারিক একটি প্রশ্নে: উন্মুক্ততা কখন সত্যিই ব্যবহারযোগ্য হবে? সেই অর্থে এএমএতে শুধু কিমি K2.5-এর প্রচার হয়নি। বরং পরিবর্তনশীল একটি শিল্পের চিত্র ফুটে উঠেছে—বড় মডেল থেকে আরও কাঠামোবদ্ধ কম্পিউটিংয়ে, ক্লোজড এপিআই থেকে এমন ওপেন ওয়েটে যা চালাতে এখনও উল্লেখযোগ্য প্রকৌশল দরকার, আর সাফল্য উদ্‌যাপন থেকে ব্যর্থতা সামলানোর দিকে এই পরিবর্তন।

একনজরে

  • মুনশট এআই ৫৯৫ জিবির ওপেন-সোর্স মডেল কিমি K2.5 প্রকাশের পর r/LocalLLaMA-তে রেডিট এএমএ আয়োজন করে; সেখানে ব্যবহারিকভাবে মডেলটি চালানোর উপযোগিতা নিয়ে প্রশ্ন ওঠে
  • ডেভেলপাররা স্থানীয় হার্ডওয়্যারে চালানোর জন্য ছোট মডেল (৮বি-৭০বি প্যারামিটার) চান; মুনশটের মতে, ব্যাপকভাবে ব্যবহারযোগ্য হতে ২০০বি-৩০০বি প্যারামিটার দরকার হতে পারে
  • উচ্চমানের প্রশিক্ষণ ডেটার সীমাবদ্ধতায় স্কেলিংয়ের নিয়ম স্থবির হয়ে পড়ছে বলে দলটি স্বীকার করে; এর বিকল্প হিসেবে ১০০টি সাব-এজেন্টের সমন্বয়ে এজেন্ট সোয়ার্মের মাধ্যমে “ইনফারেন্স-সময়ের স্কেলিং”-এর দিকে ঝুঁকছে
  • কনটেক্সট রট এড়াতে এজেন্ট সোয়ার্মের প্রতিটি সাব-এজেন্ট আলাদা কার্যকরী স্মৃতি ব্যবহার করে; সমন্বয়কারী টোকেন বাজেট ও কাজ বণ্টন সামলায়
  • রিইনফোর্সমেন্ট লার্নিংয়ে কম্পিউটিং ক্ষমতার ব্যবহার বাড়বে; এতে সিস্টেম ১-এর ধরন শনাক্ত করার ক্ষমতা থেকে সিস্টেম ২-এর যুক্তি ও এজেন্টের আচরণ শেখানোর দিকে মনোযোগ সরে যাবে
  • মডেল নিজেকে “ক্লদ” বলার পরিচয়-বিভ্রান্তির ব্যাখ্যায় মুনশট জানায়, কোডিং ডেটার অনুপাত বাড়ানোয় তাতে ক্লদের উল্লেখ বেশি ছিল; এটি ডিস্টিলেশনের ফল নয়
  • বিভিন্ন সংস্করণে ব্যক্তিত্ব ও “আত্মা” ধরে রাখা এবং পরিমাপ করা কঠিন; ব্যবহারকারীর নিজস্ব রুচির অবস্থা তৈরির পরিকল্পনা রয়েছে
  • কিমি K3-তে লিনিয়ার অ্যাটেনশন স্থাপত্য ও দীর্ঘমেয়াদি এজেন্টের কাজের জন্য ধারাবাহিকভাবে শেখার সক্ষমতা থাকার প্রত্যাশা করা হচ্ছে
এই নিবন্ধটি শেয়ার করুন

আপনার পছন্দ হতে পারে