হুয়াওয়ে ও আলিবাবার ডিপ্লয়মেন্ট সমর্থনের সঙ্গে Kimi K3.1 Pro-এর ওয়েটস প্রকাশ করল Moonshot

২.৮ ট্রিলিয়ন প্যারামিটারের মডেলটি এখন আর শুধু API-তে সীমাবদ্ধ নয়

Moonshot AI Hugging Face-এ Kimi K3.1 Pro-এর সম্পূর্ণ ওয়েটস প্রকাশ করেছে। এর ফলে ডেভেলপার ও ব্যবসাপ্রতিষ্ঠানগুলো নিজেদের কম্পিউটিং অবকাঠামোতে কোম্পানিটির ফ্ল্যাগশিপ মাল্টিমোডাল মডেল চালানোর সুযোগ পাবে। ২০২৬ সালের ৫ নভেম্বর বেইজিংয়ে ভোরে এ ঘোষণা দেওয়া হয়। এর আগে ২৪ অক্টোবর মডেলটি Kimi-এর পণ্য ও অ্যাপ্লিকেশন প্রোগ্রামিং ইন্টারফেস বা API-এর মাধ্যমে ব্যবহারের জন্য উন্মুক্ত করা হয়েছিল।

K3.1 Pro-তে রয়েছে ২.৮ ট্রিলিয়ন প্যারামিটার—মডেল যা শিখেছে তা ধরে রাখার সংখ্যাগত মান। এর মিশ্র বিশেষজ্ঞ (মিশ্চার অব এক্সপার্টস) নকশায় প্রতিটি ইনফারেন্স ধাপে পুরো মডেল একসঙ্গে ব্যবহার না করে প্রায় ১০৪ বিলিয়ন প্যারামিটার সক্রিয় হয়। এটি প্রায় ১০ লাখ টোকেনের কনটেক্সট সমর্থন করে এবং টেক্সটের পাশাপাশি দৃশ্যগত তথ্যও বুঝতে পারে।

ওয়েটস প্রকাশের দিনই হুয়াওয়ে অ্যাসেন্ড ও আলিবাবা ক্লাউড সমর্থনের ঘোষণা দেয়। তাদের ডিপ্লয়মেন্টে vLLM ও SGLang ইনফারেন্স ফ্রেমওয়ার্ক ব্যবহার করা হয়েছে—এই সফটওয়্যার প্রশিক্ষিত মডেলকে অনুরোধ প্রক্রিয়াকরণে সহায়তা করে। স্থানীয়ভাবে ডিপ্লয়মেন্টের কথা ভাবছে এমন ব্যবসাপ্রতিষ্ঠানের জন্য এ প্রকাশনার ফলে ডাউনলোডযোগ্য ওয়েটসের পাশাপাশি চীনা অ্যাক্সিলারেটর সিস্টেমে সেগুলো চালানোর প্রাথমিক উপায়ও পাওয়া যাচ্ছে।

Moonshot-এর মডেল চালুর ঘোষণা ২৪ অক্টোবর হালনাগাদ করা হয়েছিল। সেখানে বলা হয়, ৪ নভেম্বরের মধ্যে সম্পূর্ণ ওয়েটস প্রকাশ করা হবে; ৫ নভেম্বর প্রকাশ্যে ওয়েটস প্রকাশের ঘোষণা আসে। এর আগেই kimi.com, Kimi App, Kimi Work, Kimi Code ও Kimi API-এর মাধ্যমে মডেলটিতে প্রবেশাধিকার দিয়েছিল কোম্পানিটি।

এর ব্যবহারিক পরিবর্তন হলো, মডেলটি কোথায় চলবে তা নিয়ন্ত্রণের সুযোগ। API গ্রাহক কোনো সেবা প্রদানকারীর সার্ভারে অনুরোধ পাঠান। ওয়েটস ডিপ্লয় করা কোনো প্রতিষ্ঠান Moonshot-এর লাইসেন্সের শর্ত এবং মডেলটি চালানোর জন্য প্রয়োজনীয় বিপুল হার্ডওয়্যার সাপেক্ষে নিজেদের পরিচালিত অবকাঠামোতে এটি চালাতে পারে।

Moonshot Kimi Hosted Agents-ও চালু করেছে, যা দীর্ঘ সময় ধরে AI এজেন্ট চালু রাখার একটি পরিচালিত সেবা। দুটি ঘোষণা মিলিয়ে ব্যবসাপ্রতিষ্ঠানের সামনে দুটি ভিন্ন পথ খুলছে: নিজেরাই মডেল পরিচালনা করা, অথবা পরিচালনার কাজের বড় অংশ Kimi-এর হাতে ছেড়ে দেওয়া।

নতুন কী, আর K3 থেকে কী থাকছে?

Kimi K3.1 Pro নতুন করে ভিত্তিমডেল প্রশিক্ষণ দিয়ে শুরু না করে অতিরিক্ত প্রশিক্ষণের মাধ্যমে K3-এর ওপর নির্মিত হয়েছে। Moonshot জানিয়েছে, রিইনফোর্সমেন্ট লার্নিংয়ে কম্পিউটিং সংস্থান উল্লেখযোগ্যভাবে বাড়ানো হয়েছে। এই প্রক্রিয়ায় সফল কাজকে পুরস্কৃত করা হয় এবং বারবার চেষ্টা করার মাধ্যমে মডেলের সক্ষমতা উন্নত করতে সহায়তা করা হয়।

কোডিং, 3D নির্মাণ, আর্থিক গবেষণা এবং বহু ধাপে কাজ করা এজেন্টের ওপর বিশেষ গুরুত্ব দিয়ে শত শত কাজের ক্ষেত্রে এই প্রশিক্ষণ প্রয়োগ করেছে Moonshot। তাদের প্রকৌশলগত পরিবর্তনের মধ্যে ছিল প্রশিক্ষণ সফটওয়্যার, দীর্ঘ কনটেক্সট প্রক্রিয়াকরণ, কাজের সময়সূচি এবং তৈরি করা কোড চালানোর জন্য স্যান্ডবক্স পরিবেশ।

K3 থেকে প্রায় ১০ লাখ টোকেনের কনটেক্সট উইন্ডোও বহাল আছে। টোকেন হলো সেই একক, যাতে মডেল টেক্সট ও অন্যান্য ইনপুটকে ভাগ করে। কনটেক্সট উইন্ডো বড় হলে কোনো অনুরোধ প্রক্রিয়ার সময় আরও বেশি নথি, নির্দেশনা ও আগের কথোপকথন উপলভ্য রাখা যায়।

প্রকাশনার ধাপগুলোতে সেবা ব্যবহারের সুযোগ আর মডেলটি পাওয়ার সুযোগ আলাদা করা হয়েছে:

• ১৬ জুলাই, ২০২৬: প্রকাশিত মডেল তুলনা অনুযায়ী Kimi K3 পরিচিত করা হয়।
• ২৪ অক্টোবর, ২০২৬: Moonshot তাদের পণ্য ও API-এর মাধ্যমে K3.1 Pro চালু করে; ৪ নভেম্বরের মধ্যে ওয়েটস প্রকাশের কথা জানায়।
• ৫ নভেম্বর: Moonshot ওয়েটস প্রকাশ এবং Kimi Hosted Agents-এর ঘোষণা দেয়; হুয়াওয়ে ও আলিবাবা ডিপ্লয়মেন্ট সমর্থনের ঘোষণা দেয়।

ওপেন ওয়েটসের সঙ্গে পরিচালনা ও লাইসেন্সের শর্তও রয়েছে

পর্যাপ্ত কম্পিউটিং সক্ষমতা থাকা প্রতিষ্ঠানগুলো ওয়েটস ডাউনলোড করে স্বাধীনভাবে K3.1 Pro চালাতে পারবে। প্রযোজ্য লাইসেন্সের অধীনে ব্যবসাপ্রতিষ্ঠান নিজস্ব সার্ভিং সিস্টেম কনফিগার করতে, অভ্যন্তরীণ টুল যুক্ত করতে এবং নির্দিষ্ট কাজের জন্য মডেলকে মানিয়ে নিতে পারে।

বাণিজ্যিক ব্যবহার নিয়ন্ত্রণে Moonshot নিজস্ব লাইসেন্স ব্যবহার করে। প্রকাশনায় মডেল ওয়েটস অন্তর্ভুক্ত থাকলেও প্রশিক্ষণ কোড ও মূল প্রশিক্ষণ ডেটাসেট প্রকাশ করা হয়নি। তাই ডেভেলপাররা Moonshot-এর শর্তে নির্ধারিত অনুমতিসহ প্রশিক্ষিত মডেল পাচ্ছেন, ওপেন সোর্স ইনিশিয়েটিভের সংজ্ঞা অনুযায়ী সম্পূর্ণ প্রশিক্ষণ প্যাকেজ নয়।

মডেলটির আকার পরিচালনার ক্ষেত্রে বড় বিবেচ্য বিষয়। মিশ্র বিশেষজ্ঞ নেটওয়ার্কের কেবল একটি অংশ প্রতিটি ধাপে সক্রিয় থাকলেও ডিপ্লয়মেন্টের জন্য পুরো ওয়েটসের নাগাল দরকার। দীর্ঘ অনুরোধ প্রক্রিয়ার সময় বিপুল পরিমাণ অস্থায়ী অ্যাটেনশন ডেটাও তৈরি হয়, যা কাজ চলাকালে সংরক্ষণ করতে হয়।

অ্যাসেন্ড সিস্টেমজুড়ে মেমরির চাপ ভাগ করে নেয় হুয়াওয়ে

হুয়াওয়ে জানিয়েছে, K3.1 Pro-এর ওয়েটস পাওয়ার দিনই তাদের অ্যাসেন্ড দল অভিযোজন সম্পন্ন করে, ফলে তাৎক্ষণিকভাবে ডিপ্লয়মেন্ট যাচাই করা সম্ভব হয়। vLLM Ascend ও SGLang-এর মাধ্যমে Atlas 800 A3, Atlas 900 A3 SuperPod এবং Ascend 950 সুপারনোড সিস্টেমে সমর্থন রয়েছে।

মডেলটির হাইব্রিড অ্যাটেনশন আর্কিটেকচার, যার মধ্যে স্পার্স অ্যাটেনশন ও মাল্টিমোডাল প্রক্রিয়াকরণ রয়েছে, তা সামলানোর ব্যবস্থা করেছে এই অভিযোজন। অ্যাটেনশন হলো এমন একটি পদ্ধতি, যার সাহায্যে মডেল পরের ধাপে ইনপুটের কোন অংশগুলো গুরুত্বপূর্ণ তা নির্ধারণ করে। দীর্ঘ ইনপুটে প্রয়োজনীয় কাজ কমাতে স্পার্স অ্যাটেনশন কিছু সংযোগ সীমিত রাখে।

অস্থায়ী মডেল ডেটা কয়েকটি নিউরাল প্রসেসিং ইউনিট বা NPU-তে ভাগ করে রাখতে অ্যাসেন্ড বিতরণকৃত ক্যাশিং ব্যবহার করে, এতে প্রতিটি অ্যাক্সিলারেটরের মেমরির ওপর চাপ কমে। অপ্রয়োজনীয় কপি ও গণনা কমাতে মৌলিক গাণিতিক কাজেও পরিবর্তন আনার কথা জানিয়েছে হুয়াওয়ে।

ডিপ্লয়কারী প্রতিষ্ঠানগুলো মূল ওয়েটস লোড করতে পারে, অথবা মডেলের বিভিন্ন অংশে কম বিটের প্রিসিশন ব্যবহার করতে পারে; পাশাপাশি অ্যাটেনশন ক্যাশ কোয়ান্টাইজেশনও ব্যবহার করা যায়। কোয়ান্টাইজেশনে কম বিটে সংখ্যা সংরক্ষণ করা হয়, ফলে মেমরির চাহিদা কমে। হুয়াওয়ের ভাষ্য অনুযায়ী, এই বাস্তবায়নে প্রিফিক্স ক্যাশিং—যা পুনরাবৃত্ত ইনপুট আবার ব্যবহার করে; চাঙ্কড প্রিফিল—যা দীর্ঘ প্রম্পটকে ভাগে ভাগে প্রক্রিয়া করে; এবং স্পেকুলেটিভ ইনফারেন্স—যা প্রস্তাবিত টোকেনগুলো একসঙ্গে যাচাই করে তৈরি দ্রুত করে—এসব সুবিধা অক্ষুণ্ণ রয়েছে।

সুপারপড প্ল্যাটফর্মে আরেকটি পথ যোগ করল আলিবাবা

আলিবাবা ক্লাউড জানিয়েছে, vLLM ও SGLang-এ সফটওয়্যার স্ট্যাকজুড়ে তাদের Lingjun Zhenwu M890 SuperPoD-এর অভিযোজন ও যাচাই সম্পন্ন হয়েছে। সমর্থনের আওতায় রয়েছে Zhenwu 810E কনফিগারেশনও, যা চীনা অ্যাক্সিলারেটরে মডেলটি চালানোর আরেকটি পথ খুলে দিচ্ছে।

আলিবাবা ক্লাউড, T-Head ও Kimi দল T-Head SAIL সফটওয়্যার স্ট্যাক নিয়ে কাজ করেছে। এর মধ্যে রয়েছে FlashMLA, DeepGEMM-এর মিশ্র বিশেষজ্ঞ অপারেশন, MegaMoE ও MoonEP। এই উপাদানগুলো অ্যাটেনশন গণনা এবং বিশেষজ্ঞ ও অ্যাক্সিলারেটরের মধ্যে কাজ বণ্টন করে। গ্রাহকেরা নিবেদিত বেয়ার-মেটাল SuperPoD ইনস্ট্যান্স অথবা আলিবাবার REIN সেবার মাধ্যমে ডিপ্লয় করতে পারবেন; তাদের Qwen AI প্ল্যাটফর্মেও API ব্যবহারের সুযোগ রয়েছে।

চীনের নিংশিয়ার ঝংওয়েইয়ে SuperPoD অঞ্চলের জন্য আমন্ত্রণভিত্তিক পরীক্ষা শুরু করেছে আলিবাবা। চালুর দিন ঝংওয়েই ও উলানচাবে ইনস্ট্যান্সও চালু হয়। ঝংওয়েই কনফিগারেশনে T-Head-এর Panmai 920 নেটওয়ার্ক কার্ড যোগ করা হয়েছে। আলিবাবার দাবি, কার্ডটি PCIe 5.0, 112G PAM4 Ethernet, প্রতি সেকেন্ডে সর্বোচ্চ ৪০০ গিগাবিট থ্রুপুট এবং ৪০ কোটি প্যাকেট সমর্থন করে।

নেটওয়ার্কের এসব বিষয় গুরুত্বপূর্ণ, কারণ এত বড় মডেলে প্রসেসরের মধ্যে দ্রুত তথ্য আদান-প্রদান করতে হয়। আলিবাবা বলেছে, কার্ডটির সমন্বিত PCIe সুইচ সিস্টেমের খরচ প্রায় ৩০ শতাংশ কমাতে পারে। কোম্পানিটি আরও বলেছে, M890 SuperPoD শতাধিক বড় গ্রাহককে সেবা দিচ্ছে এবং তাদের পরিকল্পিত V900 উত্তরসূরির কর্মক্ষমতা বর্তমান প্রজন্মের প্রায় তিন গুণ হবে বলে পূর্বাভাস দিয়েছে; এটি কোম্পানির প্রত্যাশা।

দীর্ঘ সময় ধরে কাজ চালিয়ে যাওয়ার ক্ষেত্রে কোডিংয়ের উন্নতি

বাস্তব কম্পিউটিং পরিবেশে সম্পদ সীমিত রেখে টার্মিনালের কাজ এজেন্ট কতটা করতে পারে, তা যাচাই করে Terminal-Bench 4.0। Moonshot জানিয়েছে, এতে তাদের স্কোর ৬৫.৭ শতাংশ। কোম্পানির প্রকাশিত তুলনায় GPT-6 Astra-এর স্কোর ৫৮.২ শতাংশ এবং Claude Opus 5.5-এর ৬৬.৪ শতাংশ; ওই পরীক্ষায় শেষেরটির চেয়ে K3.1 Pro ০.৭ শতাংশ পয়েন্ট পিছিয়ে।

কোম্পানির অভ্যন্তরীণ Kimi Code Bench 3.0 Long-horizon পরীক্ষায় K3-এর স্কোর ৫৫.৯৫ শতাংশ থেকে বেড়ে K3.1 Pro-তে ৬১.২ শতাংশ হয়েছে, অর্থাৎ উন্নতি ৫.২৫ শতাংশ পয়েন্ট। পরীক্ষাটিতে বহু ধাপে পরিকল্পনা, টুল ব্যবহার এবং প্রকৌশলগত সমস্যা সমাধানের ওপর গুরুত্ব দেওয়া হয়।

স্বাধীন মূল্যায়নেও আরেকটি চিত্র পাওয়া যায়। Artificial Analysis-এর হিসাবে Intelligence Index ৪৪ থেকে বেড়ে ৫৫ হয়েছে। তাদের Terminal-Bench পরীক্ষায় K3-এর প্রায় ১৩ শতাংশের বিপরীতে K3.1 Pro-এর স্কোর প্রায় ৬৭ শতাংশ। এই টার্মিনাল মূল্যায়নে Moonshot-এর থেকে আলাদা এজেন্ট ফ্রেমওয়ার্ক ব্যবহার করা হয়েছে, তাই স্কোরগুলো ভিন্ন পরিচালন পদ্ধতির ফল তুলে ধরে।

Moonshot-এর প্রদর্শনীতে কোড তৈরির পাশাপাশি কাজ চালিয়ে যাওয়ার সক্ষমতার ওপরও জোর দেওয়া হয়েছে। কোম্পানির একটি অভ্যন্তরীণ পরীক্ষায় মডেলটি ২৯৬টি কঙ্কাল উপাদান ও ৪০২টি পেশি উপাদান দিয়ে তৈরি হাঁটার সিমুলেশনে কাজ করে। কোম্পানির ভাষ্য অনুযায়ী, ১৬৭টি কাজ ও ৪২০টি স্বতন্ত্র পর্যালোচনার মাধ্যমে এটি সিমুলেট করা দেহের একটানা হাঁটার সময় বাড়িয়ে ১১.২ সেকেন্ডে নিয়ে যায় এবং কাঁধের পেশির হিসাবের ৩৬টি ভুল সংশোধন করে।

Plotly-এর আরেক মূল্যায়নে K3.1 Pro ৪৩টির মধ্যে ৪২টি সঠিক উত্তর দিয়েছে, যেখানে K3 দিয়েছে ৩৫টি; তবে এর খরচ বেশি এবং কাজ শেষ করতে মাঝারি সময়ও বেশি লেগেছে। ফলে দ্রুত টোকেন তৈরি ও উন্নত উত্তর পাওয়ার পাশাপাশি কাজ সম্পন্ন হওয়ার জন্য বেশি সময় অপেক্ষা করাও সম্ভব।

3D নির্মাণ ও অর্থায়নে লক্ষ্যভিত্তিক উন্নতি

Moonshot-এর তথ্য অনুযায়ী, BenchCAD-এ টুলসহ K3.1 Pro-এর স্কোর ৯২.৭ শতাংশ। এই বেঞ্চমার্কে কোনো 3D বস্তুর বিভিন্ন দিকের দৃশ্য দেখে কম্পিউটার-এইডেড ডিজাইন কোড তৈরি করে বস্তুটি পুনর্গঠন করতে হয়। কোম্পানির তুলনায় Claude Opus 5.5-এর স্কোর ৯৬.২ শতাংশ এবং GPT-6 Astra-এর ৯৫.৯ শতাংশ।

Moonshot বলেছে, মডেলটি Blender ও CAD সফটওয়্যারের মতো পেশাদার মডেলিং টুলের জন্য স্ক্রিপ্ট লিখতে ও চালাতে পারে। তাদের উদাহরণের মধ্যে রয়েছে ২,১০০টি কঠিন বস্তু নিয়ে তৈরি FreeCAD টার্বোফ্যান ইঞ্জিন এবং 3D প্রিন্টিংয়ের জন্য পাঁচটি অংশে নকশা করা একটি বাতি। মডেল প্রিভিউ, সম্পাদনা ও রপ্তানির জন্য Kimi-এর ওয়েবসাইট ও অ্যাপেও 3D Make রয়েছে।

আর্থিক কাজও অন্যতম প্রধান লক্ষ্য। বাস্তব আর্থিক নথি বিশ্লেষণের জন্য তথ্য খোঁজা, একাধিক নথিতে যাচাই এবং সংখ্যাগত যুক্তি পরীক্ষা করে OfficeQA Pro v2। Moonshot জানিয়েছে, এতে মডেলের স্কোর ৬৪.৪। তাদের অভ্যন্তরীণ মূল্যায়নে আর্থিক মডেল তৈরির সক্ষমতা ১৪ শতাংশ, আর্থিক গবেষণা ২০ শতাংশ উন্নত হয়েছে এবং সিমুলেট করা ব্যবসায়িক কার্যক্রমে K3-এর স্কোরের প্রায় ৪.২ গুণে পৌঁছেছে।

প্রকাশিত তুলনায় এ দুটি পরীক্ষার মূল পরিসংখ্যানও দেওয়া হয়েছে: Financial Research-এর স্কোর ৫৮.৮ থেকে বেড়ে ৭০.৪ হয়েছে, আর Business Operation-এর স্কোর ৮.৯ থেকে বেড়ে ৩৭.০ হয়েছে। ব্যবসায়িক ব্যবহারকারীর জন্য প্রত্যাশিত সুবিধা হলো, তথ্য খোঁজা থেকে হিসাব করা এবং শেষ পর্যন্ত সম্পূর্ণ ওয়ার্কবুক বা গবেষণার ফল তৈরি করা পর্যন্ত মডেলটি কাজ এগিয়ে নিতে পারবে।

তথ্যগত ভুল নিয়ে দুটি ভিন্ন ফল প্রকাশ করেছে Moonshot

Moonshot-এর চালুর ঘোষণায় বলা হয়েছে, Kimi Hallu Bench Hard-এ কোনো একটি তথ্যগত দাবিতে ভুলের হার K3-এর ২৩.৪ শতাংশ থেকে K3.1 Pro-তে ৮.৩ শতাংশে নেমেছে। API নির্দেশিকায় অবশ্য ভিন্ন একটি স্ট্রেস টেস্টের ফল দেওয়া হয়েছে: তথ্যগত ভুলের জন্য ব্যবহারকারীদের চিহ্নিত বেনামি কথোপকথনে ভুলের হার ২৩.৩৫ শতাংশ থেকে ৬.৮৫ শতাংশে নেমেছে।

দুটি পাতায় উত্তরের স্তরেও ভিন্ন পরিসংখ্যান রয়েছে। চালুর ঘোষণায় বলা হয়েছে, অন্তত একটি তথ্যগত ভুল থাকা উত্তরের অনুপাত K3-এর হারের প্রায় ৪২.৪ শতাংশ। API নির্দেশিকায় এ হার প্রায় ৪৬.৪ শতাংশ বলা হয়েছে। এই মূল্যায়নগুলোর মধ্যে সম্পর্ক ব্যাখ্যা করেনি Moonshot।

দুটি বর্ণনাতেই এমন কঠিন উদাহরণের কথা বলা হয়েছে, যেগুলো মডেলের ভুল করার প্রবণতার কারণে বেছে নেওয়া হয়েছে। আর্থিক ও ব্যবসায়িক কাজে ব্যবহার করার আগে হিসাব, সূত্র এবং তথ্যগত বক্তব্য মূল নথির সঙ্গে মিলিয়ে দেখাই ব্যবহারিক দিক থেকে জরুরি।

স্বাধীন তুলনায় দীর্ঘ কনটেক্সটের একটি পরীক্ষায় সামান্য অবনতিও দেখা গেছে: AA-LCR v1.1-এ K3-এর স্কোর ৮৮.৭ শতাংশ থেকে K3.1 Pro-তে ৮৬.৩ শতাংশে নেমেছে। দীর্ঘ নথি প্রক্রিয়াকরণকারী প্রতিষ্ঠানগুলোকে মডেলের অপরিবর্তিত কনটেক্সট সক্ষমতার পাশাপাশি তথ্য পুনরুদ্ধারের নির্ভুলতাও বিবেচনায় নিতে হবে।

Hosted Agents ও API ব্যবহারে রয়েছে ভিন্ন সুবিধা-অসুবিধা

Kimi Hosted Agents AI মডেলের চারপাশে পরিচালনার কাঠামো দেয়, যাকে প্রায়ই হারনেস বলা হয়। এই কাঠামো টুল, কোড চালানো, কনটেক্সট, অনুমতি এবং কাজ বাধাগ্রস্ত হলে পুনরুদ্ধারের বিষয়গুলো সামলায়। Moonshot বলেছে, সেবাটি সার্বক্ষণিক পরিচালনা, দীর্ঘ সময়ের কাজ এবং একাধিক এজেন্টের মধ্যে সহযোগিতা সমর্থন করে।

অভ্যন্তরীণ নজরদারি ও পরিচালনগত সাড়াদানের পাশাপাশি গ্রাহকদের জন্য গবেষণা সহকারী এবং সহায়তা সেবাকে সম্ভাব্য ব্যবহার হিসেবে উল্লেখ করেছে Moonshot। পরিচালিত সেবাটি ব্যবহার করা ব্যবসাপ্রতিষ্ঠান কাজ নির্ধারণ ও টুল যুক্ত করবে, আর Kimi মূল রানটাইম পরিচালনা করবে। যারা ওয়েটস চালাবে, তাদের নিজেদের সার্ভিং ও পরিচালনার ব্যবস্থা সামলাতে হবে।

API গ্রাহকদের ক্ষেত্রে Moonshot-এর API দ্রুত শুরুর নির্দেশিকা অনুযায়ী K3.1 Pro ব্যবহারের সুযোগ পেতে অন্তত ১০ ইউয়ান অ্যাকাউন্টে যোগ করতে হবে। নতুন নিবন্ধিত ব্যবহারকারীদের ১৫ ইউয়ানের ভাউচার এই মডেলে ব্যবহার করা যাবে না। নির্দেশিকায় low, high ও max রিজনিং সেটিং রয়েছে; ডিফল্ট max। ক্যাশ সংরক্ষণের মেয়াদ পাঁচ মিনিট অথবা এক ঘণ্টা বেছে নেওয়া যায়।

Moonshot K3.1 Pro Highspeed-ও দিচ্ছে। কোম্পানির দাবি, এতে একই বুদ্ধিমত্তা বজায় রেখে আউটপুটের গতি প্রায় দুই থেকে তিন গুণ হয়। প্রকাশিত তুলনায় প্রতি ১০ লাখ টোকেনে সাধারণ ইনপুট ও আউটপুটের হার যথাক্রমে ২ ও ১০ ডলার; K3-এর ৩ ও ১৫ ডলার থেকে যা এক-তৃতীয়াংশ কম, তবে ক্যাশ চার্জ ও অন্যান্য প্রযোজ্য ফি এর বাইরে। মোট খরচ নির্ভর করবে কোনো কাজে কত টোকেন ও টুলের ব্যবহার হয়েছে তার ওপর।

ডেভেলপারদের জন্য কয়েকটি নির্দিষ্ট ইন্টিগ্রেশন শর্ত রয়েছে: টুল কলের মধ্যে সম্পূর্ণ অ্যাসিস্ট্যান্ট বার্তা সংরক্ষণ করতে হবে; দৃশ্যগত ইনপুটের জন্য প্রকাশ্য ইমেজ URL নয়, base64 ডেটা বা আপলোড করা ফাইলের আইডি লাগবে; আর ওয়েব সার্চ টুল হালনাগাদ হওয়ার সময় নির্দেশিকায় সেটি উৎপাদন ব্যবস্থায় ব্যবহার না করার পরামর্শ দেওয়া হয়েছে।

মূল বিষয়

• আগে পণ্য ও API-এর মাধ্যমে ব্যবহারের সুযোগ দেওয়ার পর ৫ নভেম্বর Kimi K3.1 Pro-এর ওয়েটস প্রকাশের ঘোষণা দেয় Moonshot।
• মডেলটিতে মোট ২.৮ ট্রিলিয়ন প্যারামিটার রয়েছে; প্রতি ইনফারেন্স ধাপে প্রায় ১০৪ বিলিয়ন প্যারামিটার সক্রিয় হয় এবং কনটেক্সট প্রায় ১০ লাখ টোকেনের।
• vLLM ও SGLang-এর মাধ্যমে ডিপ্লয়মেন্ট সমর্থনের ঘোষণা দিয়েছে হুয়াওয়ে অ্যাসেন্ড ও আলিবাবা ক্লাউড।
• কোডিং, 3D মডেলিং ও অর্থায়নে উন্নতির কথা জানিয়েছে Moonshot; কাজ ও মূল্যায়ন পদ্ধতি অনুযায়ী ফল ভিন্ন হয়েছে।
• স্বাধীনভাবে ডিপ্লয় করতে বিপুল কম্পিউটিং সংস্থান এবং Moonshot-এর নিজস্ব লাইসেন্স মেনে চলা প্রয়োজন।
• দীর্ঘ সময়ের কাজ চালানো ও একাধিক এজেন্টের সমন্বয়ের জন্য Kimi Hosted Agents পরিচালিত বিকল্প দিচ্ছে।