আলিবাবা উন্মুক্ত করল Qwen3-Next: দ্রুততর, কম খরচের এআই মডেল, যা ভোক্তাপর্যায়ের হার্ডওয়্যারে চলে

ডেভেলপার ও প্রতিষ্ঠানের জন্য দ্রুততর, কম খরচের মডেল

আলিবাবা ক্লাউড Qwen3-Next নামের নতুন আর্কিটেকচারের অধীনে বৃহৎ ভাষা মডেলের একটি ওপেন-সোর্স পরিবার প্রকাশ করেছে। এই পরিবারের প্রধান মডেল Qwen3-Next-80B-A3B-এ ৮০ বিলিয়ন প্যারামিটার রয়েছে, তবে এতে এমন নকশাগত বৈশিষ্ট্য যুক্ত করা হয়েছে, যা আগের Qwen মডেলগুলোর তুলনায় অনেক বেশি গতিতে এবং অনেক কম খরচে চালানো সম্ভব করে। আলিবাবার ভাষ্য, নতুন বেস মডেলটি প্রশিক্ষণে এপ্রিলে প্রকাশিত ঘন-আর্কিটেকচারের পূর্বসূরি Qwen3-32B-এর তুলনায় এক-দশমাংশেরও কম কম্পিউটিং শক্তি লেগেছে। একই সঙ্গে, নতুন সিরিজটি বহু কাজে কোম্পানির আরও বড় Qwen3-235B মডেলের সমমানের ফল দেয়।

ডেভেলপারদের জন্য মডেলগুলো ওপেন সোর্স হিসেবে প্রকাশ করেছে আলিবাবা। বড় মডেল হাবগুলো এবং নিজেদের ক্লাউডের মাধ্যমে এগুলো ডাউনলোড ও এপিআই ব্যবহার করা যায়। কোম্পানিটি Qwen-কে দ্রুত বর্ধনশীল ডেভেলপার ইকোসিস্টেম হিসেবে তুলে ধরছে। এই কৌশল চীনা এআই প্রতিষ্ঠানগুলোর বৃহত্তর প্রবণতার সঙ্গে সামঞ্জস্যপূর্ণ: উচ্চমানের মডেল প্রকাশ করা, যাতে অন্যরা সেগুলো পর্যালোচনা ও নিজেদের কাজে ব্যবহার করতে পারে। ব্যাপক কেন্দ্রীভূত অবকাঠামোর ওপর নির্ভর না করেও এভাবে ব্যবহার বাড়ানো সম্ভব।

প্রশিক্ষণে দক্ষতার পাশাপাশি, Qwen3-Next অনুমানকালে (ইনফারেন্স) গতি ও দীর্ঘ কনটেক্সট সামলানোর ক্ষমতার দিকেও নজর দিয়েছে। আলিবাবার প্রকাশ করা পরীক্ষায়, আগের Qwen সংস্করণগুলোর তুলনায় ৩২,০০০ টোকেনের বেশি দৈর্ঘ্যের প্রম্পটে এই আর্কিটেকচারে থ্রুপুট ১০ গুণেরও বেশি। কনটেক্সট উইন্ডো ২৫৬,০০০ টোকেন পর্যন্ত, আর কিছু সেটিংসে তা ১০ লাখ টোকেন পর্যন্ত বাড়ানো যায়। ফলে বইয়ের সমান দীর্ঘ নথি, বড় কোড রিপোজিটরি এবং অন্যান্য ভারী ইনপুট নিয়ে মডেলগুলো আরও স্বাচ্ছন্দ্যে কাজ করতে পারে।

Qwen3-Next-এর অন্তর্নিহিত পরিবর্তন

এই প্রজন্মে উন্নত এআইয়ের জন্য ক্রমে প্রচলিত হয়ে ওঠা বেশ কিছু উপাদান যুক্ত হয়েছে। এর মূল ভিত্তি হলো স্পার্স Mixture of Experts (MoE), এমন একটি নকশা যেখানে অনেক ছোট বিশেষজ্ঞ নেটওয়ার্ককে প্রশিক্ষণ দেওয়া হয়, কিন্তু প্রতিটি টোকেনের জন্য ব্যবহার করা হয় মাত্র কয়েকটি। দীর্ঘ সিকোয়েন্স সামলাতে Qwen3-Next এর সঙ্গে যুক্ত করেছে হাইব্রিড অ্যাটেনশন মেকানিজম, জেনারেশনের গতি বাড়াতে মাল্টি-টোকেন প্রেডিকশন এবং রিইনফোর্সমেন্ট লার্নিংয়ে (RL) অস্থিতিশীলতা নিয়ন্ত্রণের প্রশিক্ষণ-সংক্রান্ত সংশোধন। Qwen3-Next-80B-A3B-Base মডেলে মোট ৮০ বিলিয়ন প্যারামিটার থাকলেও প্রতিটি ধাপে সক্রিয় থাকে প্রায় ৩ বিলিয়ন।

আলিবাবার ভাষ্য, বেস মডেলটি ঘন-আর্কিটেকচারের Qwen3-32B-এর সমমানের, কখনও কখনও তার চেয়েও ভালো ফল দেয়, অথচ প্রশিক্ষণে এর জিপিইউ ঘণ্টার ১০ শতাংশেরও কম ব্যবহার করে। ইনফারেন্সের সময় আর্কিটেকচারটি কম্পিউটিং চাহিদা কম রেখেও সক্ষমতা ধরে রাখে। এ কারণেই দলটি দীর্ঘ কনটেক্সটে উল্লেখযোগ্য গতি বৃদ্ধির কথা জানিয়েছে, পাশাপাশি ক্লাউড ও ভোক্তাপর্যায়ের হার্ডওয়্যারে খরচও তুলনামূলক কম।

সহজ ভাষায় Mixture of Experts

Mixture of Experts-এ নেটওয়ার্ক বিশেষজ্ঞ নামে পরিচিত অনেক বিশেষায়িত সাব-মডেল শেখে। প্রতিটি টোকেনের জন্য কোন বিশেষজ্ঞদের ডাকা হবে, তা হালকা একটি গেটিং মডিউল ঠিক করে। Qwen3-Next-এ স্পার্সিটির মাত্রা বেশি, অর্থাৎ একসঙ্গে বিশেষজ্ঞদের কেবল ছোট একটি অংশ সক্রিয় হয়। কিছু স্তরে প্রতি টোকেনে ৫১২ বিশেষজ্ঞের মধ্যে ১০ জন সক্রিয় থাকে বলে বিভিন্ন প্রতিবেদনে উল্লেখ করা হয়েছে। এতে প্রতিটি ফরওয়ার্ড পাসের কম্পিউটিং ও মেমরির খরচ অনেক ছোট ঘন-আর্কিটেকচারের নেটওয়ার্কের কাছাকাছি থাকে, আর সব বিশেষজ্ঞ মিলিয়ে মডেলটি বড় সামগ্রিক সক্ষমতা পায়।

এর বিনিময়ে প্রশিক্ষণ জটিল হয় এবং বিশেষজ্ঞদের মধ্যে কাজের ভারসাম্য নিশ্চিত করতে সময়সূচি নির্ধারণের প্রয়োজন পড়ে। স্পার্স MoE-এর সঙ্গে RL-ধাঁচের ফাইন-টিউনিং যুক্ত করলে যে স্থিতিশীলতার সমস্যা দেখা দিতে পারে, তা সমাধান করেছে বলে জানিয়েছে আলিবাবা। ডেভেলপারদের জন্য গুরুত্বপূর্ণ বিষয় হলো, রানটাইম খরচ পুরো প্যারামিটার সংখ্যার বদলে সক্রিয় প্যারামিটারের সংখ্যার সঙ্গে বাড়ে।

হাইব্রিড অ্যাটেনশন ও দীর্ঘ কনটেক্সট

অ্যাটেনশন স্তর হলো ট্রান্সফরমারের সেই অংশ, যা মডেলকে ইনপুট টোকেনগুলোর দিকে নজর দিয়ে কোনটি গুরুত্বপূর্ণ তা নির্ধারণ করতে দেয়। ইনপুট দীর্ঘ হলে প্রচলিত অ্যাটেনশনের খরচ বেড়ে যায়, কারণ সিকোয়েন্সের দৈর্ঘ্যের বর্গের সঙ্গে খরচ বাড়ে। Qwen3-Next প্রচলিত অ্যাটেনশনের সঙ্গে এমন পদ্ধতি মিশিয়েছে, যা কম সম্পদে কনটেক্সটের আনুমানিক হিসাব করে। দলটির বর্ণনায়, এতে Gated DeltaNet-এর সঙ্গে প্রচলিত অ্যাটেনশন যুক্ত হয়েছে। ফল হলো দীর্ঘ ইনপুটে বেশি থ্রুপুট এবং প্রম্পট বড় হওয়ার সঙ্গে সঙ্গে ধীরগতির প্রবণতা কমে যাওয়া। ৩২,০০০ টোকেনের বেশি কনটেক্সট দৈর্ঘ্যে ১০ গুণেরও বেশি থ্রুপুট, ডিফল্ট হিসেবে ২৫৬,০০০ টোকেনের উইন্ডো এবং বিশেষ ক্ষেত্রে ১০ লাখ টোকেন পর্যন্ত বাড়ানোর সুযোগের কথা জানিয়েছে আলিবাবা। কিছু পরিস্থিতিতে প্রায় রৈখিক হারে গতি বৃদ্ধির কথাও দলটি জানিয়েছে; এর মধ্যে অপেক্ষাকৃত ছোট কনটেক্সটে প্রিফিল সর্বোচ্চ প্রায় ৭ গুণ এবং ডিকোড প্রায় ৪ গুণ দ্রুত হওয়ার তথ্য রয়েছে।

মাল্টি-টোকেন প্রেডিকশন ও ডিকোডিং

মাল্টি-টোকেন প্রেডিকশন একসঙ্গে পরবর্তী কয়েকটি টোকেন অনুমান করার চেষ্টা করে, তারপর অনুমান ভুল হলে তা সংশোধন করে। স্পেকুলেটিভ ডিকোডিংয়ের সঙ্গে মিলিয়ে ব্যবহার করলে উত্তর পাঠানোর জন্য প্রয়োজনীয় ব্যয়বহুল ফরওয়ার্ড পাসের সংখ্যা কমে। Qwen3-Next এই পদ্ধতি সমর্থন করে এবং SGLang ও vLLM-এর মতো জনপ্রিয় ইনফারেন্স স্ট্যাকের সঙ্গে কাজ করে, যা উৎপাদন পর্যায়ের সেবায় লেটেন্সি কমাতে সাহায্য করে। প্রশিক্ষণ স্থিতিশীল রাখতে Zero Centered RMSNorm-সহ অন্যান্য অপ্টিমাইজেশন ব্যবহারের কথাও দলটি জানিয়েছে। স্পার্স MoE-এর সঙ্গে মিলিয়ে এর সামগ্রিক ফল হলো, মানের বড় ক্ষতি ছাড়াই দ্রুত জেনারেশন।

নির্দেশনা ও যুক্তিবিচারের জন্য দুটি মডেল সংস্করণ

প্রকাশের সময় বেস নেটওয়ার্কের ওপর প্রশিক্ষিত দুটি মডেল দিয়েছে আলিবাবা। Qwen3-Next-80B-A3B-Instruct দৈনন্দিন নির্দেশনা অনুসরণ, চ্যাট এবং টুল ব্যবহারের জন্য তৈরি। কোম্পানির পরীক্ষায় এটি বহু সাধারণ কাজে ২৩৫ বিলিয়ন প্যারামিটারের ফ্ল্যাগশিপ মডেলের কাছাকাছি ফল দেয় এবং ২৫৬,০০০ টোকেন পর্যন্ত দীর্ঘ কনটেক্সট থাকা প্রম্পটে ভালো সক্ষমতা দেখায়।

Qwen3-Next-80B-A3B-Thinking জটিল যুক্তিবিচারের জন্য টিউন করা হয়েছে। আলিবাবা জানিয়েছে, মূল্যায়নের জন্য বেছে নেওয়া কয়েকটি বেঞ্চমার্কে এর ফল তাদের নিজস্ব মধ্যম-স্তরের Qwen3 মডেলগুলোর চেয়ে বেশি এবং ক্লোজড Gemini 2.5 Flash Thinking-এর চেয়েও ভালো। কোম্পানির উল্লেখ করা ফলের মধ্যে রয়েছে কঠিন স্নাতকোত্তর-স্তরের পরীক্ষাসেট SuperGPQA-তে ৬০.৮ শতাংশ। বেঞ্চমার্ক কার্যকর নির্দেশক হলেও, ক্রেতাদের নিজস্ব কাজের ক্ষেত্রভিত্তিক পরীক্ষা চালানো উচিত; যেমন কোডিং, রিট্রিভাল-অগমেন্টেড জেনারেশন, গণিত এবং বহু-ধাপের পরিকল্পনা।

গতি, খরচ ও হার্ডওয়্যার চাহিদা

মূল উন্নতিগুলো সময় ও খরচ, দুই ক্ষেত্রেই। আলিবাবার ভাষ্য, Qwen3-32B-এর কম্পিউটিং খরচের ১০ শতাংশেরও কম ব্যবহার করে বেস মডেলের প্রশিক্ষণ শেষ হয়েছে। ইনফারেন্সে প্রতি টোকেনে প্রায় ৩ বিলিয়ন প্যারামিটারই সক্রিয় থাকে, ফলে জিপিইউ মেমরির ওপর চাপ ও বিদ্যুৎ খরচ কম রেখে মডেলটি উত্তর দিতে পারে। একই মাত্রার সেবা দিতে এতে কম হার্ডওয়্যার লাগে, অথবা একই ব্যবস্থায় আরও বেশি অনুরোধ সামলানো যায়।

দীর্ঘ প্রম্পটের ক্ষেত্রে আর্কিটেকচারটি বিশেষভাবে ভালো কাজ করে। ৩২,০০০ টোকেনের বেশি ইনপুটে মাত্রার ক্রমে বেশি থ্রুপুট এবং অপেক্ষাকৃত ছোট সিকোয়েন্সেও উল্লেখযোগ্য উন্নতির কথা জানিয়েছে আলিবাবা। কিছু পরীক্ষায় প্রিফিল প্রায় ৭ গুণ এবং ডিকোড প্রায় ৪ গুণ দ্রুত হয়েছে। ২৫৬,০০০ টোকেনের উইন্ডো থাকায় বিশ্লেষকেরা একটি অনুরোধেই সম্পূর্ণ চুক্তিপত্র, প্রতিলিপি বা বড় কোড ফাইল দিতে পারেন, তারপর মডেলকে সেগুলোর সারসংক্ষেপ, তুলনা বা পরিবর্তন তৈরি করতে বলতে পারেন। ভোক্তাপর্যায়ের হার্ডওয়্যারে ভালোভাবে চলার জন্য নতুন সিরিজটি টিউন করা হয়েছে বলে জোর দিয়েছে কোম্পানিটি। ফলে উন্নত প্রোটোটাইপ চালাতে আর বড় ক্লাস্টার প্রয়োজন হবে না।

প্রাপ্যতা ও ব্যবহার

বিস্তৃত ব্যবহারের জন্য প্রকাশ করা হয়েছে Qwen3-Next মডেলগুলো। এগুলো Hugging Face ও ModelScope-এর মতো পরিচিত মডেল হাবে তালিকাভুক্ত, পাশাপাশি পরিচালিত ডিপ্লয়মেন্টের জন্য Alibaba Cloud Model Studio-তেও পাওয়া যায়। ব্যবহারকারীরা হোস্ট করা এন্ডপয়েন্টে অনুরোধ পাঠাতে পারেন অথবা স্থানীয়ভাবে ইনফারেন্সের জন্য মডেলের ওজন ডাউনলোড করতে পারেন। NVIDIA API Catalog-এর মাধ্যমেও সিরিজটি ব্যবহার করা যায়। সহজে পরীক্ষা চালানোর জন্য কিছু সংস্করণ Kaggle-এও রাখা হয়েছে।

এই প্রকাশনার পাশাপাশি রয়েছে Qwen3-ASR-Flash-এর মতো ইউটিলিটি। দলটির ভাষ্য অনুযায়ী, এটি ১১টি প্রধান ভাষায় স্পিচ ট্রান্সক্রিপশন সমর্থন করে। প্রতিটি মডেলের লাইসেন্সের শর্তাবলি, বিশেষ করে বেশি ট্রাফিক বা বাণিজ্যিক ব্যবহারের ক্ষেত্রে, পর্যালোচনা করতে ডেভেলপারদের উৎসাহিত করছে আলিবাবা। এরপর নিজস্ব ডেটাসেট ও কাজের চাপ দিয়ে পরীক্ষা চালানো উচিত। SGLang ও vLLM-এর মতো ইনফারেন্স ফ্রেমওয়ার্কের সমর্থন এবং হার্ডওয়্যার-সাশ্রয়ী অ্যাক্টিভেশন প্যাটার্ন ডেমো থেকে নির্ভরযোগ্য সেবায় পৌঁছানোর সময় কমাতে পারে।

এআই প্রতিযোগিতার চিত্রে এই পরিবর্তনের প্রভাব

কম খরচে শক্তিশালী মডেলকে ব্যাপকভাবে ব্যবহারযোগ্য করতে বিশ্বজুড়ে গবেষণাগারগুলোর বৃহত্তর প্রতিযোগিতার দিকেই ইঙ্গিত করে এই পদক্ষেপ। সক্ষমতার দিক থেকে পশ্চিমা প্রতিদ্বন্দ্বীদের সঙ্গে ব্যবধান কমানো ও ব্যবহার বাড়ানোর উপায় হিসেবে চীনা কোম্পানিগুলো জোরেশোরে ওপেন-সোর্স এআই নিয়ে কাজ করছে। আলিবাবার দাবি, ডেভেলপারদের জন্য Qwen ইকোসিস্টেম এখন বৃহত্তম ওপেন-সোর্স কমিউনিটিগুলোর একটি। প্রতিষ্ঠানটি Qwen3-Max-এরও আগাম পরিচয় দিয়েছে, ১ ট্রিলিয়নের বেশি প্যারামিটারের এই মডেলটি সম্প্রতি গবেষকদের পরিচালিত LMArena চ্যাটবট লিডারবোর্ডে ষষ্ঠ স্থানে ছিল। আলিবাবার পাশাপাশি DeepSeek ও Meituan-এর মতো প্রতিষ্ঠানও প্রতিযোগিতামূলক মডেল ও সেবা প্রকাশ করছে।

কম খরচের ও দ্রুততর বেস মডেল গুরুত্বপূর্ণ, কারণ কম্পিউটিং সম্পদ সীমিত এবং ব্যয়বহুল। উন্নত চিপ রপ্তানিতে বিধিনিষেধ চীনের ওপর চাপ বাড়িয়েছে, আর যুক্তরাষ্ট্র ও ইউরোপেও অনেক দল জিপিইউ সংকটের মুখে পড়েছে। ইনফারেন্সের সময় অধিকাংশ প্যারামিটার নিষ্ক্রিয় রাখে এমন আর্কিটেকচার ছোট গবেষণাগার, স্টার্টআপ ও বিশ্ববিদ্যালয়গুলোকে স্বল্পক্ষমতার সার্ভারে উচ্চমানের মডেল চালানোর সুযোগ দেয়। বিনিয়োগকারীদেরও নজরে এসেছে বিষয়টি; ক্লাউড ও এআই খাতে নতুন করে মনোযোগ দেওয়ায় এ বছর আলিবাবার শেয়ারের দর বেড়েছে। আরও প্রতিষ্ঠান দৈনন্দিন কাজে ওপেন-সোর্স এআই গ্রহণ করলে প্রতিযোগিতার প্রভাবও ছড়িয়ে পড়বে।

বেঞ্চমার্ক, স্বচ্ছতা ও সতর্ক মূল্যায়ন

মডেল লিডারবোর্ড কাজে লাগে, তবে এগুলো কিছু বিনিময়-শর্ত আড়াল করতে পারে। ব্যাচের আকার, ফ্রেমওয়ার্ক, কোয়ান্টাইজেশন ও হার্ডওয়্যারের ওপর গতির পরিসংখ্যান বদলায়। নির্ভুলতা নির্ভর করে কাজের ক্ষেত্র, প্রম্পটের ধরন এবং কোড ইন্টারপ্রেটার বা রিট্রিভালের মতো টুলের উপস্থিতির ওপর। বিক্রেতারাও নিজেদের পছন্দমতো পরীক্ষাসমূহ বেছে নেয়। কমিউনিটি গোষ্ঠী ও গ্রাহকদের স্বাধীন পরীক্ষা মডেলের সক্ষমতা ও সীমাবদ্ধতার আরও পূর্ণাঙ্গ চিত্র দিতে পারে।

Qwen3-Next মূল্যায়নের সময় দলগুলোর একটি বেঞ্চমার্কের নম্বরের বাইরে আরও কিছু যাচাই করা উচিত। দীর্ঘ কনটেক্সটে নির্ভুলতা, টুল ব্যবহার, গণিত ও কোডের নির্ভরযোগ্যতা এবং নিরাপত্তার সীমাবদ্ধতার মধ্যে মডেলের আচরণ পরিমাপ করুন। আপনার প্রয়োজনীয় কনটেক্সট দৈর্ঘ্যে মেমরির ব্যবহার ও থ্রুপুটের হিসাব রাখুন। অ্যাপ্লিকেশন যদি তথ্যভিত্তিক উত্তরের ওপর নির্ভর করে, তাহলে রিট্রিভালের সঙ্গে মডেলটি ব্যবহার করুন এবং প্রমাণের সূত্র যাচাই করুন। চিন্তার ধারা ধারাবাহিকভাবে পাওয়া জরুরি হলে, Thinking সংস্করণটির সঙ্গে আপনার বর্তমান স্ট্যাকের তুলনা করুন।

যেসব ব্যবহার ও খাত উপকৃত হতে পারে

দীর্ঘ কনটেক্সট, দ্রুত উত্তর ও ব্যয়ের ওপর কঠোর নিয়ন্ত্রণ প্রয়োজন এমন অ্যাপ্লিকেশনের জন্য Qwen3-Next তৈরি বলে মনে হয়। আইনি ও আর্থিক দলগুলো বড় নথিসমষ্টি বিশ্লেষণ করে তথ্যসূত্র বজায় রেখে প্রয়োজনমাফিক সারসংক্ষেপ তৈরি করতে পারে। গ্রাহক সহায়তার দায়িত্বে থাকা ব্যক্তিরা জ্ঞানের ভান্ডার ও দীর্ঘ সমস্যা সমাধানের নির্দেশিকা এক সহকারীর মধ্যে একত্র করতে পারেন, যা হাজারো পৃষ্ঠা ধরে যুক্তি করতে পারবে। কোড পর্যালোচনা, রিফ্যাক্টরিং ও টেস্ট তৈরিতে সহায়তার জন্য সফটওয়্যার দলগুলো কোড রিপোজিটরি ও লগ দিতে পারে।

গবেষকেরা দীর্ঘ গবেষণাপত্র ও ডেটাসেট আপলোড করে পদ্ধতি ও ফলাফল তুলনা করতে পারেন। গণমাধ্যম ও শিক্ষাপ্রতিষ্ঠানগুলো Qwen3-ASR-Flash দিয়ে অডিওর প্রতিলিপি তৈরি ও অনুবাদ করতে পারে, এরপর ভাষা মডেল দিয়ে পড়ার সহায়িকা বা কনটেন্টের রূপরেখা বানাতে পারে। যেসব সরকারি ও নিয়ন্ত্রিত খাতে নিজস্ব প্রাঙ্গণে ডিপ্লয়মেন্ট প্রয়োজন, তারা সতর্ক পর্যবেক্ষণ, অডিট লগিং ও কনটেন্ট ফিল্টারসহ ভোক্তাপর্যায়ের সার্ভারে সক্ষম মডেল চালানোর সুযোগ থেকে উপকৃত হতে পারে।

মূল কথা

• আলিবাবা Qwen3-Next প্রকাশ করেছে এবং Qwen3-Next-80B-A3B পরিবারকে ওপেন সোর্স করেছে।
• Qwen3-32B-এর তুলনায় প্রশিক্ষণে ১০ শতাংশেরও কম কম্পিউটিং শক্তি লেগেছে, অথচ পরীক্ষায় সমমানের বা তার চেয়ে ভালো ফল দিয়েছে।
• স্পার্স Mixture of Experts-এর কারণে ৮০ বিলিয়ন প্যারামিটারের মধ্যে প্রতি টোকেনে সক্রিয় থাকে প্রায় ৩ বিলিয়ন।
• ৩২,০০০ টোকেনের বেশি প্রম্পটে থ্রুপুট ১০ গুণেরও বেশি বেড়েছে; কনটেক্সট উইন্ডো ২৫৬,০০০ টোকেন।
• কিছু সেটিংসে ১০ লাখ টোকেন পর্যন্ত বাড়ানো যায়; অপেক্ষাকৃত ছোট কনটেক্সটে প্রিফিল ও ডিকোড দ্রুত হওয়ার কথাও জানানো হয়েছে।
• প্রশিক্ষণ-পরবর্তী দুটি সংস্করণ নির্দেশনা অনুসরণ ও জটিল যুক্তিবিচারের কাজ সামলায়; কোম্পানির পরীক্ষায় কয়েকটি ক্লোজড প্রতিদ্বন্দ্বীর চেয়ে ভালো ফল এসেছে।
• মডেলগুলো Hugging Face, ModelScope, Alibaba Cloud Model Studio এবং NVIDIA API Catalog-এ পাওয়া যায়।
• ওপেন-সোর্স ব্যবহারের সুযোগ ও কম হার্ডওয়্যার চাহিদা স্টার্টআপ, প্রতিষ্ঠান ও গবেষণা গোষ্ঠীর মধ্যে ব্যবহার বাড়াতে পারে।