কাস্টম চিপ ছাড়াই সাধারণ জিপিইউতে প্রতি সেকেন্ডে ১,০০০ টোকেন তৈরি করল শাওমির মিমো

পড়তে 10 মিনিট
কাস্টম চিপ ছাড়াই সাধারণ জিপিইউতে প্রতি সেকেন্ডে ১,০০০ টোকেন তৈরি করল শাওমির মিমো

কৃত্রিম বুদ্ধিমত্তায় গতির নতুন রেকর্ড

২০২৬ সালের ৮ জুন শাওমি প্রকাশ করেছে মিমো ভি২.৫ প্রো আল্ট্রাস্পিড—একটি ইনফারেন্স মোড, যা সাধারণ ক্লাউড গ্রাফিকস প্রসেসিং ইউনিটে এক ট্রিলিয়ন প্যারামিটারের ভাষা মডেলকে প্রতি সেকেন্ডে ১,০০০ টোকেনের বেশি তৈরি করতে সক্ষম করে। এই অর্জন প্রথমবারের মতো দেখাল, কাস্টম সিলিকন বা বিশেষায়িত হার্ডওয়্যার ছাড়াই এই মাপের একটি মডেল ওই সীমা অতিক্রম করতে পারে। অভ্যন্তরীণ ডেমোতে দেখা গেছে, আটটি জিপিইউ-সজ্জিত একটি সাধারণ নোডে দীর্ঘ সময় ধরে সর্বোচ্চ প্রায় ১,২০০ টোকেন-প্রতি-সেকেন্ড গতি বজায় থাকছে।

সূচিপত্র
  1. কৃত্রিম বুদ্ধিমত্তায় গতির নতুন রেকর্ড
  2. কৃত্রিম বুদ্ধিমত্তায় শাওমির অপ্রত্যাশিত উত্থান
  3. আধুনিক এআইয়ে গতির মূল্য
  4. এফপি৪ কোয়ান্টাইজেশনে বুদ্ধিমত্তার সংকোচন
  5. ডিফ্ল্যাশ স্পেকুলেটিভ ডিকোডিংয়ে সমান্তরালে পূর্বাভাস
  6. টাইলআরটি দিয়ে মাইক্রোসেকেন্ডের বিরতি দূর
  7. বাস্তব প্রভাব ও ব্যবসায়িক প্রেক্ষাপট
  8. ওপেন সোর্স প্রকাশনা ও যাচাইয়ের প্রশ্ন
  9. মূল বিষয়গুলো

এই অর্জনের গুরুত্ব বুঝতে বর্তমান প্রকাশ্য বেঞ্চমার্কগুলোর সঙ্গে তুলনা করা যাক। ওপেনএআইয়ের জিপিটি ৫.৫ প্রতি সেকেন্ডে প্রায় ৬৮টি টোকেন তৈরি করে। ক্লড ওপাস ৪.৬-এর গতি প্রায় ৭১ টোকেন-প্রতি-সেকেন্ড, আর গুগল জেমিনি ফ্ল্যাশের ১৯২। শাওমির আল্ট্রাস্পিড মোড সাধারণ চ্যাটজিপিটি ব্যবহারের তুলনায় প্রায় ১৫ গুণ দ্রুত আউটপুট দেয়। সফটওয়্যার প্রকৌশল মূল্যায়নে অগ্রসর মডেলগুলোর সঙ্গে প্রতিদ্বন্দ্বিতা করা একটি মডেলেই এই গতি পাওয়া যাচ্ছে।

এই গতির পেছনে রয়েছে মিমো ভি২.৫ প্রো, এক ট্রিলিয়ন ২০ বিলিয়ন প্যারামিটারের মিশ্র বিশেষজ্ঞ (Mixture of Experts) আর্কিটেকচারের একটি মডেল, যার কনটেক্সট উইন্ডো এক মিলিয়ন টোকেন। অনেক প্রতিদ্বন্দ্বী মডেলের বিপরীতে, এই সিস্টেম একটি মডেলের মধ্যেই লেখা, ছবি, অডিও ও ভিডিও প্রক্রিয়া করে। শাওমি মূল চেকপয়েন্টটি এমআইটি ওপেন সোর্স লাইসেন্সের আওতায় প্রকাশ করেছে। ফলে ডেভেলপাররা লাইসেন্স ফি ছাড়াই নিজেরা এটি হোস্ট, ফাইন-টিউন ও বাণিজ্যিকভাবে ব্যবহার করতে পারবেন।

কৃত্রিম বুদ্ধিমত্তায় শাওমির অপ্রত্যাশিত উত্থান

বেশির ভাগ ভোক্তার কাছে শাওমি পরিচিত সাশ্রয়ী স্মার্টফোন, বৈদ্যুতিক স্কুটার এবং ক্রমেই বৈদ্যুতিক গাড়ির নির্মাতা হিসেবে। ২০২৬ সালের প্রথম প্রান্তিকে কোম্পানিটি ৩ কোটি ৩৮ লাখ হ্যান্ডসেট সরবরাহ করেছে, আর শুধু মে মাসেই সরবরাহ করেছে ৩০ হাজারের বেশি বৈদ্যুতিক গাড়ি। তবে এসব ভোক্তাপণ্যের পেছনে রয়েছে কোম্পানির কৃত্রিম বুদ্ধিমত্তাবিষয়ক স্বতন্ত্র বিভাগ। ২০২৫ সালের এপ্রিল থেকে তারা বড় ভাষা মডেল তৈরি করছে; সে সময় তারা ৭ বিলিয়ন প্যারামিটারের একটি ছোট যুক্তিনির্ভর মডেল চালু করে।

এর পরের ১৪ মাসে মিমো পরিবার উন্মুক্ত ওজনের মডেলগুলোর মধ্যে অন্যতম প্রতিযোগিতামূলক সারিতে উঠে এসেছে। বর্তমান ফ্ল্যাগশিপ মিমো ভি২.৫ প্রো বাজারে আসে ২০২৬ সালের ২২ এপ্রিল। সফটওয়্যার প্রকৌশলের কাজে এর বেঞ্চমার্ক ক্লড ওপাস ৪.৬-এর কাছাকাছি, অথচ প্রতি টোকেনের খরচ প্রায় আট ভাগের এক ভাগ। বেস মডেলের সাধারণ মূল্য ক্যাশ হিটে প্রতি মিলিয়ন টোকেন ০.০২৫ ইউয়ান, ইনপুট ক্যাশ মিসে প্রতি মিলিয়ন ৩ ইউয়ান এবং আউটপুটে প্রতি মিলিয়ন ৬ ইউয়ান।

৮ জুনের ঘোষণায় এই বিদ্যমান মডেলের ওপর সরাসরি যুক্ত উচ্চক্ষমতার সার্ভিং মোড হিসেবে আল্ট্রাস্পিড যোগ করা হয়েছে। মডেলের ওজন বা আর্কিটেকচার বদলে নয়, বরং পুরোপুরি ইনফারেন্স অপ্টিমাইজেশনের মাধ্যমে গতি বাড়ানো হয়েছে। এটি সফটওয়্যার প্রকৌশলের এমন এক অর্জন, যা সাধারণ হার্ডওয়্যার কী করতে পারে সে সম্পর্কে প্রচলিত ধারণাকে চ্যালেঞ্জ জানায়।

বিজ্ঞাপন

আধুনিক এআইয়ে গতির মূল্য

বড় ভাষা মডেলগুলোর প্রতিযোগিতায় ইনফারেন্সের গতি এখন গুরুত্বপূর্ণ লড়াইয়ের ক্ষেত্র। একটি সিস্টেম যে হারে টোকেন তৈরি করে, তা শুধু ব্যবহারকারীরা কত দ্রুত উত্তর পাবেন সেটাই নয়, কোন অ্যাপ্লিকেশন অর্থনৈতিক ও প্রযুক্তিগতভাবে কার্যকর হবে তাও নির্ধারণ করে। প্রতি সেকেন্ডে ৬৮টি টোকেন তৈরি করা মডেল চ্যাট ইন্টারফেসে ভালো কাজ করে, যেখানে মানুষ নিজের গতিতে পড়ে। কিন্তু রিয়েল টাইমে জালিয়াতি শনাক্তকরণ, উচ্চ-ফ্রিকোয়েন্সি ট্রেডিং সংকেত বা কয়েক সেকেন্ডে একাধিক ধাপের যুক্তি সম্পন্ন করতে হয় এমন স্বয়ংক্রিয় কোডিং এজেন্টের মতো কম-বিলম্বের কাজে এটি একেবারেই অকার্যকর।

এই বাধা বুঝে কয়েকটি স্টার্টআপ কাস্টম সিলিকনকে কেন্দ্র করে পুরো কোম্পানি গড়ে তুলেছে। সেরিব্রাস একটি ওয়েফার-স্কেলের চিপ তৈরি করেছে, যা প্রায় খাবারের প্লেটের সমান। এতে চিপের ভেতরেই ৪৪ গিগাবাইট মেমোরি রয়েছে, ফলে প্রচলিত জিপিইউ ইনফারেন্সের গতি কমিয়ে দেওয়া ব্যান্ডউইথের সীমাবদ্ধতা দূর হয়। ওই সিস্টেম মেটার লামা ৩.১ ৪০৫বি মডেলে প্রতি সেকেন্ডে প্রায় ৯৬৯টি টোকেন তৈরি করেছে; মডেলটির প্যারামিটার সংখ্যা মিমো ভি২.৫ প্রোর অর্ধেকেরও কম। গ্রক তৈরি করেছে কাস্টম ল্যাঙ্গুয়েজ প্রসেসিং ইউনিট আর্কিটেকচার, যা মডেলভেদে প্রতি সেকেন্ডে ৩০০ থেকে ৭৫০টি টোকেন তৈরি করতে পারে। এই দুই প্ল্যাটফর্মের কোনোটিই সাধারণ ক্লাউড ভাড়া পরিষেবায় পাওয়া হার্ডওয়্যারে চলে না।

শাওমির পদ্ধতি হার্ডওয়্যারের এই প্রতিযোগিতা প্রত্যাখ্যান করে। সফটওয়্যার ও মডেলের নকশা একসঙ্গে অপ্টিমাইজ করে কোম্পানিটি ভাড়ায় পাওয়া সাধারণ জিপিইউতেই তুলনীয় গতি অর্জন করেছে। সাধারণ আট-জিপিইউ নোডে প্রবেশাধিকার আছে এমন যেকোনো ডেভেলপার তাত্ত্বিকভাবে একই ফল তৈরি করতে পারেন। এতে বিশেষায়িত চিপ নির্মাতাদের বদলে অ্যালগরিদম উদ্ভাবনের দিকে প্রতিযোগিতামূলক সুবিধা সরে যেতে পারে।

এফপি৪ কোয়ান্টাইজেশনে বুদ্ধিমত্তার সংকোচন

আল্ট্রাস্পিডের প্রথম স্তম্ভ হলো এফপি৪ কোয়ান্টাইজেশন নামের আগ্রাসী সংখ্যাগত সংকোচন। সাধারণত মডেল ইনফারেন্সে ওজনগুলো ১৬-বিট বা ৮-বিট নির্ভুলতায় সংরক্ষণ করা হয়। প্রতিটি প্যারামিটারের জন্য নির্দিষ্ট পরিমাণ মেমোরি ব্যান্ডউইথ লাগে। এক ট্রিলিয়ন প্যারামিটারের ক্ষেত্রে শুধু মেমোরি থেকে প্রসেসিং কোরে ওই ওজনগুলো সরাতেই যানজট তৈরি হয়, যা টোকেন তৈরির গতি সীমিত করে।

শাওমির সমাধান হলো বেছে বেছে ৪-বিট নির্ভুলতা প্রয়োগ করা। মিশ্র বিশেষজ্ঞ আর্কিটেকচারে অনেক বিশেষজ্ঞ স্তর রয়েছে। এগুলোতে মডেলের বিপুলসংখ্যক প্যারামিটার থাকে এবং কম নির্ভুলতা সহ্য করার ক্ষমতাও বেশি। শাওমি শুধু এই বিশেষজ্ঞ স্তরগুলোকে এমএক্সএফপি৪ ফরম্যাটে সংকুচিত করেছে, আর মডেলের অন্য অংশগুলোকে উচ্চতর নির্ভুলতায়—প্রকাশিত তথ্য অনুযায়ী এফপি৮-এ—রেখেছে। এই বাছাইভিত্তিক পদ্ধতিতে আউটপুটের মান না কমিয়ে মেমোরির ব্যবহার কমে। কারণ কোয়ান্টাইজেশন অ্যাওয়ার ট্রেনিং মডেলের শেখার প্রক্রিয়াতেই এই সংকোচন যুক্ত করেছে। বেঞ্চমার্কে দেখা গেছে, কোয়ান্টাইজ করা সংস্করণটি মূল পূর্ণ-নির্ভুল সংস্করণের সঙ্গে প্রায় সমান ফল দেয়।

বিশেষজ্ঞ স্তরগুলোই মডেলের বড় অংশ হওয়ায়, এই বাছাইভিত্তিক সংকোচনে প্রতিটি ধাপে মেমোরির মধ্য দিয়ে যে পরিমাণ ডেটা যেতে হয় তা উল্লেখযোগ্যভাবে কমে। ব্যান্ডউইথের এই সাশ্রয় সরাসরি বেশি টোকেন তৈরির গতিতে রূপ নেয়।

বিজ্ঞাপন

ডিফ্ল্যাশ স্পেকুলেটিভ ডিকোডিংয়ে সমান্তরালে পূর্বাভাস

দ্বিতীয় স্তম্ভটি ভাষা তৈরির ধারাবাহিক প্রক্রিয়াকে লক্ষ্য করে। সাধারণত মডেল একবারে একটি করে টোকেন তৈরি করে, এবং প্রতিটি নতুন টোকেন আগের সব টোকেনের ওপর নির্ভরশীল। স্পেকুলেটিভ ডিকোডিং এই প্রক্রিয়ায় শর্টকাট দেয়: একটি ছোট ড্রাফট মডেল দ্রুত পরের কয়েকটি টোকেন অনুমান করে, আর বড় টার্গেট মডেল সব অনুমান একসঙ্গে যাচাই করে। অনুমান মিলে গেলে সিস্টেমের সময় বাঁচে। প্রচলিত স্পেকুলেটিভ ডিকোডিংয়েও ড্রাফট মডেলকে ধারাবাহিকভাবে অনুমান তৈরি করতে হয়, ফলে সুবিধা সীমিত থাকে।

গবেষক মহলে তৈরি ডিফ্ল্যাশ পদ্ধতিকে পরিমার্জন করেছে শাওমি; এটি ধারাবাহিকতার বাধা পুরোপুরি সরিয়ে দেয়। একটির পর একটি টোকেন অনুমান না করে, ড্রাফট মডেল একবারের ফরোয়ার্ড পাসে মাস্ক করা অবস্থানের পুরো ব্লক পূরণ করে। শাওমি মুওন সেকেন্ড-অর্ডার অপ্টিমাইজার এবং মডেলের স্ব-ডিস্টিলেশন ব্যবহার করে এই প্রক্রিয়াকে উন্নত করেছে। ড্রাফট মডেলটি শুধু স্লাইডিং উইন্ডো অ্যাটেনশন ব্যবহার করে, ফলে কথোপকথন যত দীর্ঘই হোক, প্রতিটি পূর্বাভাসের গণনাগত খরচ একই থাকে।

কোডিংয়ের ক্ষেত্রে, সর্বোচ্চ ৮ টোকেনের ব্লক থেকে প্রতি যাচাই পর্বে গড়ে ৬.৩টি টোকেন গ্রহণ করা হয়। অর্থাৎ, বড় মডেলটি ছয় বা সাতটি টোকেন আলাদা করে তৈরি না করে এক ধাপেই নিশ্চিত করে। রিজেকশন স্যাম্পলিংয়ের মাধ্যমে শুধু বৈধ টোকেনই গ্রহণ করা হয় বলে আউটপুট গাণিতিকভাবে প্রচলিত ডিকোডিংয়ের সঙ্গে অভিন্ন থাকে। মানের কোনো ক্ষতি ছাড়াই গতি বাড়ে।

টাইলআরটি দিয়ে মাইক্রোসেকেন্ডের বিরতি দূর

তৃতীয় স্তম্ভটি এমন এক অদৃশ্য বাধা দূর করে, যা কেবল অত্যন্ত বেশি গতিতে দেখা দেয়। ইনফারেন্সের গতি যখন প্রতি সেকেন্ডে ১,০০০ টোকেন ছাড়ায়, তখন প্রতিটি গাণিতিক অপারেটর চলে মাত্র কয়েক মাইক্রোসেকেন্ড। প্রচলিত সার্ভিং সিস্টেমে অপারেটরগুলো একটির পর একটি চালু হয়, আর প্রতিবার চালুর মাঝে সামান্য বিরতি থাকে। স্বাভাবিক গতিতে এসব বিরতি উপেক্ষণীয়। আল্ট্রাস্পিড পর্যায়ে এগুলো কার্যক্রমের ধারাকে ভেঙে দেয় এবং প্রধান বাধা হয়ে ওঠে।

ইনফারেন্স অংশীদার টাইলআরটির সঙ্গে যৌথভাবে তৈরি টাইলআরটি এই সমস্যার সমাধানে পারসিস্টেন্ট ইঞ্জিন কার্নেল ব্যবহার করে, যা জিপিইউর ভেতরে অবিরাম সক্রিয় থাকে। অপারেশন বারবার শুরু ও বন্ধ না করে, কার্নেল ওয়ার্প স্পেশালাইজেশনের মাধ্যমে নির্দিষ্ট হার্ডওয়্যার থ্রেডকে সমন্বিতভাবে ডেটা স্থানান্তর, গণনা ও যোগাযোগের দায়িত্ব দেয়। আরএমএসনর্ম, রোটারি পজিশন এমবেডিং এবং কেভি ক্যাশে লেখা—সাধারণত যেগুলো মাইক্রোসেকেন্ড-পর্যায়ের বিলম্ব তৈরি করে—এমন ছোট অপারেশনও কোনো বিরতি ছাড়াই চলে।

এফপি৪ ও ডিফ্ল্যাশের পদ্ধতিগুলোর সঙ্গে মিল রেখেই এই সিস্টেম নকশা করা হয়েছে, পরে জুড়ে দেওয়া হয়নি। মডেল ও সিস্টেমের এই গভীর সহ-নকশায় তিনটি স্তরই পরস্পরের সঙ্গে নিবিড়ভাবে সামঞ্জস্যপূর্ণ। শাওমি স্পষ্ট করে বলেছে, তিনটি কৌশলের কোনোটিই একা প্রতি সেকেন্ডে ১,০০০ টোকেন অর্জন করতে পারে না। কেবল এগুলোর সম্মিলিত প্রয়োগেই রেকর্ড গড়া সম্ভব হয়েছে।

বিজ্ঞাপন

বাস্তব প্রভাব ও ব্যবসায়িক প্রেক্ষাপট

প্রতি সেকেন্ডে ১,০০০ টোকেনের সীমা অতিক্রম করায় অগ্রসর মডেলগুলো দিয়ে কোন ধরনের অ্যাপ্লিকেশন তৈরি করা যুক্তিযুক্ত, তা বদলে যায়। সমান্তরাল যুক্তি-প্রক্রিয়া তখন বাস্তবসম্মত হয়ে ওঠে: একটি ধীর মডেল যত সময়ে একবার যুক্তির ধাপ চালাতে পারে, সেই একই সময়ে সিস্টেম ডজনখানেক ‘বেস্ট অব এন’ বা ট্রি-সার্চ যুক্তিপথ চালাতে পারে। কোডিং এজেন্টের লাভ হয়, কারণ দ্রুত টোকেন তৈরি হলে স্বয়ংক্রিয় ধাপগুলোর মাঝখানে অপেক্ষার সময় কমে। ট্রেডিং সংকেত তৈরি, জালিয়াতি ঠেকানো এবং সরাসরি কথোপকথন ব্যবস্থার মতো রিয়েল টাইম সিদ্ধান্ত-প্রক্রিয়াও তখন কার্যকর হয়ে ওঠে, যখন বিলম্ব মানুষের উপলব্ধির সীমার নিচে নামে।

প্রকাশ্য ডেমোতে শাওমি এর বাস্তব প্রভাব দেখিয়েছে। পুরোপুরি খেলার উপযোগী স্নেক গেম তৈরি হয়েছে প্রায় ১০ সেকেন্ডে। ম্যাকওএস ইন্টারফেসের একটি প্রোটোটাইপ দেখা গেছে প্রায় এক মিনিটে। এসব কাজের ক্ষেত্রে মোট টোকেন তৈরির গতিই মূল সীমাবদ্ধতা।

আল্ট্রাস্পিড ব্যবহার করা যাবে ২০২৬ সালের ৯ থেকে ২৩ জুন পর্যন্ত সীমিত, আবেদননির্ভর এপিআই পরীক্ষার মাধ্যমে। এর মূল্য মিমো ভি২.৫ প্রোর সাধারণ হারের তিন গুণ। বর্তমান বিনিময় হার অনুযায়ী, ইনপুটে প্রতি মিলিয়ন টোকেনের জন্য প্রায় ১.২৯ ডলার এবং আউটপুটে প্রতি মিলিয়নের জন্য ২.৬১ ডলার। এই বাড়তি মূল্যে প্রায় ১০ গুণ বেশি টোকেন তৈরির গতির প্রতিশ্রুতি দিচ্ছে শাওমি। টোকেন প্ল্যান সাবস্ক্রিপশন পরিষেবা আল্ট্রাস্পিডের ক্ষেত্রে প্রযোজ্য নয়। অনুমোদিত ব্যবহারকারীরা দৈনিক সীমাসহ দুই সপ্তাহ বিনা মূল্যে চ্যাট ব্যবহার করতে পারবেন: প্রতি অ্যাকাউন্টে ১০টি কিউ এন্ট্রি, সেশনে সর্বোচ্চ ৩০ মিনিট এবং পাঁচ মিনিট নিষ্ক্রিয় থাকলে স্বয়ংক্রিয়ভাবে রিসোর্স ছেড়ে দেওয়া হবে।

প্রযুক্তিগত এই মাইলফলক সত্ত্বেও আর্থিক বাজারে তেমন প্রতিক্রিয়া দেখা যায়নি। ১১ জুন শাওমির শেয়ার বন্ধ হয়েছে ২.৯১ ইউরোতে, যা ৫২ সপ্তাহের সর্বনিম্ন দামের চেয়ে মাত্র ১.৭৫% বেশি; বছরের শুরু থেকে শেয়ারের দর কমেছে ৩৫%। কোম্পানিটি ব্যবসার ক্ষেত্র বাড়ানো অব্যাহত রেখেছে: মিমো কোড সহকারী প্রকাশের দিনই ভারতে প্রিমিয়াম ১৭টি স্মার্টফোন চালু করেছে, পাশাপাশি চাংচুন শহরের সঙ্গে বৈদ্যুতিক গাড়ির সম্প্রসারণে কাজ করছে। পরিচালনগত অগ্রগতি শেয়ারের দরপতন উল্টে দিতে পারবে কি না, তা নির্ভর করছে আসন্ন আয়ের তথ্যের ওপর।

বিজ্ঞাপন

ওপেন সোর্স প্রকাশনা ও যাচাইয়ের প্রশ্ন

শাওমি মিমো ভি২.৫ প্রো এফপি৪ ডিফ্ল্যাশ চেকপয়েন্টটি হাগিং ফেসে ওপেন সোর্স হিসেবে প্রকাশ করেছে। এতে কোয়ান্টাইজ করা ওজন ও ডিফ্ল্যাশ প্যারামিটার রয়েছে। টাইলআরটি গিটহাবে নির্বাচিত কিছু মডিউল প্রকাশ করেছে। এই স্বচ্ছতা স্বাধীন কমিউনিটি পরীক্ষার সুযোগ তৈরি করেছে, যা অত্যন্ত গুরুত্বপূর্ণ। কারণ এখন পর্যন্ত গতির সব দাবি শাওমির অভ্যন্তরীণ বেঞ্চমার্কের ওপর নির্ভরশীল। কোনো স্বাধীন তৃতীয় পক্ষের যাচাই এখনো প্রকাশিত হয়নি।

কমিউনিটির পুনরুৎপাদন পরীক্ষায় কয়েকটি অমীমাংসিত প্রশ্নের উত্তর মিলবে। প্রথমত, শাওমির নিয়ন্ত্রিত পরীক্ষার পরিবেশের বাইরে সাধারণ জিপিইউ ইনস্ট্যান্সেও প্রতি সেকেন্ডে ১,০০০ টোকেনের গতি পাওয়া যায় কি না। দ্বিতীয়ত, খোলামেলা কথোপকথনের কাজে মানের অবনতি দেখা দেয় কি না, যেখানে স্পেকুলেটিভ ডিকোডিংয়ের গ্রহণযোগ্যতার হার এখন কাঠামোবদ্ধ কোডিং কাজের চেয়ে কম। তৃতীয়ত, উৎপাদনে ব্যবহৃত প্রচলিত সার্ভিং ব্যবস্থার সঙ্গে টাইলআরটির পারসিস্টেন্ট কার্নেল পদ্ধতি যুক্ত করা সম্ভব কি না।

স্বাধীন পরীক্ষায় দাবিগুলো সত্য প্রমাণিত হলে, কাস্টম সিলিকনের পেছনে প্রতিদ্বন্দ্বীরা যে পথে শত শত মিলিয়ন ডলার ব্যয় করেছে, সফটওয়্যার দিয়েই সেই অর্জন করবে শাওমি। এতে বোঝা যেতে পারে, অ্যালগরিদমের সহ-নকশা বিশেষায়িত হার্ডওয়্যারনির্ভর বলে মনে করা কর্মক্ষমতার স্তরও উন্মুক্ত করতে পারে; এর ফলে কৃত্রিম বুদ্ধিমত্তা শিল্পে বিনিয়োগের গতিপথ বদলে যেতে পারে।

মূল বিষয়গুলো

  • ২০২৬ সালের ৮ জুন চালুর সময় শাওমির মিমো ভি২.৫ প্রো আল্ট্রাস্পিড সাধারণ বাণিজ্যিক জিপিইউতে প্রতি সেকেন্ডে ১,০০০ টোকেন ছাড়ানো প্রথম এক ট্রিলিয়ন প্যারামিটারের মডেল হয়ে ওঠে।
  • সমন্বিত তিনটি কৌশলে গতি পাওয়া গেছে: এফপি৪ বিশেষজ্ঞ-স্তর কোয়ান্টাইজেশন, ডিফ্ল্যাশ ব্লক-স্তরের স্পেকুলেটিভ ডিকোডিং এবং টাইলআরটির পারসিস্টেন্ট জিপিইউ রানটাইম।
  • মূল মিমো ভি২.৫ প্রো মডেলের কোডিং কাজের বেঞ্চমার্ক ক্লড ওপাস ৪.৬-এর কাছাকাছি, অথচ প্রতি টোকেনের দাম প্রায় আট ভাগের এক ভাগ।
  • সেরিব্রাস ও গ্রকের মতো প্রতিদ্বন্দ্বীদের বিপরীতে, শাওমি কাস্টম সিলিকন ছাড়াই ক্লাউড সেবাদাতাদের কাছে পাওয়া সাধারণ আট-জিপিইউ নোড ব্যবহার করে এই রেকর্ড করেছে।
  • মিমো ভি২.৫ প্রো এফপি৪ ডিফ্ল্যাশ চেকপয়েন্ট এমআইটি ওপেন সোর্স লাইসেন্সের আওতায় হাগিং ফেসে পাওয়া যাচ্ছে; টাইলআরটির মডিউল রয়েছে গিটহাবে।
  • সীমিত এপিআই পরীক্ষা চলবে ২০২৬ সালের ৯ থেকে ২৩ জুন পর্যন্ত। এতে সাধারণ হারের তিন গুণ মূল্যে প্রায় ১০ গুণ বেশি টোকেন তৈরির গতি পাওয়া যাবে।
  • প্রযুক্তিগত সাফল্য সত্ত্বেও শাওমির শেয়ারদর ৫২ সপ্তাহের সর্বনিম্নের কাছাকাছি রয়েছে; ২০২৬ সালের জুনের মাঝামাঝি পর্যন্ত বছরের শুরু থেকে দর কমেছে ৩৫%।
এই নিবন্ধটি শেয়ার করুন

আপনার পছন্দ হতে পারে