এআইয়ের খরচ কমাতে ও প্রসঙ্গের পরিসর বাড়াতে লেখাকে ছবিতে সংকুচিত করছে ডিপসিক ওসিআর

দীর্ঘ নথিকে এআইয়ের প্রসঙ্গসীমায় আনার নতুন উপায়

ডিপসিক প্রকাশ করেছে ডিপসিক-ওসিআর, একটি ভিশন-ল্যাঙ্গুয়েজ ব্যবস্থা। এটি দীর্ঘ লেখাকে ছবিতে রূপান্তর করে সংকুচিত করে, পরে মডেলের প্রয়োজন হলে সেই বিষয়বস্তু পুনরুদ্ধার করে। সেটিংস ও নথির ধরনের ওপর নির্ভর করে এ পদ্ধতিতে বড় ভাষা মডেলকে সামলাতে হয় এমন টোকেনের সংখ্যা সাত থেকে বিশ গুণ কমে, আর মাঝারি মাত্রায় সংকোচনেও নির্ভুলতা থাকে বেশি। ডিপসিকের দাবি, প্রায় ১০ গুণ সংকোচনের ক্ষেত্রে ব্যবস্থা প্রায় ৯৭ শতাংশ নির্ভুলতায় লেখা ডিকোড করতে পারে, আর আরও বেশি সংকোচনেও কার্যকর ফল দেয়। প্রকল্পটির কোড ও মডেল ওয়েটস প্রকাশ করা হয়েছে, এটি ডেভেলপারদের জন্য উপলভ্য এবং আধুনিক এআইয়ের সবচেয়ে ব্যয়বহুল সমস্যাগুলোর একটি, যুক্তিসংগত খরচে দীর্ঘ প্রসঙ্গ সামলানো, মোকাবিলার লক্ষ্য রাখে।

ব্যবস্থাটি দুই ধাপে কাজ করে। ডিপএনকোডার নামের একটি ভিশন এনকোডার লেখার পৃষ্ঠা, টেবিল, চার্ট ও অন্যান্য বিন্যাসকে সংক্ষিপ্ত ভিশন টোকেনের সেটে রূপান্তর করে। এরপর ডিপসিক৩বি এমওই এ৫৭০এম নামের একটি হালকা ভাষা মডেল ওই টোকেনগুলোকে আবার কাঠামোবদ্ধ লেখায় ডিকোড করে। এই ব্যবস্থায় প্রয়োজন হলে পৃষ্ঠার বিন্যাস ও ফরম্যাট অক্ষুণ্ন থাকে, বহু ভাষা সমর্থিত হয়, এবং সাধারণ লেখা বা মার্কডাউন টেবিলের মতো কাঠামোবদ্ধ ফল পাওয়া যায়।

বিষয়টি কেন গুরুত্বপূর্ণ, তা নির্ভর করে টোকেনের ওপর। ভাষা মডেল যে মৌলিক এককগুলো পড়ে ও লেখে, সেগুলোই টোকেন। টোকেনের সংখ্যা বাড়লে মেমোরির ব্যবহার ও বিলম্ব বাড়ে, ফলে খরচও বেড়ে যায়। একই সঙ্গে, একবারে কতটা প্রসঙ্গ দেখতে পারবে তার কঠোর সীমা রয়েছে মডেলগুলোর। প্রসঙ্গকে ছবি হিসেবে রেখে ভিশন টোকেনের মাধ্যমে আবার ব্যবহার করে ডিপসিক-ওসিআর দীর্ঘ সেশন ও বড় নথির জন্য কম খরচের একটি মেমোরি স্তর দিচ্ছে। এর ফলে শুধু লেখা দিয়ে যতটা সম্ভব, তার চেয়ে অনেক বড় কার্যকর প্রসঙ্গসীমা পাওয়ার সম্ভাবনা তৈরি হয়েছে।

ব্যবস্থাটির মূল দাবিগুলোর একটি হলো এর ব্যাপকতা। প্রায় ১০০টি ভাষায় প্রায় ৩ কোটি পিডিএফ পৃষ্ঠা ব্যবহার করে মডেলটি প্রশিক্ষণ দেওয়া হয়েছে; চার্ট, সূত্র ও চিত্রের জন্য যোগ করা হয়েছে অতিরিক্ত সিন্থেটিক ডেটা। পরিচালনাগত দিক থেকে, দলটির দাবি, একটি এনভিডিয়া এ১০০ জিপিইউ দিনে ২ লাখের বেশি পৃষ্ঠা প্রক্রিয়া করতে পারে। একই ধরনের ২০টি সার্ভারের ক্লাস্টারে দৈনিক প্রায় ৩ কোটি ৩০ লাখ পৃষ্ঠা প্রক্রিয়া করা সম্ভব। এ পরিসংখ্যানগুলো নথি ডিজিটাইজ করা এবং ব্যাপক পরিসরে প্রশিক্ষণ ডেটা তৈরির দ্রুত প্রক্রিয়ার ইঙ্গিত দেয়।

লেখাকে ছবিতে রূপান্তর করলে টোকেন কমে যেভাবে

ভাষা মডেল ইনপুটকে শব্দ বা অক্ষর হিসেবে নয়, টোকেন হিসেবে পড়ে। সাধারণ একটি নিবন্ধ বা প্রতিবেদনও হাজারো টোকেনে রূপ নিতে পারে। অধিকাংশ ট্রান্সফরমারের অ্যাটেনশন মেকানিজম বহু টোকেন জোড়ার মধ্যে তুলনা করে, আর অনুক্রম যত দীর্ঘ হয়, এই কাজের পরিমাণ তত দ্রুত বাড়ে। দীর্ঘ প্রসঙ্গ মেমোরি ও সময়ের ব্যবহার বাড়ায়, আর বড় পরিসরে তা বাজেটের সমস্যা হয়ে দাঁড়ায়।

টোকেন ও প্রসঙ্গসীমা কী

টোকেন হলো ভাষার এমন অংশ, যা মডেল বুঝতে পারে। ছোট কোনো শব্দ একটি টোকেন হতে পারে, দীর্ঘ শব্দ কয়েকটি টোকেনে ভাগ হতে পারে, আর যতিচিহ্নও টোকেন হিসেবে গণ্য হয়। মডেল একবারে সর্বোচ্চ যতটি টোকেন বিবেচনা করতে পারে, সেটিই তার প্রসঙ্গসীমা। বাস্তবের অনেক ফাইল এই সীমা ছাড়িয়ে যায়। ফলে ব্যবহারকারীদের হয় নথির অংশ বাদ দিতে হয়, নয়তো দীর্ঘ প্রসঙ্গের জন্য তৈরি বিশেষ মডেলে বেশি খরচ করতে হয়।

সংরক্ষণের ক্ষেত্রে লেখার চেয়ে পিক্সেল কেন সাশ্রয়ী হতে পারে

ভিশন এনকোডার একটি ছবিকে ছোট ছোট প্যাচের গ্রিডে রূপান্তর করে, পরে সেই গ্রিডকে ভিশন টোকেনের সেটে সংকুচিত করে। ডিপসিকের এনকোডার ডিকোডারে বৈশিষ্ট্য পাঠানোর আগে টোকেনের সংখ্যা কমাতে একটি কম্প্রেশন ব্লক ব্যবহার করে। প্রযুক্তিগত নোটে ১,০২৪ বাই ১,০২৪ পিক্সেলের একটি ছবির উদাহরণ দেওয়া হয়েছে। ছবিটি শুরুতে ৪,০৯৬টি প্যাচ টোকেন তৈরি করবে, পরে ভিশন-ল্যাঙ্গুয়েজ স্তরে যাওয়ার আগে তা ২৫৬টি সংকুচিত টোকেনে নেমে আসবে। এই ২৫৬টি টোকেন যদি ঘন একটি পৃষ্ঠার মূল বিষয়বস্তু ধারণ করতে পারে, যে পৃষ্ঠাটি অন্যথায় ১,৫০০ বা তার বেশি টেক্সট টোকেন নিত, তাহলে সাশ্রয় হবে তাৎক্ষণিক।

বিনিময়ের বিষয়টি সহজ। দীর্ঘ প্রসঙ্গকে টেক্সট টোকেন হিসেবে সংরক্ষণের বদলে ব্যবস্থাটি সংক্ষিপ্ত ভিশন টোকেনের মাধ্যমে স্ন্যাপশট সংরক্ষণ করে, পরে প্রয়োজন হলে তার অর্থ পুনর্গঠন করে। এতে মেমোরির বাজেট নিয়ন্ত্রণে থাকে, বিন্যাস ও ডায়াগ্রাম অক্ষুণ্ন রাখতে সুবিধা হয় এবং টেক্সট টোকেনাইজারের কিছু সীমাবদ্ধতা এড়ানো যায়। তবে এর জন্য এনকোড ও ডিকোডের অতিরিক্ত ধাপ লাগে, আর খুব বেশি সংকোচনে ধীরে ধীরে নির্ভুলতা কমে যায়।

মডেলের ভেতরে: ডিপএনকোডার ও ডিকোডার

ডিপএনকোডারে সুপরিচিত দুটি ধারণা একত্র করা হয়েছে: স্থানীয় বৈশিষ্ট্য শনাক্তকরণ ও সামগ্রিক বোঝাপড়া। সূক্ষ্ম অঞ্চল ও প্রান্ত শনাক্ত করতে এটি সেগমেন্ট এনিথিং মডেলের ব্যাকবোন ব্যবহার করে, আর বিস্তৃত অর্থভিত্তিক বিন্যাস বুঝতে ব্যবহার করে ক্লিপ-ধাঁচের একটি মডিউল। মাঝখানে রয়েছে একটি কনভল্যুশনাল কম্প্রেসর, যা ভাষা স্তরে পাঠানোর আগে ভিশন টোকেনের সংখ্যা অনেক কমিয়ে দেয়। এনকোডারটি একাধিক রেজোলিউশন মোড সমর্থন করে, ফলে ব্যবহারকারীরা প্রতিটি পৃষ্ঠার জটিলতার সঙ্গে মিলিয়ে টোকেনের বাজেট ঠিক করতে পারেন। সাধারণ স্লাইডে অল্প টোকেনই যথেষ্ট। অনেক কলাম থাকা সংবাদপত্রের পৃষ্ঠা বা ঘন বৈজ্ঞানিক চিত্রে আরও টোকেন লাগতে পারে।

ডিকোডারটি তিন বিলিয়ন প্যারামিটারের নকশার ওপর তৈরি একটি মিক্সচার অব এক্সপার্টস ভাষা মডেল; প্রতি টোকেনে সক্রিয় থাকে প্রায় ৫৭ কোটি প্যারামিটার। এক্সপার্ট রাউটিংয়ের মাধ্যমে মডেলটি প্রতিটি টোকেনে পুরো তিন বিলিয়ন প্যারামিটার ব্যবহার না করেই বিভিন্ন ধরনের বিষয়বস্তুর ওপর মনোযোগ দিতে পারে। এতে মান বজায় রেখে কম্পিউটিংয়ের খরচ সাশ্রয় হয়। ব্যবস্থাটি সাধারণ লেখা দিতে পারে, মার্কডাউনে কাঠামো অক্ষুণ্ন রাখতে পারে, এমনকি টেবিল ও চার্ট থেকে মেশিনে ব্যবহারযোগ্য ফরম্যাটে ডেটা বের করতে পারে। এটি বহু ভাষায় ওসিআর সমর্থন করে এবং ডায়াগ্রাম, রাসায়নিক গঠন ও জ্যামিতিক চিত্র বুঝতে পারে।

কনফিগারেশনের প্রিসেটে রয়েছে টিনি, স্মল, বেস ও লার্জ; খুব জটিল পৃষ্ঠার জন্য আছে ডাইনামিক মোড। এসব প্রিসেটে ছবির আকার ও টোকেনের সংখ্যার মধ্যে ভারসাম্য রাখা হয়। সাধারণ পৃষ্ঠার জন্য ডিপসিক প্রথমে স্মল দিয়ে শুরু করার পরামর্শ দেয়; বিষয়বস্তু ঘন বা বিন্যাস জটিল হলেই কেবল উচ্চতর মোডে যাওয়া উচিত।

বেঞ্চমার্ক ও নির্ভুলতার পরিসংখ্যান কী দেখায়

ডিকোডার যদি উচ্চ নির্ভুলতায় লেখা পুনরুদ্ধার করতে না পারে, তাহলে সংকোচনের কোনো মূল্য নেই। ১০ গুণের কম সংকোচনে ডিকোডিং পরীক্ষায় প্রায় ৯৭ শতাংশ নির্ভুলতার কথা জানিয়েছে ডিপসিক। ২০ গুণ সংকোচনের ক্ষেত্রে তা কমে প্রায় ৬০ শতাংশে নেমে আসে। দলটি এমন উদাহরণও দেখিয়েছে, যেখানে ১০০টি ভিশন টোকেন এমন নথি উপস্থাপন করে, যা সাধারণত ৭০০ থেকে ৮০০টি টেক্সট টোকেন নিত; একটি নির্দিষ্ট বেঞ্চমার্কে নির্ভুলতা তখনও প্রায় ৯৭ শতাংশ। এই পরিসংখ্যানগুলো দেখায়, মাঝারি মাত্রার সংকোচনে সাশ্রয় ও নির্ভুলতার মধ্যে সবচেয়ে ভালো ভারসাম্য পাওয়া যায়।

নথি বোঝার প্রচলিত পরীক্ষা ওমনিডকবেঞ্চে, কম টোকেন ব্যবহার করেও মডেলটি সুপরিচিত ওসিআর ব্যবস্থাগুলোর চেয়ে ভালো ফল করেছে। নথির ধরন অনুযায়ী টোকেনের চাহিদা ভিন্ন হয়। স্লাইড ও সাধারণ ব্রোশিওরের প্রতি পৃষ্ঠায় প্রায় ৬৪টি ভিশন টোকেন লাগতে পারে। অনেক কলাম ও ছবি থাকা ম্যাগাজিন বা সংবাদপত্রে লাগতে পারে কয়েক শ টোকেন। ব্যবহারকারীর সেটিংস অনুযায়ী ব্যবস্থাটি ফরম্যাট অক্ষুণ্ন রাখতে পারে, আবার বাদও দিতে পারে।

পরিচালনাগত পরিসংখ্যান বেশ উচ্চাভিলাষী। দলটির দাবি, একটি এনভিডিয়া এ১০০ কার্ডে দিনে ২ লাখের বেশি পৃষ্ঠা এবং ২০ সার্ভারের ক্লাস্টারে দিনে প্রায় ৩ কোটি ৩০ লাখ পৃষ্ঠা প্রক্রিয়া করা যায়। প্রশিক্ষণ ও ইনফারেন্সের কোড এবং মডেল ওয়েটস উন্মুক্ত লাইসেন্সে পাওয়া যাচ্ছে। এই সমন্বয় গবেষণা ও উৎপাদন পরিবেশে দ্রুত পরীক্ষা-নিরীক্ষার সুযোগ তৈরি করে।

এআইয়ের খরচ, মেমোরি ও পণ্য নকশায় সম্ভাব্য পরিবর্তন

কথোপকথন বা নথির ধারাবাহিকতা দীর্ঘ হলে অনেক এআই পণ্যই সীমাবদ্ধতায় পড়ে। আগের প্রসঙ্গ ভিশন টোকেন হিসেবে সংরক্ষণ করলে মডেলগুলো কম খরচে মেমোরির একটি স্তর পায়। কোনো ব্যবস্থা আগের কথোপকথনকে ছবিতে সারসংক্ষেপ বা সংকুচিত করে রাখতে পারে, পরে দরকার হলে বিস্তারিত ডিকোড করে নিতে পারে। এতে সক্রিয় টেক্সট প্রসঙ্গ সংক্ষিপ্ত থাকে, অথচ আগের ধাপের তথ্য, সূত্র উল্লেখ ও বিন্যাস মনে করার সুযোগ বজায় থাকে। প্রচলিত টোকেনাইজার যেসব জটিল টেবিল বা গাণিতিক বিষয়বস্তু ঠিকমতো সামলাতে পারে না, সেগুলোও মডেলের জন্য সহজ হয়।

ব্যবহারকারীদের জন্য এতে বাস্তব কাজের সুযোগ তৈরি হয়। কোনো সহকারী সম্পূর্ণ পিডিএফ, চুক্তিপত্র ও স্প্রেডশিট গ্রহণ করে সংক্ষিপ্ত স্মৃতি ধরে রাখতে পারে, পরে অনুরোধ পেলে কাঠামোসহ নির্দিষ্ট অংশ ফিরিয়ে দিতে পারে। টেবিল থেকে সারি কপি করা বা চিত্রের ক্যাপশন বের করা সহজ হয়, কারণ ডিকোডার শুধু অক্ষর নয়, কাঠামোও পুনর্গঠন করে। এতে দক্ষ এন্টারপ্রাইজ সার্চের সম্ভাবনাও দেখা যায়, যেখানে সংকুচিত পৃষ্ঠার স্ন্যাপশট সূচিবদ্ধ করে রাখা হবে, পরে প্রয়োজনমতো অংশ ডিকোড করা হবে।

নির্মাতা ও গবেষকদের জন্য প্রক্রিয়াকরণের গতি গুরুত্বপূর্ণ। ব্যবস্থাটি ভাষা ও ভিশন মডেলের জন্য বড় প্রশিক্ষণ করপাস তৈরি করতে পারে, প্রতি জিপিইউতে দিনে কয়েক লাখ পৃষ্ঠা তৈরি করে। এতে কম খরচে তত্ত্বাবধানভিত্তিক ডেটা তৈরি করা যায়। অর্থনীতি, স্বাস্থ্যসেবা ও বিজ্ঞানের মতো চার্ট ও ফরমের ওপর নির্ভরশীল খাতগুলো কাঠামো আরও ভালোভাবে অক্ষুণ্ন রেখে দ্রুত ডিজিটাইজেশনের সুবিধা পেতে পারে। তবে সংকুচিত আউটপুট ভবিষ্যৎ প্রশিক্ষণে ব্যবহারের সময় সতর্ক থাকতে হবে, কারণ ছোট ডিকোডিং ত্রুটিও ব্যাপক পরিসরে ভুল লেবেলে পরিণত হতে পারে।

সীমাবদ্ধতা, ঝুঁকি ও খোলা প্রশ্ন

সংকোচন যত বাড়ে, টোকেনের বাজেট তত কমে, কিন্তু নির্ভুলতাও হ্রাস পায়। প্রায় ২০ গুণ সংকোচনে নির্ভুলতা প্রায় ৬০ শতাংশে নেমে আসে বলে জানানো হয়েছে। অনেক কাজে ছোটখাটো ভুল গ্রহণযোগ্য। কিন্তু নাম, সংখ্যা ও আইনি ধারার মতো বিষয় প্রায় নিখুঁতভাবে পুনরুদ্ধার করা জরুরি। গুরুত্বপূর্ণ পৃষ্ঠায় কম সংকোচনের মোড ব্যবহারের নীতি এবং হুবহু পুনরুৎপাদন প্রয়োজন হয় না এমন প্রসঙ্গে বেশি সংকোচনের ব্যবস্থা করতে হবে ব্যবহারকারীদের।

যুক্তি বিশ্লেষণ নিয়েও প্রশ্ন রয়েছে। মডেলগুলো টেক্সট টোকেনের ওপর ভালোভাবে যুক্তি করতে পারে, কারণ সেভাবেই তাদের প্রশিক্ষণ দেওয়া হয়েছে। ভিশন টোকেনে ভিন্ন ধরনের অন্তর্নিহিত বৈশিষ্ট্য থাকে। ডিকোডারকে আগে লেখা পুনর্গঠন করতে হয়, তারপর যুক্তি করতে হয়। এই অতিরিক্ত ধাপ দীর্ঘ চিন্তাপ্রক্রিয়ার ওপর নির্ভরশীল কাজে প্রভাব ফেলতে পারে। ছবির স্তরের পেছনে গুরুত্বপূর্ণ প্রসঙ্গ থাকলে দলগুলোকে বহু ধাপের যুক্তি বিশ্লেষণ পরীক্ষা করতে হবে এবং নির্ভুলতা-নির্ভর কাজের জন্য বিকল্প ব্যবস্থাও বিবেচনা করতে হবে।

বিলম্ব ও অবকাঠামো পরিকল্পনাও গুরুত্বপূর্ণ। এনকোড ও ডিকোডের অতিরিক্ত ধাপে কাজ বাড়ে। নথি বড় হলে বা কথোপকথন দীর্ঘ হলেই সাশ্রয়ের সুবিধা দেখা যায়। কখন সংকোচন করতে হবে আর কখন মূল লেখা পাঠাতে হবে, তা ঠিক করতে বিভিন্ন ধরনের নথিতে বাস্তব প্রক্রিয়াকরণ সময়, মেমোরি ও খরচ যাচাই করে সীমা নির্ধারণ করা উচিত। সংরক্ষণের ফরম্যাটও বদলে যায়। মূল টেক্সট ফাইলের বদলে ছবি বা ছবির মতো টেনসর ব্যবহৃত হয়, যা তথ্য অনুসন্ধানব্যবস্থা ও কমপ্লায়েন্স প্রক্রিয়ায় প্রভাব ফেলতে পারে।

গোপনীয়তা ও নিরাপত্তার দিকে নজর দেওয়া জরুরি। সংবেদনশীল ফাইলকে ছবি বা ভিশন টোকেনে সংকুচিত করলেই ঝুঁকি দূর হয় না। সংকুচিত সংরক্ষিত তথ্যের ক্ষেত্রেও প্রবেশাধিকার নিয়ন্ত্রণ, এনক্রিপশন ও অডিট ট্রেইল প্রযোজ্য হতে হবে। কম রেজোলিউশনের স্ক্যান বা অস্পষ্ট হাতের লেখার মতো কিছু নথি মডেলের জন্য কঠিনই থাকবে। গুরুত্বপূর্ণ কাজের ক্ষেত্রে ডাইনামিক মোড নির্বাচন ও মানুষের পর্যালোচনা এখনো বিচক্ষণতার পরিচয়।

আজই যেভাবে ডিপসিক ওসিআর ব্যবহার করে দেখবেন

হাগিং ফেসের প্রকল্প পাতায় মডেল কার্ড, দ্রুত শুরু করার নির্দেশনা ও ডাউনলোড রয়েছে। একাডেমিক ও বাণিজ্যিক, উভয় ব্যবহারের অনুমতি দেয় এমন উদার লাইসেন্সে কোড ও ওয়েটস গিটহাবেও পাওয়া যায়। ডেভেলপাররা শুরু করতে পারেন এখানে: হাগিং ফেস মডেল পৃষ্ঠা এবং এখানে: গিটহাব রিপোজিটরি।

রেফারেন্স সেটআপে পাইথন ৩.১২.৯ ও কুডা ১১.৮ উল্লেখ করা হয়েছে; নির্ভরশীলতার মধ্যে রয়েছে পাইটর্চ, ট্রান্সফরমার্স, টোকেনাইজার্স, আইনঅপস, অ্যাডিক্ট, ইজিডিক্ট ও ফ্ল্যাশ অ্যাটেনশন। দ্রুত কাজের জন্য এনভিডিয়া জিপিইউ ব্যবহারের পরামর্শ দেওয়া হয়েছে। প্রিসেট মোডে বিস্তারিত ও খরচের মধ্যে ভারসাম্য রাখা যায়। সাধারণ ব্যবসায়িক নথির জন্য স্মল মোড দিয়ে শুরু করা যুক্তিসংগত। ঘন বৈজ্ঞানিক বা আইনি পৃষ্ঠায় উচ্চতর রেজোলিউশন কিংবা ডাইনামিক মোড কাজে আসতে পারে।

সাধারণ কর্মপ্রক্রিয়ায় পিডিএফকে পৃষ্ঠাভিত্তিক ছবিতে রূপান্তর করা হয়, নির্ধারিত রেজোলিউশনে প্রতিটি পৃষ্ঠা ডিপএনকোডারে দেওয়া হয়, তারপর তৈরি হওয়া ভিশন টোকেন ভাষা মডেল দিয়ে ডিকোড করা হয়। অনুসন্ধানের জন্য সাধারণ লেখা, অথবা টেবিল ও বিভাগের শিরোনাম অক্ষুণ্ন রাখতে মার্কডাউন আউটপুট নেওয়া যায়। গিটহাব রিপোজিটরিতে একসঙ্গে অনেক নথি প্রক্রিয়ার স্ক্রিপ্ট ও গতি বাড়ানোর পরামর্শ রয়েছে। সংকোচনের অনুপাত বাড়ালে নির্ভুলতা নজরে রাখা উচিত, আর গুরুত্বপূর্ণ পৃষ্ঠার ক্ষেত্রে সতর্কতামূলক সেটিংস ব্যবহার করা উচিত।

মূল বিষয়গুলো

• ডিপসিক-ওসিআর দীর্ঘ লেখাকে ছবি হিসেবে সংরক্ষণ করে সংকুচিত করে, পরে ডিকোডারের মাধ্যমে প্রয়োজনমতো বিষয়বস্তু পুনরুদ্ধার করে।
• সেটিংস ও নথির জটিলতা অনুযায়ী টোকেনের ব্যবহার প্রায় সাত থেকে বিশ গুণ কমে।
• প্রায় ১০ গুণ সংকোচনে ডিকোডিংয়ের নির্ভুলতা প্রায় ৯৭ শতাংশ, আর প্রায় ২০ গুণ সংকোচনে তা প্রায় ৬০ শতাংশ বলে জানানো হয়েছে।
• এই স্থাপত্যে ডিপএনকোডারের সঙ্গে রয়েছে মিক্সচার অব এক্সপার্টস ডিকোডার, যা প্রতি টোকেনে প্রায় ৫৭ কোটি প্যারামিটার সক্রিয় করে।
• টিনি থেকে লার্জ পর্যন্ত বিভিন্ন মোড এবং খুব জটিল পৃষ্ঠার জন্য ডাইনামিক মোড রয়েছে, যাতে ব্যবহারকারীরা টোকেনের নির্দিষ্ট বাজেট ঠিক করতে পারেন।
• জনপ্রিয় ওসিআর ব্যবস্থার তুলনায় কম টোকেন ব্যবহার করেও ওমনিডকবেঞ্চে ভালো ফল দেখিয়েছে মডেলটি।
• প্রক্রিয়াকরণের গতির দাবির মধ্যে রয়েছে একটি এনভিডিয়া এ১০০ জিপিইউতে দিনে ২ লাখের বেশি পৃষ্ঠা এবং ২০ সার্ভারের ক্লাস্টারে দিনে প্রায় ৩ কোটি ৩০ লাখ পৃষ্ঠা।
• কাঠামোবদ্ধ আউটপুটের মধ্যে রয়েছে মার্কডাউন টেবিল ও চার্টের ডেটা; পাশাপাশি ডায়াগ্রাম, সূত্র ও বহু ভাষা সমর্থিত।
• উদার লাইসেন্সে ওপেন সোর্স কোড ও ওয়েটস হাগিং ফেস ও গিটহাবে পাওয়া যাচ্ছে।
• কম খরচে দীর্ঘ প্রসঙ্গের মেমোরি, ব্যাপক পরিসরে নথি ডিজিটাইজ করা ও প্রশিক্ষণ ডেটা তৈরির ক্ষেত্রে এটি কার্যকর হতে পারে; তবে নির্ভুলতা অত্যন্ত গুরুত্বপূর্ণ এমন কাজে সতর্কতার সঙ্গে সেটিংস নির্ধারণ করা দরকার।