OpenAI-এর প্রথম কাস্টম চিপ 'Jalapeño' এলো Broadcom-এর সাথে যৌথ উদ্যোগে

OpenAI বুধবার তাদের প্রথম কাস্টম-বিল্ট ইনফারেন্স প্রসেসর উন্মোচন করেছে, যা Broadcom-এর সাথে যৌথভাবে ডিজাইন ও তৈরি করা হয়েছে। Jalapeño নামের এই নতুন প্রসেসরটি OpenAI-এর ইনফারেন্স সিস্টেমের অনন্য প্রয়োজনের জন্য বিশেষভাবে ডিজাইন করা হয়েছে। OpenAI-এর নিজস্ব AI মডেলগুলি চিপটির উন্নয়নে সহায়তা করেছে, কোম্পানিটি জানিয়েছে। যদিও চিপটি এখনও পরীক্ষা চলছে, OpenAI বলেছে যে প্রাথমিক ফলাফলে বর্তমান সর্বাধুনিক বিকল্পগুলির তুলনায় উল্লেখযোগ্যভাবে ভালো পারফরম্যান্স-পার-ওয়াট দেখা গেছে।n

nঅক্টোবরে অংশীদারিত্বটি আনুষ্ঠানিকভাবে ঘোষণা করা হয়েছিল, কিন্তু OpenAI-এর চিপ পরিকল্পনা দীর্ঘদিন ধরে গুজব হিসেবে চলছিল - এটি Nvidia-এর GPU-এর উপর কোম্পানির নির্ভরতা কমানোর একটি উপায় হিসেবে বিবেচিত হয়েছে। Google এবং Amazon উভয়ই অনুরূপ উদ্দেশ্যে কাস্টম চিপ তৈরি করেছে, যা প্রায়ই "AI accelerators" বলা হয় - মেশিন লার্নিং ওয়ার্কলোড গতিবর্ধনের জন্য বিশেভাবে ডিজাইন করা সিলিকন।n

nOpenAI-এর প্রেসিডেন্ট Greg Brockman Broadcom অংশীদারিত্ব ঘোষণার কিছুক্ষণ পরে তাদের অভ্যন্তরীণ পডকাস্টে চিপ উন্নয়নের প্রতি কোম্পানির দৃষ্টিভাগ ব্যাখ্যা করেছেন।n

n"আমাদের ওয়ার্কলোড সম্পর্কে গভীর বোঝাপডা আছে," Brockman এই পর্বে বলেছেন। "আমরা সত্যিই সেই নির্দিষ্ট ওয়ার্কলোডগুলি খুঁজছি যেগুলি অপরিবেশিত, [এবং জিজ্ঞাসা করছি] কীভাবে আমরা এমন কিছু তৈরি করতে পারব যা যা সম্ভব ত্বরান্বিত করতে পারবে?"n

nJalapeño বিশেষভাবে ইনফারেন্সের জন্য ডিজাইন করা হয়েছে - ব্যবহারকারীর কমান্ডের প্রতিক্রিয়ায় প্রি-বিল্ট AI মডেল চালানোর প্রক্রিয়া। ঘোষণায়, OpenAI রিয়াল-টাইম কোডিং মডেল চালানোর সময় চিপটির কম অপারেটিং খরচের উপর জোর দিয়েছে। এটি সম্ভব যে প্রি-ট্রেনিং-এর মতো আরও পারফরম্যান্স-নিবিড় কাজগুলি এখনও Nvidia হার্ডওয়্যারের উপর নির্ভর করবে, কিন্তু ইনফারেন্স খরচে এমনকি ছোট হ্রাসও কোম্পানির আর্থিক ফলাফল উন্নত করতে অনেক কিছু করতে পারে।n

nইনফারেন্স সিস্টেম অপ্টিমাইজ করা ভবিষ্যতে AI-এর অর্থনীতিতে একটি গুরুত্বপূর্ণ হতে পারে证明 - এবং এটি সম্ভবত স্ট্যাকের প্রতিটি স্তরে ঘটবে। OpenAI ইতিমধ্যেই Codex-এর মতো এজেন্টিক পণ্য এবং তাদের চালিত মডেল, পাশাপাশি সেই মডেল চালানোর জন্য ডেটা সেন্টার তৈরি করছে। উদ্দেশ্য-নির্মিত চিপে প্রবেশ করার মাধ্যমে কোম্পানি সেই প্রক্রিয়ায় আরও এগিয়ে যেতে পারে, যেমনটি কোম্পানি তাদের ঘোষণায় ব্যাখ্যা করেছে।n

n"OpenAI শুধুমাত্র ফ্রন্টিয়ার মডেল উন্নয়ন করছে না বা তাদের উপর পণ্য তৈরি করছে না; এটি তাদের নীচে অবকাঠামো ডিজাইন করছে: চিপ আর্কিটেকচার, কার্নেল, মেমরি সিস্টেম, নেটওয়ার্কিং, শিডিউলিং, ডিপ্লয়মেন্ট সিস্টেম এবং প্রোডাক্ট এক্সপেরিয়েন্স," কোম্পানি লিখেছে। "কারণ OpenAI স্ট্যাক জুড়ে কাজ করে, প্রতিটি স্তর একই লক্ষ্যের চারপাশে অপ্টিমাইজ করা যেতে পারে: তাদের মডেলগুলি ব্যবহারকারীদের জন্য দ্রুততর, নির্ভরযোগ্য এবং সাশ্রয়ীয় করা।"