گوگل در حال توسعه تراشه «Frozen v۲» با معماری Gemini درون سیلیکون
گزارش منتشر شده توسط The Information نشان میدهد که گوگل در حال توسعه یک تراشه سرور است که به طور غیررسمی «Frozen v2» نامیده میشود. این تراشه، بخشی از معماری مدل هوش مصنوعی Gemini را مستقیماً در سیلیکون خود حک میکند. بر اساس گفته دو منبع آگاه، مهندسان پروژه پیشبینی میکنند که این تراشه میتواند بین شش تا ده برابر توکن بیشتر در هر واحد توان نسبت به جدیدترین نسل واحدهای پردازش تنسور (TPU) گوگل ارائه دهد. هدفگذاری برای استقرار این تراشه، اوایل سال ۲۰۲۸ است.
این منابع همچنین اظهار داشتند که این پروژه تا حدی پاسخی به کمبود شدید توان محاسباتی هوش مصنوعی است که حتی Google Cloud را مجبور کرده تا برخی قراردادها با مشتریان خارجی را رد کند.
معماری Frozen v2 و مزایای آن
یک TPU، مشابه یک GPU، هر مدلی که روی آن بارگذاری شود را اجرا میکند، به این معنی که سختافزار در حین تعامل با هر مدل، تصمیمات زمانبر اجرا را اتخاذ میکند. اما تراشه Frozen v2 برخی از این تصمیمات مربوط به Gemini را در ترانزیستورها ثابت میکند. این امر باعث کاهش تعداد گامهایی که تراشه برمیدارد و حجم دادهای که در هر کوئری جابجا میکند، میشود. یکی از منابع اشاره کرد که این رویکرد میتواند تأخیر پاسخ را به حدی کاهش دهد که امکان برنامههای کاربردی جدیدی را فراهم کند.
طراحی اولیه، که توسط دانشمند ارشد Google DeepMind، جف دین، رهبری میشد، حتی فراتر رفته و وزنهای خود Gemini را نیز در تراشه جاسازی میکرد. با این حال، طبق گزارش، گوگل آن پیشنهاد را کنار گذاشت؛ زیرا سیلیکونی که تنها به یک نسخه مدل خاص گره خورده باشد، چرخه عمر بسیار کوتاهی خواهد داشت. Frozen v2 به جای آن، معماری مدل را ثابت میکند و وزنها را قابل بهروزرسانی باقی میگذارد. به این ترتیب، تراشه در طول نسخههای مختلف Gemini همچنان کارآمد خواهد ماند، البته تا زمانی که گوگل آنها را بر روی همان معماری زیربنایی بسازد. این که چه مقدار از مدل باید قفل شود، هنوز در دست بررسی است.
جایگاه Frozen v2 در اکوسیستم گوگل
گوگل برنامهای برای تولید Frozen v2 با حجم تولید TPU ندارد و این نسل را تا حدی یک آزمایش برای سیلیکونهای تخصصیتر میداند، آن هم زمانی که طراحی مدلها تثبیت شود. این تراشه در کنار خط تولید TPU قرار خواهد گرفت نه اینکه جایگزین آن شود. خط تولید TPU با معرفی نسل هشتم در کنفرانس Cloud Next در ماه آوریل، به دو نوع مجزا برای آموزش و استنتاج تقسیم شد. همچنین، هدفگذاری سال ۲۰۲۸ برای این تراشه، مصادف با همان سالی است که گوگل طبق گزارشها، با اینتل برای بستهبندی بیش از ۳ میلیون TPU قرارداد بسته است.
روندهای فعلی در سختافزار استنتاج مدلمحور
سیلیکونهای استنتاجی که مدل را به صورت سختافزاری پیادهسازی کردهاند، پیش از این نیز در نمونههای نمایشی وجود داشتهاند. شرکت استارتاپی Taalas در تورنتو، که بیش از ۲۰۰ میلیون دلار سرمایه از سرمایهگذارانی از جمله Quiet Capital و Fidelity جذب کرده است، تراشه HC1 خود را در ماه فوریه با مدل Llama 3.1 8B منتشر کرد. این مدل به طور دائم در یک دای ۸۱۵ میلیمتر مربعی که بر روی فرآیند N6 TSMC ساخته شده، تعبیه شده است. این شرکت ادعا میکند که ۱۷۰۰۰ توکن در ثانیه برای هر کاربر بدون HBM روی بسته ارائه میدهد. در همین حال، Nvidia نیز در ماه دسامبر قراردادی ۲۰ میلیارد دلاری برای مجوز فناوری از شرکت Groq، طراح تراشههای استنتاج، منعقد کرد.

















دیدگاهها۰
برای ثبت نظر، پرسش یا رأی ابتدا وارد حساب کاربری شوید.