Google telah mula membangunkan pemproses yang direka khas untuk model AI Gemini mereka . Projek ini, yang dikenali secara dalaman sebagai Frozen v2 , bertujuan untuk mengintegrasikan sebahagian daripada seni bina model secara langsung ke dalam silikon, satu strategi yang menjanjikan untuk mengurangkan penggunaan tenaga secara drastik dan mempercepatkan tindak balas sistem.
Menurut maklumat yang dibocorkan kepada The Information dan dilaporkan oleh beberapa saluran media, cip baharu itu boleh memproses enam hingga sepuluh kali ganda lebih banyak token setiap watt berbanding TPU Google semasa. Syarikat itu belum mengesahkan projek itu secara rasmi, tetapi rancangan menunjukkan kemungkinan pelancaran bermula pada tahun 2028, dengan syarat ia lulus fasa penilaian semasa.
Cip yang direka khas untuk Gemini
Tidak seperti TPU konvensional, yang boleh menjalankan model berbeza dan memerlukan pemindahan sejumlah besar data, Frozen v2 membenamkan keputusan struktur tertentu khusus untuk Gemini dalam transistor. Ini mengurangkan bilangan operasi yang diperlukan semasa inferens, iaitu, apabila model terlatih menjana respons. Hasilnya ialah masa respons yang lebih pantas dan penggunaan tenaga yang lebih rendah , dua faktor kritikal dalam pusat data hari ini.
Reka bentuk asal, yang dipelopori oleh ketua saintis Google DeepMind, Jeff Dean, membayangkan pemberat model terbenam secara langsung pada cip. Walau bagaimanapun, pilihan itu akan menjadikan perkakasan usang semasa kemas kini model. Google sebaliknya memilih untuk memastikan perisian pemberat boleh dikemas kini dan hanya mengunci sebahagian daripada seni bina. Dengan cara ini, Frozen v2 boleh digunakan dengan pelbagai versi Gemini selagi ia berkongsi seni bina yang sama. Syarikat itu masih memutuskan peratusan model yang akan dikunci pada silikon.
Kecekapan dan penjimatan tenaga
Anggaran dalaman menunjukkan bahawa Frozen v2 boleh menjadi enam hingga sepuluh kali lebih cekap daripada generasi TPU terkini Google dari segi token yang dijana setiap watt. Ini mewakili kemajuan yang ketara pada masa kos tenaga kecerdasan buatan telah menjadi salah satu cabaran utama industri. Mengurangkan penggunaan kuasa setiap pertanyaan akan membolehkan Google mengendalikan lebih banyak permintaan tanpa perlu mengembangkan infrastrukturnya secara berkadaran.
Pengeluaran Frozen v2 yang dirancang akan jauh lebih rendah berbanding TPU tradisional. Google menganggap generasi ini sebagai ujian untuk menilai sejauh mana ia berbaloi untuk beralih kepada cip yang lebih berkaitan dengan model tertentu. Cip ini akan wujud bersama TPU generasi kelapan, yang telah dibahagikan kepada varian berasingan untuk latihan dan inferens. Matlamatnya bukanlah untuk menggantikan seluruh keluarga TPU , tetapi sebaliknya untuk mencipta penyelesaian yang lebih khusus untuk beban kerja Gemini tertentu, terutamanya dalam perkhidmatan di mana jumlah pertanyaan dan kos tenaga merupakan faktor kritikal.
Tekanan terhadap infrastruktur Google
Pembangunan Frozen v2 juga menangani keperluan mendesak. Menurut laporan yang diterbitkan, Google Cloud juga terpaksa menolak kontrak dengan pelanggan luaran kerana kekurangan kapasiti pengkomputeran yang tersedia. Permintaan untuk perkhidmatan AI telah berkembang dengan begitu pesat sehingga syarikat terpaksa mengutamakan sumber antara produknya sendiri dan produk pelanggannya. Cip yang lebih cekap akan membolehkan pengembangan kapasiti pusat data yang boleh digunakan tanpa bergantung sepenuhnya pada pemasangan baharu.
Strategi Google bukanlah kes terpencil. OpenAI sedang mengusahakan cipnya sendiri dengan Broadcom, Meta sedang membangunkan pemecut dalaman, dan NVIDIA telah melesenkan teknologi daripada Groq. Trend ke arah perkakasan khusus untuk model tertentu semakin pantas, dan Frozen v2 sesuai dengan pergerakan itu. Integrasi antara perkakasan dan perisian adalah salah satu kelebihan daya saing utama Google , kerana ia mereka bentuk kedua-dua model Gemini dan pemproses yang digunakannya.
Projek Frozen v2 mewakili satu lagi langkah dalam komitmen Google untuk mengoptimumkan infrastruktur kecerdasan buatannya. Jika ramalan itu benar, cip tersebut boleh menawarkan peningkatan kecekapan sehingga sepuluh kali ganda , yang akan meningkatkan keuntungan perkhidmatan seperti Gemini dan mengurangkan tekanan pada Google Cloud. Walaupun masih dalam fasa pembangunan dan tanpa pengesahan rasmi, inisiatif ini mencerminkan kepentingan yang diberikan oleh syarikat terhadap pengkhususan perkakasan sebagai faktor pembezaan berbanding pesaing seperti OpenAI, Microsoft dan Meta. Semuanya menunjukkan bahawa, jika ia mencapai pengeluaran pada tahun 2028, Frozen v2 akan menandakan titik perubahan dalam cara model AI dijalankan pada skala besar.
