Pada acara tahunan Google I/O 2024, Google mengumumkan kehadiran Tensor Processing Unit (TPU) generasi keenam yang dirancang untuk pusat data. Chip baru ini diberi nama kode Trillium. Namun, Google belum mengungkapkan kapan tepatnya TPU ini akan diluncurkan.
Perusahaan raksasa mesin pencari yang berpusat di Mountain View, Amerika Serikat tersebut hanya menyatakan bahwa TPU Trillium akan tersedia pada akhir tahun ini. Sundar Pichai, CEO Google, mengungkapkan bahwa Trillium TPU akan memiliki bandwidth memori dua kali lipat.
Pichai juga menegaskan komitmen jangka panjang Google terhadap inovasi AI dengan menyatakan, "Google lahir untuk momen ini. Kami telah menjadi pelopor dalam GPU selama lebih dari satu dekade."
Selanjutnya, Pichai mengumumkan peningkatan kinerja yang signifikan pada Trillium. Dibandingkan dengan TPU generasi kelima, Trillium menawarkan peningkatan 4,7 kali lipat dalam daya komputasi per chip.
Menurut Pichai, Google dapat mencapai peningkatan ini dengan memperbaiki unit perkalian matriks (MXU) pada chip dan meningkatkan kecepatan clock secara keseluruhan. Selain itu, Trillium mendapat manfaat dari bandwidth memori yang dua kali lipat lebih besar.
Trillium menggabungkan teknologi SparseCore generasi ketiga dari Google, yang digambarkan sebagai "akselerator yang dirancang khusus untuk tugas-tugas umum berskala besar dalam beban kerja pemeringkatan dan rekomendasi tingkat lanjut."
Hal ini memungkinkan TPU Trillium melatih model lebih cepat dan memberikan latensi lebih rendah saat menyajikan model tersebut. Selain itu, efisiensi energi juga menjadi fokus utama bagi Google dalam pengembangan TPU baru ini.
Pichai menekankan bahwa Trillium akan menjadi TPU "paling hemat energi" yang pernah dikembangkan oleh Google. Hal ini sangat penting mengingat meningkatnya permintaan chip AI yang dapat memberikan dampak besar terhadap lingkungan.
Dalam presentasinya kepada para peserta Google I/O 2024, Pichai mengklaim bahwa Trillium mampu menawarkan peningkatan efisiensi energi sebesar 67% dibandingkan dengan generasi sebelumnya.
