Google เปิดตัวชิป AI แยกสำหรับการฝึกและการอินเฟอเรนซ์ เพิ่มประสิทธิภาพ 2.8 เท่า

ข่าวจาก Gate วันที่ 23 เมษายน — เมื่อวันที่ 22 เมษายน Google ประกาศว่าจะเปิดตัวชิป TPU เจนเนอเรชันที่ 8 แยกกันสำหรับการฝึกและการอินเฟอเรนซ์ในช่วงปลายปีนี้ โดยจะมาแทนดีไซน์แบบผสานที่เคยใช้ก่อนหน้า การเคลื่อนไหวนี้มุ่งเป้าไปที่งานโหลดของเอเจนต์ AI และมอบทางเลือกให้ลูกค้า Google Cloud แทนฮาร์ดแวร์ของ Nvidia.

ชิปสำหรับการฝึกให้ประสิทธิภาพสูงกว่า TPU Ironwood เจนเนอเรชันที่ 7 ของ Google ถึง 2.8 เท่าในราคาเท่าเดิม ขณะที่ชิปสำหรับการอินเฟอเรนซ์เร็วขึ้น 80% และมี SRAM 384 MB ซึ่งมากกว่าสามเท่าของจำนวนที่มีใน Ironwood การแยกความสามารถด้านการฝึกและการอินเฟอเรนซ์ สะท้อนถึงการเปลี่ยนแปลงในการที่บริษัทต่างๆ ปรับแต่งเพื่อรับมือกับความต้องการการคำนวณที่แตกต่างกัน

ความคิดริเริ่มนี้ได้รับการสนับสนุนจากความร่วมมือระยะยาวกับ Broadcom และ Anthropic Anthropic วางแผนที่จะใช้การคำนวณ TPU ประมาณ 3.5 กิกะวัตต์ผ่าน Broadcom เริ่มตั้งแต่ปี 2027 โดย Broadcom จะรับผิดชอบทั้งการผลิตชิปและองค์ประกอบด้านเครือข่ายจนถึงปี 2031 Anthropic ซึ่งเป็นสตาร์ทอัปด้าน AI ที่อยู่เบื้องหลัง Claude เพิ่งมีรายได้ต่อปีที่ปรับให้เทียบเท่าแล้วเกิน $30 billion ขณะเดียวกัน Apple, Microsoft, Meta และ Amazon ก็ขยายความพยายามด้านชิป AI แบบกำหนดเองเพื่อเพื่อลดการพึ่งพา Nvidia ซึ่งยังคงเป็นผู้นำตลาด