Coinbase นำโมเดล AI ของจีน GLM 5.2 และ Kimi 2.7 มาใช้เป็นค่าเริ่มต้นสำหรับวิศวกร

ซีอีโอของ Coinbase ไบรอัน อาร์มสตรอง ระบุเมื่อวันศุกร์ที่แล้ว (26) ว่า แพลตฟอร์มซื้อขายคริปโตฯ ได้กำหนดให้โมเดล AI โอเพนซอร์สของจีน GLM 5.2 และ Kimi 2.7 เป็นโมเดลภาษาขนาดใหญ่เริ่มต้นสำหรับวิศวกรภายใน อาร์มสตรองรายงานว่า Coinbase ลดค่าใช้จ่ายด้าน AI ลงเกือบครึ่งหนึ่งผ่านการปรับเส้นทางและปรับปรุงการแคช ขณะที่การใช้งานโทเคนยังคงเติบโตแบบทวีคูณ การดำเนินการนี้สะท้อนแนวโน้มกว้างๆ ที่บริษัทเทคโนโลยีสหรัฐฯ กำลังนำโมเดล AI โอเพนซอร์สของจีนมาใช้ในโครงสร้างพื้นฐานการผลิตอย่างเงียบๆ เพื่อลดต้นทุนและขยายการใช้งาน

Coinbase ใช้โครงสร้างพื้นฐานสามชั้นเพื่อลดต้นทุน AI

อาร์มสตรองระบุว่าการลดต้นทุนมาจากการปรับปรุงโครงสร้างพื้นฐานสามชั้น ชั้นแรกคือ "การกำหนดเส้นทางอัจฉริยะ" ซึ่งระบบจะประมวลผลคำสั่งล่วงหน้าและมอบหมายงานให้กับโมเดลที่เหมาะสมและประหยัดที่สุดโดยอัตโนมัติตามอัตราการตีแคชและราคาโมเดล ชั้นที่สองคือ "การแคชเชิงรุก" ซึ่งเพิ่มอัตราการตีแคชของ LibreChat จาก 5% เป็น 60% โดยกำหนดให้ทุกคำขอต้องคำนึงถึงแคช ชั้นที่สามคือ "บริบทที่กระชับ" ซึ่งแนะนำให้เปิดเซสชันใหม่เมื่อเปลี่ยนงานและจำกัดขอบเขตไฟล์เพื่อลดโทเคนที่สูญเปล่า

อาร์มสตรองเน้นย้ำว่าแนวทางนี้ไม่เกี่ยวกับการจำกัดการใช้งาน แต่เป็นการขยายการนำ AI ไปใช้ เขาอธิบายว่าวิธีนี้เป็นกุญแจสำคัญในการขยายการใช้งาน AI อย่างยั่งยืน โดยระบุว่าองค์กรใดๆ ก็สามารถนำโมเดลนี้มาใช้เพื่อให้วิศวกรใช้โทเคนและโมเดลในปริมาณเท่าใดก็ได้โดยไม่ต้องกำหนดเพดานค่าใช้จ่าย พร้อมเชื่อมโยงการใช้งานกับผลกระทบทางธุรกิจ

โมเดลโอเพนซอร์สของจีนจัดการงานประจำในกลยุทธ์หลายโมเดล

โมเดลโอเพนซอร์สของจีนสองตัวนี้ถูกใช้งานในสถานการณ์งานประจำเป็นหลัก สำหรับงานที่ต้องการการวางแผนซับซ้อน วิศวกรยังคงเลือกโมเดลชั้นนำได้ ในกระบวนการตรวจสอบโค้ด Coinbase ใช้กลยุทธ์หลายโมเดลแบบขนาน โดยให้โมเดลต่างๆ ตรวจสอบข้ามผลลัพธ์กันเพื่อรักษามาตรฐานคุณภาพ

อาร์มสตรองตั้งข้อสังเกตว่าเมื่อค่าใช้จ่ายสำหรับบริการโมเดลชั้นนำของสหรัฐฯ ยังคงเพิ่มสูงขึ้น ความคุ้มค่าของโมเดลโอเพนซอร์สของจีนกำลังค่อยๆ เปลี่ยนกลยุทธ์การปรับใช้ AI ของบริษัทเทคโนโลยีทั่วโลก

คำถามที่พบบ่อย

Coinbase ประกาศอะไรเกี่ยวกับโมเดล AI เมื่อวันศุกร์ที่แล้ว (วันที่ 26)?
ซีอีโอของ Coinbase ไบรอัน อาร์มสตรองประกาศว่าบริษัทกำหนดให้โมเดล AI โอเพนซอร์สของจีน GLM 5.2 และ Kimi 2.7 เป็นโมเดลภาษาขนาดใหญ่เริ่มต้นสำหรับวิศวกรภายใน อาร์มสตรองระบุว่าการเปลี่ยนแปลงนี้รวมกับการปรับเส้นทางและปรับปรุงการแคช ส่งผลให้ค่าใช้จ่ายด้าน AI ลดลงเกือบครึ่งหนึ่ง ขณะที่การใช้งานโทเคนยังคงเติบโตแบบทวีคูณ

Coinbase ใช้โมเดล AI ของจีนในการดำเนินงานอย่างไร?
Coinbase ใช้ GLM 5.2 และ Kimi 2.7 สำหรับสถานการณ์งานประจำเป็นหลัก ขณะที่วิศวกรยังคงเลือกโมเดลชั้นนำสำหรับงานที่ต้องการการวางแผนซับซ้อน ในกระบวนการตรวจสอบโค้ด บริษัทใช้กลยุทธ์หลายโมเดลแบบขนาน โดยให้โมเดลต่างๆ ตรวจสอบข้ามผลลัพธ์กันเพื่อรักษามาตรฐานคุณภาพ