Deepseek V3 รุ่น Deepseek ที่น่าประหลาดใจของ Deepseek ได้เขย่าตลาด AI ทำให้ราคาหุ้นของ Nvidia ลดลงอย่างมีนัยสำคัญ ในขณะที่ Deepseek อ้างว่ามีค่าใช้จ่ายในการฝึกอบรมเพียง $ 6 ล้าน แต่การมองอย่างใกล้ชิดเผยให้เห็นการลงทุนที่สำคัญยิ่งขึ้น
IMGP%Image: Ensigame.com
สถาปัตยกรรมที่เป็นนวัตกรรมของ Deepseek V3 เป็นกุญแจสำคัญในการแสดง มันใช้ประโยชน์:
- การทำนายแบบมัลติเทน (MTP): ทำนายหลายคำพร้อมกันเพิ่มความแม่นยำและประสิทธิภาพ
- ส่วนผสมของผู้เชี่ยวชาญ (MOE): มีเครือข่ายประสาท 256 เครือข่ายเปิดใช้งานแปดสำหรับแต่ละงานการประมวลผลเร่งการฝึกอบรมและปรับปรุงประสิทธิภาพ
- ความสนใจแฝงหลายหัว (MLA): สกัดรายละเอียดที่สำคัญซ้ำ ๆ ซ้ำ ๆ ลดการสูญเสียข้อมูลและเพิ่มความเข้าใจที่แตกต่างกันนิดหน่อย
IMGP%Image: Ensigame.com
อย่างไรก็ตาม Semianalysis เปิดการใช้งานของ Deepseek ของ GPUs Nvidia Hopper ประมาณ 50,000 ครั้งซึ่งเป็นการลงทุนที่สำคัญรวมทั้งสิ้นประมาณ 1.6 พันล้านเหรียญสหรัฐในเซิร์ฟเวอร์และค่าใช้จ่ายในการดำเนินงาน 944 ล้านดอลลาร์ สิ่งนี้ตรงกันข้ามกับค่าใช้จ่ายก่อนการฝึกอบรมที่เผยแพร่ 6 ล้านดอลลาร์ซึ่งละเว้นการวิจัยการปรับแต่งการประมวลผลข้อมูลและโครงสร้างพื้นฐาน
Deepseek ซึ่งเป็น บริษัท ย่อยของ High-Flyer ซึ่งเป็นกองทุนป้องกันความเสี่ยงของจีนเป็นเจ้าของศูนย์ข้อมูลให้การควบคุมและนวัตกรรมที่เร็วขึ้น สถานะที่ได้รับการสนับสนุนตนเองช่วยเพิ่มความคล่องตัว บริษัท ดึงดูดความสามารถสูงสุดโดยนักวิจัยบางคนมีรายได้มากกว่า 1.3 ล้านเหรียญสหรัฐต่อปีส่วนใหญ่มาจากมหาวิทยาลัยจีน
IMGP%Image: Ensigame.com
ในขณะที่การลงทุน 500 ล้านดอลลาร์ของ Deepseek ในการพัฒนา AI นั้นมีความสำคัญ แต่โครงสร้างแบบลีนช่วยให้นวัตกรรมมีประสิทธิภาพ ตัวเลข $ 6 ล้านทำให้เข้าใจผิดซึ่งคิดเป็นเพียงเศษเสี้ยวของค่าใช้จ่ายทั้งหมด อย่างไรก็ตามเรื่องนี้ค่าใช้จ่ายในการฝึกอบรมแบบจำลองของ Deepseek นั้นต่ำกว่าคู่แข่งอย่างมีนัยสำคัญเช่นประมาณ $ 100 ล้านสำหรับ chatgpt4o โดยเน้นถึงความคุ้มค่าเมื่อเทียบกับยักษ์ใหญ่ในอุตสาหกรรม
IMGP%Image: Ensigame.com
ความสำเร็จของ Deepseek นำเสนอศักยภาพของ บริษัท AI อิสระที่ได้รับการสนับสนุนอย่างดีในการแข่งขันอย่างมีประสิทธิภาพ อย่างไรก็ตามความสำเร็จของมันมีรากฐานมาจากการลงทุนที่สำคัญความก้าวหน้าทางเทคโนโลยีและทีมที่แข็งแกร่งไม่ใช่งบประมาณที่ปฏิวัติวงการ