Mô hình AI rẻ tiền đáng ngạc nhiên của Deepseek, Deepseek V3, đã làm rung chuyển thị trường AI, gây ra sự sụt giảm đáng kể về giá cổ phiếu của NVIDIA. Trong khi Deepseek tuyên bố chỉ có chi phí đào tạo 6 triệu đô la, một cái nhìn gần hơn cho thấy một khoản đầu tư đáng kể hơn nhiều.
Hình ảnh: Obligame.com
Kiến trúc sáng tạo của DeepSeek V3 là chìa khóa cho hiệu suất của nó. Nó sử dụng:
- Dự đoán đa điểm (MTP): Dự đoán đồng thời nhiều từ, tăng độ chính xác và hiệu quả.
- Hỗn hợp các chuyên gia (MOE): Sử dụng 256 mạng lưới thần kinh, kích hoạt tám cho mỗi nhiệm vụ xử lý, tăng tốc đào tạo và cải thiện hiệu suất.
- Sự chú ý tiềm ẩn đa đầu (MLA): Càng lấy chi tiết chính, giảm thiểu mất thông tin và nâng cao sự hiểu biết về sắc thái.
Hình ảnh: Obligame.com
Tuy nhiên, việc bán phân tích đã phát hiện ra việc sử dụng khoảng 50.000 GPU của Deepseek, một khoản đầu tư đáng kể với tổng trị giá khoảng 1,6 tỷ đô la vào máy chủ và chi phí hoạt động trị giá 944 triệu đô la. Điều này trái ngược hoàn toàn với chi phí đào tạo trước 6 triệu đô la được công khai, bỏ qua nghiên cứu, tinh chỉnh, xử lý dữ liệu và cơ sở hạ tầng.
Deepseek, một công ty con của High Flyer, một quỹ phòng hộ của Trung Quốc, sở hữu các trung tâm dữ liệu của mình, cung cấp quyền kiểm soát và đổi mới nhanh hơn. Tình trạng tự tài trợ của nó giúp tăng cường sự nhanh nhẹn. Công ty thu hút tài năng hàng đầu, với một số nhà nghiên cứu kiếm được hơn 1,3 triệu đô la hàng năm, chủ yếu từ các trường đại học Trung Quốc.
Hình ảnh: Obligame.com
Trong khi khoản đầu tư 500 triệu đô la của Deepseek vào phát triển AI là đáng kể, cấu trúc nạc của nó cho phép đổi mới hiệu quả. Con số 6 triệu đô la là sai lệch, chỉ đại diện cho một phần nhỏ của tổng chi phí. Mặc dù vậy, chi phí đào tạo mô hình của Deepseek thấp hơn đáng kể so với các đối thủ cạnh tranh, chẳng hạn như khoảng 100 triệu đô la cho TATGPT4O, nhấn mạnh hiệu quả chi phí của nó so với các đại gia của ngành.
Hình ảnh: Obligame.com
Thành công của Deepseek thể hiện tiềm năng của các công ty AI độc lập được tài trợ tốt để cạnh tranh hiệu quả. Tuy nhiên, thành tích của nó bắt nguồn từ đầu tư đáng kể, tiến bộ công nghệ và một nhóm mạnh mẽ, không phải là một ngân sách cách mạng.
