会员登录 - 用户注册 - 设为首页 - 加入收藏 - 网站地图 Vận hành ChatGPT tốn hơn 700.000 USD mỗi ngày!

Vận hành ChatGPT tốn hơn 700.000 USD mỗi ngày

时间:2025-04-26 12:54:15 来源:NEWS 作者:Giải trí 阅读:926次
Chi phí đào tạo và vận hành ChatGPT vô cùng tốn kém. (Ảnh: Reuters)

TheậnhànhChatGPTtốnhơnUSDmỗingàkết quả trận đấu ngoại hạng anho Dylan Patel, nhà phân tích trưởng tại hãng phân tích bán dẫn SemiAnalysis, chi phí vận hành ChatGPT cao như vậy là vì hạ tầng đắt đỏ. ChatGPT cần năng lực điện toán khổng lồ để tính toán phản hồi dựa trên lời nhắc (prompt) của người dùng. Patel ước tính chi phí dựa trên các máy chủ đắt đỏ cần để vận hành chatbot.

Trong cuộc phỏng vấn với BI, chuyên gia cho rằng chi phí hiện nay thậm chí còn cao hơn do ước tính ban đầu của ông dựa trên mô hình GPT-3 của OpenAI. Mô hình mới nhất GPT-4 sẽ tốn kém hơn.

Nếu như đào tạo mô hình ngôn ngữ lớn (LLM) của ChatGPT đã tiêu tốn hàng chục triệu USD, chi phí vận hành hay chi phí suy luận còn lớn hơn nhiều. Nhiều năm nay, các công ty sử dụng mô hình ngôn ngữ của OpenAI đã phải trả số tiền lớn. Chẳng hạn, Nick Walton – CEO startup Latitude – tiết lộ chi phí vận hành mô hình cùng với máy chủ Amazon Web Services mỗi tháng khoảng 200.000 USD vào năm 2021. Vì vậy, anh đã chuyển sang nhà cung cấp phần mềm ngôn ngữ khác để giảm một nửa chi phí.

Để giảm thiểu chi phí cần thiết vận hành mô hình AI tạo sinh, Microsoft đang phát triển chip AI có tên Athena. Theo The Information, dự án bắt đầu từ năm 2019, vài năm sau khi công ty ký thỏa thuận 1 tỷ USD với OpenAI để startup chỉ sử dụng máy chủ đám mây Azure.

Hai nguyên nhân thúc đẩy Microsoft phát triển chip là: họ nhận ra bị tụt hậu so với Google và Amazon trong lĩnh vực chip; họ tìm kiếm phương án rẻ hơn chip Nvidia. Hơn 300 nhân viên Microsoft đang làm dự án chip và có thể sử dụng nội bộ con chip sớm nhất trong năm sau.

(Theo BI)

Khóa học sử dụng ChatGPT tại Việt Nam mọc lên như nấm sau mưa

Khóa học sử dụng ChatGPT tại Việt Nam mọc lên như nấm sau mưa

Sau sự nổi lên của ChatGPT, lượng người có nhu cầu học cách sử dụng phần mềm này tăng vọt, kéo theo đó là ngày càng nhiều các khóa học ăn theo với giá cả triệu đồng mỗi khóa.

(责任编辑:Kinh doanh)

相关内容
  • Nhận định, soi kèo Kyoto Sanga vs Yokohama FC, 17h00 ngày 25/4: Củng cố ngôi đầu
  • Nhận định, soi kèo Resources Capital FC vs Eastern A.A Football Team, 14h00 ngày 4/2
  • Sao Mai Hiền Anh lý giải MV gắn mác 18+
  • Nhận định, soi kèo Mali vs Bờ Biển Ngà, 0h00 ngày 4/2
  • Nhận định, soi kèo Avispa Fukuoka vs Fagiano Okayama, 17h00 ngày 25/4: Chiến thắng nhọc nhằn
  • Nhận định, soi kèo Punjab vs Bengaluru, 18h30 ngày 3/2
  • Đen Vâu tung MV 'Một triệu like' trên nền nhạc Triệu đóa hồng
  • Lynk Lee lên tiếng khi bị nghi công khai xu hướng tính dục để PR
推荐内容
  • Nhận định, soi kèo Atletico Madrid vs Rayo Vallecano, 2h30 ngày 25/4: Khó có bất ngờ
  • Xuân Nghi: “Lúc nào tôi cũng đứng ra bảo vệ Xuân Mai”
  • Hàng nghìn người hâm mộ đội mưa xem Đại nhạc hội K
  • Vũ Hà tiết lộ về cát
  • Kèo vàng bóng đá Arsenal vs Crystal Palace, 02h00 ngày 24/4: Khách buông xuôi
  • Nhận định, soi kèo Hong Kong Rangers FC vs Southern District, 14h00 ngày 3/2