Vận hành ChatGPT tốn hơn 700.000 USD mỗi ngày

TheậnhànhChatGPTtốnhơnUSDmỗingàkết quả trận đấu ngoại hạng anho Dylan Patel, nhà phân tích trưởng tại hãng phân tích bán dẫn SemiAnalysis, chi phí vận hành ChatGPT cao như vậy là vì hạ tầng đắt đỏ. ChatGPT cần năng lực điện toán khổng lồ để tính toán phản hồi dựa trên lời nhắc (prompt) của người dùng. Patel ước tính chi phí dựa trên các máy chủ đắt đỏ cần để vận hành chatbot.
Trong cuộc phỏng vấn với BI, chuyên gia cho rằng chi phí hiện nay thậm chí còn cao hơn do ước tính ban đầu của ông dựa trên mô hình GPT-3 của OpenAI. Mô hình mới nhất GPT-4 sẽ tốn kém hơn.
Nếu như đào tạo mô hình ngôn ngữ lớn (LLM) của ChatGPT đã tiêu tốn hàng chục triệu USD, chi phí vận hành hay chi phí suy luận còn lớn hơn nhiều. Nhiều năm nay, các công ty sử dụng mô hình ngôn ngữ của OpenAI đã phải trả số tiền lớn. Chẳng hạn, Nick Walton – CEO startup Latitude – tiết lộ chi phí vận hành mô hình cùng với máy chủ Amazon Web Services mỗi tháng khoảng 200.000 USD vào năm 2021. Vì vậy, anh đã chuyển sang nhà cung cấp phần mềm ngôn ngữ khác để giảm một nửa chi phí.
Để giảm thiểu chi phí cần thiết vận hành mô hình AI tạo sinh, Microsoft đang phát triển chip AI có tên Athena. Theo The Information, dự án bắt đầu từ năm 2019, vài năm sau khi công ty ký thỏa thuận 1 tỷ USD với OpenAI để startup chỉ sử dụng máy chủ đám mây Azure.
Hai nguyên nhân thúc đẩy Microsoft phát triển chip là: họ nhận ra bị tụt hậu so với Google và Amazon trong lĩnh vực chip; họ tìm kiếm phương án rẻ hơn chip Nvidia. Hơn 300 nhân viên Microsoft đang làm dự án chip và có thể sử dụng nội bộ con chip sớm nhất trong năm sau.
(Theo BI)

Khóa học sử dụng ChatGPT tại Việt Nam mọc lên như nấm sau mưa
Sau sự nổi lên của ChatGPT, lượng người có nhu cầu học cách sử dụng phần mềm này tăng vọt, kéo theo đó là ngày càng nhiều các khóa học ăn theo với giá cả triệu đồng mỗi khóa.(责任编辑:Kinh doanh)
- ·Nhận định, soi kèo Al
- ·Nhận định, soi kèo Lee Man vs Hong Kong FC, 17h00 ngày 3/2
- ·NSND Thanh Hoa: Tôi muốn lên tiếng bảo vệ Văn Mai Hương nhưng không thể
- ·Thanh Lam mừng học trò Adam Lâm làm phim cổ trang xuyên không
- ·Nhận định, soi kèo Beijing Guoan vs Henan, 18h35 ngày 25/4: Tiếp tục bất bại
- ·Nhận định, soi kèo Úc vs Hàn Quốc, 22h30 ngày 02/02
- ·Hàng nghìn người hâm mộ đội mưa xem Đại nhạc hội K
- ·Xuân quê hương 2020
- ·Nhận định, soi kèo Independiente Del Valle vs River Plate, 07h30 ngày 24/4: Chặn dòng Sông bạc
- ·Lộ ảnh Đen Vâu thời ngây thơ, vớt rác ở Vịnh Hạ long
- ·Nhận định, soi kèo Stoke City vs Sheffield United, 02h00 ngày 26/4: Hoàn thành nhiệm vụ
- ·Nhận định, soi kèo Univ. Cesar Vallejo vs Melgar, 8h00 ngày 3/2
- ·Nhận định, soi kèo Huddersfield vs Sheffield Wed, 22h00 ngày 03/02
- ·Nhận định, soi kèo Norwich City vs Coventry City, 22h00 ngày 3/2
- ·Nhận định, soi kèo Macarthur FC vs Melbourne Victory, 16h35 ngày 25/4: 3 điểm xa nhà
- ·Hàng nghìn người hâm mộ đội mưa xem Đại nhạc hội K
- ·Mr. Đàm trả tiền tác quyền cho Nguyễn Trường Nhân sau ồn ào kiện tụng gần 7 năm
- ·Nhận định, soi kèo Rotherham United vs Southampton, 22h00 ngày 3/2
- ·Siêu máy tính dự đoán Bilbao vs Las Palmas, 0h00 ngày 24/4
- ·Đan Trường phải hủy 9 show diễn vì dịch virus corona