Theo The Information, chi phí vận hành ChatGPT có thể rơi vào khoảng 700.000 USD mỗi ngày và Microsoft đang muốn khắc phục điều này.
Chi phí đào tạo và vận hành ChatGPT vô cùng t?
??n kém. (Ảnh: Reuters)
Theo Dylan Patel, nhà phân tích trưởng tại hãng phân tích bán dẫn SemiAnalysis, chi phí vận hành ChatGPT cao như vậy là vì hạ tầng đắt đỏ. ChatGPT cần năng lực điện toán khổng lồ để tính toán phản hồi dựa trên lời nhắc (prompt) của người dùng. Patel ước tính chi phí dựa trên các máy chủ đắt đỏ cần để vận hành chatbot.
Trong cuộc phỏng vấn với BI, chuyên gia cho rằng chi phí hiện nay thậm chí còn cao hơn do ước tí
nh ban đầu của ông dựa trên
mô hình GPT-3 của OpenAI. Mô hình mới nhất GPT-4 sẽ t?
??n kém hơn.
Nếu như đào tạo
mô hình ngôn ngữ lớn (LLM) của ChatGPT đã tiêu tốn hàng chục triệu USD, chi phí vận hành hay chi phí suy
luận còn lớn hơn nhiều. Nhi?
?u năm nay, các công ty sử dụng
mô hình ngôn ngữ của OpenAI đã phải trả số tiền lớn. Chẳng hạn, Nick Walton – CEO startup Latitude – tiết lộ chi phí vận hành
mô hình cùng với máy chủ Amazon Web Services mỗi tháng khoảng 200.000 USD vào năm 2021. Vì vậy, anh đã chuyển sang nhà cung cấp phần mềm ngôn ngữ khác để giảm một nửa chi phí.
Để giảm thiểu chi phí cần thiết vận hành
mô hình AI tạo sinh, Microsoft đang phát triển chip AI có tên Athena. Theo The Information, dự án bắt đầu từ năm 2019, vài năm sau khi công ty ký thỏa thuận 1 tỷ USD với OpenAI để startup chỉ sử dụng máy chủ đám mây Azure.
Hai nguyên nhân thúc đẩy Microsoft phát triển chip là: họ nhận ra bị tụt hậu so với Google và Amazon trong lĩnh vực chip; họ tìm kiếm phương án rẻ hơn chip Nvidia. Hơn 300 nhân viên Microsoft đang làm dự án chip và có thể sử dụng nội bộ con chip sớm nhất trong năm sau.
(Theo BI)
Khóa học sử dụng ChatGPT tại Việt Nam mọc lên như nấm sau mưa
Sau sự nổi lên của ChatGPT, lượng người có nhu cầu học cách sử dụng phần mềm này tăng vọt, kéo theo đó là ngày càng nhiều các khóa học ăn theo với giá cả triệu đồng mỗi khóa.
ChatGPT và cuộc cách mạng hóa ngành xuất bản
Trí tuệ nhân tạo (AI) đang thay thế con người với tư cách là lực lượng lao động trong nhiều lĩnh vực khác nhau, kể cả sáng tác và xuất bản.
Châu Âu thành lập ‘đội đặc nhiệm’ về ChatGPT
Cơ quan bảo vệ dữ liệu châu Âu (EDPB) ngày 13/4 đã thành lập đội đặc nhiệm chuyên trách về ChatGPT.
Nguồn bài viết : RTG Game Bài 3d
