Hạ tầng phục vụ chính phủ số được xây dựng dựa trên mô hình kết hợp hài hòa giữa tập trung và phân tán, giữa trung ương và địa phương. Định hướng chung là tối đa hóa, tập trung hóa những hạ tầng chia sẻ, dùng chung quy mô quốc gia; tối thiểu hóa việc xây dựng hạ tầng dùng riêng tại các bộ, ngành, địa phương; ứng dụng hiệu quả điện toán đám mây để kết nối, chia sẻ hạ tầng, nền tảng, dịch vụ.
Hiện nay, mỗi cơ quan, tổ chức nhà nước thường tự đầu tư một trung tâm dữ liệu hoặc một phòng máy chủ phục vụ hoạt động của mình, dẫn đến manh mún, lãng phí, không bảo đảm an toàn, an ninh mạng do thiếu hụt nhân sự. Các cơ quan, tổ chức nhà nước cần chuyển đổi sang sử dụng dịch vụ điện toán đám mây được cung cấp bởi doanh nghiệp chuyên nghiệp.