Em relação a arquitectura da computação em nuvem, podemos dizer que esta é baseada em camadas, onde cada uma destas é responsável pela disponibilização específica de recursos para uma ou outra aplicação.

​

A camada de nível mais baixo é a de infraestrutura física, que engloba data centers, clusters, estações de trabalho, entre outros recursos de hardware. Desta forma é capaz de fornecer uma certa flexibilidade e facilidade de agregação de novos recursos à medida que tal se torne necessário.

​

O modelo contempla também uma camada intermédia de middleware responsável pela gestão dos recursos computacionais da camada de infraestrutura física e fornecendo um núcleo lógico à nuvem.

​

Acima da camada de middleware situa-se a camada responsável pelo suporte à construção de aplicações, englobando ferramentas e ambientes de desenvolvimento. Não sendo utilizada pelos utilizadores finais, é bastante apelativa para developers de soluções e aplicações em nuvem.

​

A camada mais acima diz respeito às aplicações de computação em nuvem propriamente ditas, sendo através desta que é fornecido acesso às aplicações aos utilizadores finais, enquanto que as camadas situadas abaixo são responsáveis pela estabilidade, disponibilidade, escalabilidade, ilusão de recursos infinitos e alto desempenho. Esta pode incluir uma subcamada de gestão e controlo de adaptação aos recursos disponíveis em tempo real, podendo ser processada de forma automática ou semi-automática, diminuindo ainda mais a necessidade de intervenção humana na gestão da nuvem.