La portada de «Physical Graffiti» es una de las maravillas que nos dejó Led Zeppelin. Sólo los afortunados poseedores de una versión original en vinilo podrán disfrutarla tal y como fue concebida, puesto que las posteriores reediciones en vinilo eliminaron muchos de sus encantos en favor de un formato más barato y por supuesto el CD acabó totalmente con la magia de la portada.
Para la creación de esta portada trabajó una ingente cantidad de artistas, fotógrafos, entintadores y dibujantes. En las ventanas de las 2 fundas de los vinilos se ven muchísimas fotos y montajes del grupo y muchos temas más. El cartón exterior está troquelado, por lo que se le pueden poner las «ventanas cerradas» de la lista de canciones, o las escenas de alguna de las dos fundas de los vinilos.
La fotografía fue tomada en Nueva York, en el número 96 de la calle St. Marks, y los dos edificios son los que salen en la portada.