Tradicionālā japāņu dārza pamatelementi ir ūdens, akmens, smiltis un augi, bet viena no svarīgākajām niansēm ir veiksmīga akmeņu kompozīcija, nereti pat vismazākajā dārzā tiek veidots miniatūrs Visuma modelis. Otra būtiskā lieta ir tiltiņi, pagodas, lapenes, akmens lukturi un dīķi. Kaut arī japāņu dārza kompozīcijas principi ir nemainīgi, neviens dārzs nelīdzinās otram, jo jebkura japāņu dārza galvenā īpašība ir harmoniska un plūstoša pāreja no nepieradinātās dabas uz cilvēka rokām radīto.
Japāņu dārzi izteiksmīgi mainās līdzi gadalaikiem. Tā kā šajos skaistajos parkos ir salīdzinoši maz puķu, bet dažos to nav vispār, ziedi dārzos "ienāk" ar augļu kokiem: ķiršiem, ābelēm, plūmēm un mandelēm. Tāpat japāņu dārzos neatrast zālienu, vietās, kur nav augu, brīvos laukumus klāj smiltis vai noblietēta zeme. No augiem dārzos pārsvarā sastopami mūžzaļi kokaugi, iecienītākais no tiem - ilgu mūžu simbolizējošā priede.