Rževskis kā virtuozs pianists guva ievērību 1960. gados, izpildīdams gan pēckara avangarda mūziku (piemēram, būdams pirmais interprets, kas izpildījis Kalrlheinca Štokhauzena (Karlheinz Stockhausen) "Klavierstück X"), gan arī savu draugu un līdzgaitnieku - tā saucamās "Ņujorkas skolas" komponistu - Džona Keidža (John Cage) un Kristiana Volfa (Christian Wolff) kompozīcijas. Šo divu mūziķu - kā arī komponista Deivida Bērmana (David Behrman) un pianista un skaņu mākslinieka Deivida Tjūdora (David Tudor) - ietekme izpaudās arī paša Rževska rakstītajos skaņdarbos, kas plašāku uzmanību izpelnījās 70. gadu vidū.
Lai gan Rževska daiļradē ir bijuši arī post-minimālisma un pat dodekafoniskās mūzikas periodi, viņa agrīno un vēlīno mūziku raksturo stilistiska un tehniska daudzveidība. Kritiķis Donato Mansīnī (Donato Mancini) Rževskim raksturīgo mūziku nodēvējis par "improvizācijas un klasiskās mūzikas hibrīdiem", piebilstot, ka Rževskis vēl aizvien raksta mūziku, kas ir "bez kautrēšanās tonāla un pat izklaidējoša, graujot priekšstatus par akadēmiskās avangarda mūzikas emocionālo skopumu".