Grupu 2013. gadā izveidoja Edvards Broders (ģitāra, balss; pirms tam spēlējis grupā "The Moonhouse"), Alberts Levics (basģitāra, balss; pirms tam spēlējis grupā "Rebel Riot"), Rūdolfs Ozols (ģitāra, balss; spēlējis grupā "MonkeyRocks", pašlaik spēlē "Pyro Trees") un Kalvis Sležis (bungas, balss; spēlē grupā "Bunch of Gentlemen", spēlējis arī projektā "Nelaiķa Pavadonis").
"The Pink Elephant" mūzika ir džeza un blūza elementu piesātināts psihedēliskais roks. Paši grupas dalībnieki atzīst, ka ietekmējušies no roka klasikas - "The Doors", "Led Zeppelin", "Pink Floyd" -, vairākiem mūsdienu izpildītājiem kā "Grizzly Bear", "Tame Impala", "Mac DeMarco" un citām, kā arī neskaitāmiem džeza mūziķiem, jo no četriem grupas dalībniekiem divi pabeiguši Rīgas Doma kora skolas džeza nodaļu, bet ar džeza klausīšanos un spēlēšanu aizraujas visi četri.