Melkein millään nykyajan välineellä ei ole yhtä pitkä historia, kuin rummulla. Rumpuja käytetään ympäri maailmaa lähes jokaisessa kulttuurissa ja niiden tiedetään olleen olemassa ainakin vuodesta 6000 ekr. Rummuilla on lähes jokaisessa kulttuurissa seremoniallinen, pyhä tai symboolinen merkitys. Suuressa osassa Afrikkaa rummut symbolisoivat ja suojelevat heimoja ja ne on sijoitettu usein pyhään paikkaan asunnoissa. Rumpuja on käytetty tuhansia vuosia viestimiseen ja sitä voidaankin sanoa puhelimen ensimmäiseksi muodoksi. Entisaikaiset shamaanit ja papit ovat käyttäneet rumpuja omiin rituaaleihinsa.

Ensimmäinen rumpusetti keksittiin 1800-luvun lopupuolella, mutta sen nykyistä muotoa muistuttava olemus keksittiin vasta 1920-luvulla. New Orleansilainen jazz-rumpali käytti setissään tom-tomia, erilaisia turkkilaisia- ja kiinalaisia symbaaleja ja hi-hat-symbaalia.

Rumpusetin kehitys on siis ollut pitkä nykypäiväiseen muotoonsa.