Voor je gevoel heeft Needtobreathe de afgelopen jaren elk jaar een nieuw album uitgebracht. Toch is ruim anderhalf jaar geleden het proces rondom Caves begonnen. De band noemt het hun "meest dankbare album dat we ooit hebben gemaakt." En de reden daarvan is simpel: de fans. De grote schare liefhebbers van de band heeft hen ook het vertrouwen gegeven om het album, net als een enkele single en een live-album, op hun eigen label uit te brengen.