Die Familie Followill war das Reisen gewöhnt, die vier Söhne wurden die meiste Zeit von ihrer Mutter unterrichtet, während sie mit ihrem Vater durch die USA reisten. Erst im Jahr 1998 wurde die Familie in Nashville, Tennessee sesshaft, wo ein Jahr später Caleb Followill gemeinsam mit seinen Brüdern Nathan und Jared sowie dem Cousin Matthew Followill die "Kings of Leon" gründeten. Der Name ist eine Hommage an den Großvater der Brüder. Als Sänger und Leadgitarrist der Band ist Caleb mit seiner eindringlichen Stimme maßgeblich für deren Erfolg verantwortlich.
Das erste Album "Youth und Young Manhood", erschienen 2003, und machte die Band vor allem außerhalb der USA bekannt, in der Folge traten sie unter anderem als Vorgruppe von "Pearl Jam" und Bob Dylan auf. Mit dem dritten Album "Because of the Times" konnten Caleb Followill und die "Kings of Leon" in Großbritannien bis auf Platz 1 der Albumcharts vordringen, für Album Nummer 4 "Only by the Night" gab es zahlreiche Auszeichnungen, unter anderem drei Grammys.
Am 27. Juli 2011 brach Sänger Caleb Followill ein Konzert der Band in Dallas, Texas ab und verschwand von der Bühne. Die Band gab danach den Abbruch der laufenden USA-Tournee bekannt, ohne weitere Gründe zu nennen. Im November 2011 erschien die DVD "Talihina Sky", die nicht nur die Bandgeschichte dokumentierte, sondern auch Calebs Probleme mit dem Alkohol aufdeckte.