《轻音少女》讲述的是一个4人女子组合在一个行将废部的轻音乐部从零开始展开音乐活动的故事，4位女主角的姓都直接取自79年结成2000年解散的音乐组合P-MODEL，而其他角色的姓则取自89年创立的摇滚组合the pillows新学年开始，樱丘高中（日文：桜が丘高校，在动画中是女子学校）“轻音部”因原有部员全部毕业离校而无法满足至少4人的数量要求此时4名高一女生机缘巧合先后加入，使轻音部免于废除。K-ON!的故事也就此展开。
