砂轮由三部分组成：磨料、粘结剂（结合剂）、孔隙
其中：
1、磨料：是砂轮的主要磨削部分，具有尖锐的棱角，即很小的切削刃，来切削加工工件，磨料往往是很硬的材料，通常是化合物，比如金刚砂（化学成分是碳化硅）、刚玉（化学成分是三氧化二铝）、金刚石等，最常见的是金刚砂砂轮和刚玉砂轮。
2、粘结剂：根据不同的砂轮用途分别有陶瓷、树脂、橡胶、金属等，其主要作用是把磨料粘接在一起，形成具有一定外形的砂轮。
3、孔隙：孔隙也是砂轮的主要组成部分，孔隙的目的是减少粘结剂的结合强度，储存磨削下来的磨钢屑，当小的磨料尖锐部分磨秃了之后，就会由于孔隙导致结合强度降低而剥落，露出新的尖锐的磨粒，利于进一步的磨削加工。