砂轮的硬度是指砂轮表面上的磨粒在外力作用下脱落的难易程度。容易脱落的为软，反之为硬。同一种磨料可作成不同硬度的砂轮，这主要取决于结合剂的性能、比例以及砂轮的制造工艺。
砂轮硬度选择合适时，磨削过程中磨钝的磨粒即可自行脱落，露出新的锋利磨粒继续磨削。若所选砂轮太软，磨粒尚未钝化就过早脱落，不仅增加砂轮消耗，而且使砂轮失去正确形状而影响加工精度；若所选砂轮太硬，磨粒钝化后不能及时脱落，会使砂轮表面上磨料间的空隙被磨屑堵塞，造成磨削力增大，磨削热增多，磨削温度升高，使工件产生变形甚至烧伤，而且使表面粗糙度提高，生产率下降。
通常，磨削硬材料时，砂轮硬度应低一些；反之，应高一些。有色金属韧性大，砂轮孔隙易被磨屑堵塞，一般不宜磨削。若要磨削，则应选较软的砂轮。对于成形磨削和精密磨削，为了较好的保持砂轮的形状精度，应选较硬的砂轮。