为提高硬度测试的准确性，通常需要对试样表面进行预处理。虽然对于所有的硬度标尺来说，更精细的表面处理都有助于获得更为精确和可重复性的测试结果，但在实践中仍需依据测试结果对试样表面状态的敏感性而选择合适的制备方法，在确保准确性的同时提升检测效率。
例如，对于布氏和普通洛氏硬度测试，一般进行表面磨光处理即可满足试样表面无氧化皮及外来污染物的测试要求；
而表面洛氏和维氏硬度标尺对试样表面状态较为敏感，一般需要进行抛光处理。
其中显微硬度测试载荷低，表面存在划痕和形变时对测试结果均有显著影响，因此推荐对试样表面进行精细金相抛光处理。
硬度测试对样品制备的要求1、布氏硬度：磨光，平整；
2、洛氏硬度：取决于试验力。大载荷样品，细磨光表面就可以达到要求；
3、宏观维氏：大载荷下细磨光表面就可达到要求，但是推荐在抛光表面上测试；
4、表面洛氏：推荐抛光表面(≤3µm)；
5、显微维氏/努氏：推荐抛光表面(≤1µm)
