本实用新型涉及一种用于去除冷轧张力辊表面异物的装置，包括重锤结构、连接固定块、刮刀、主轴、集料斗、轴承座，主轴上固定连接有刮刀，刮刀与辊面接触，刮刀下方设置有集料斗，主轴通过轴承座与固定块连接，主轴两端连接有重锤结构，所述的集料斗包括刮板、支撑板，所述的支撑板截面为L形，支撑板顶端与主轴固定连接，支撑板与刮板固定连接。优点是：结构简单合理，投资少，性能可靠，工作稳定，简单实用，能够直接安装在张力辊基座墙面，使刮刀在辊面与钢带空隙处工作，去除张力辊表面附着异物，且不损伤辊面。