Le origini del colle sul quale sorge la torre risalgono all'età del bronzo e del ferro, quando fu sede di un castellierie preistorico. Fu fortificato nell'alto medioevo con un castello che appartenne ai Conti Eppan. La struttura venne poi trasformata in chiesa dedicata ai Santi Valerio, Clemente e Apollonia, consacrata nel 1162 e aperta al culto fino alla metà del 1700.
Nel 1767 furono eseguiti dei lavori di consolidamento dell’unica navata, ma la situazione andò peggiorando e l’edificio divenne sempre meno sicuro, portando alla sua chiusura nel 1787. Fortunatamente, dall’antica chiesa è giunto integro fino ai nostri giorni un affresco raffigurante il patrono Valerio, opera ora collocata nella chiesa di san Sebastiano a Cavalese in corrispondenza dell’abside.