Hola Robert

No, no podemos decir "por lo costumbre", pero la misma idea se puede expresar por ejemplo con:

"Yo acostumbro a visitar a mis padres todos los domingos" or 

"Tengo la costumbre de  visitar a mis padres todos los domingos" or

"Tengo por cosumbre visitar a mis padres todos los domingos"

All these sentences would sound quite formal though, compared to the usual  "Suelo + infinitive".

Un saludo y gracias por tu pregunta.

Inma