Ooit stond ten noordoosten van de huidige kerk, de grafkerk van de Piccardts, de oude kerk, waarvan alleen nog de toren resteert. Deze toren dateert uit ca 1250 en stond toen los van de kerk. We komen deze situaties meer tegen in de provincie Groningen en het naburige Duitse Ostfriesland. De huidige kerk is tegen de toren aan gebouwd.
In 1040 komen we de naam van het dorp Leermens tegen in een oorkonde van koning Hendrik III, waarin hij zijn bezittingen te Leermens (Letherminge) en het naburige Enum (Enon) schenkt aan de St. Maartenskerk te Utrecht. Ook in lijsten van kloosterbezittingen uit de 10e en 11e eeuw van het door Liudger gestichte klooster te Werden (Duitsland) komen we beide plaatsen tegen.