Schon 1559 mit Einführung der Schulpflicht für Jungen in Württemberg wurde in Gerlingen eine Schule erwähnt. Ab 1649 galt eine allgemeine Schulpflicht auch für Mädchen. Die Schule stand ebenso wie der Nachfolgebau von 1711 an der Stelle des heutigen Johannes-Zimmermann-Gedenksteins direkt neben der Petruskirche.

1818 erbaute die bürgerliche Gemeinde an Stelle eines alten Bauernhauses dieses Schulhaus mit zwei Schulzimmern im Obergeschoß und einer Lehrerwohnung im Erdgeschoß. 1850/51 wurde es um einen nördlichen Anbau erweitert, der auf einem Kellergewölbe von 1563 steht. Im Jahre 1913 wurde das Schulhaus umgebaut und ein neues Treppenhaus angelegt. Bis 1958 waren hier die Volksschule für die unteren Klassen sowie im Erdgeschoss Lehrerwohnungen untergebracht. Nach Umbau und Öffnung eines Gehwegs unter Arkaden im Erdgeschoß befindet sich hier seit 1982 das Stadtmuseum bestehend aus dem Gerlinger Heimatmuseum und dem Museum der Deutschen aus Ungarn.

Gegenüber stand der Widdumhof, aus dessen Einkünften im Mittelalter die Pfarrer besoldet und die Kirche unterhalten wurde. Bis 1900 waren die Häuser des Dorfes durchnummeriert. Die Nummerierung begann mit dem Widdumhof als Nr. 1 und 2. Sie führte von dort in ununterbrochenem Zug durch alle Gassen und kehrte mit der letzten Nummer zum alten Schulhaus auf der nördlichen Straßenseite zurück.