Det lå en stor grushaug der hvor herredshuset står. Den ble brukt til fyll i det dype juvet foran sparebanken og til grusing av den nye veien som var anlagt. Når grushaugen var fjernet ble det en ideell tomt for det nye herredshuset.

Idag holder Farsund frivilligsentral til i bygget og i annekset kan du besøke lokalhistorisk samling. Ellers brukes huset til øvelseslokale og møteplass for ulike lag og foreninger.