Die Entstehungsgeschichte der Burg ist nicht komplett gesichert: Es wird vermutet, dass sie im 14. Jahrhundert erbaut wurde. Die erste schriftliche Erwähnung der Burg erfolgte im Jahr 1389, als Ritter Friedrich III. von Gundelfingen die Vogtei in Buttenhausen an Konrad, Propst des Klosters Sankt Maria in Güterstein, verkaufte. Anschließend im Besitz der Herren von Stein und den Herren von Klingenstein, wird die Anlage bis in das 16. Jahrhundert bewohnt. Im Jahr 1778 wird die Burg Buttenhausen als „altes Schloss auf dem Berg“ erwähnt, um es von einem „unteren Schloss“ oder „Wasserschloss“ zu unterscheiden, welches sich unterhalb des jetzigen Weidenbach’schen Schlosses befand und um 1800 durch einige Wirtschaftsgebäude ersetzt wurde.
Im 18. Jahrhundert konnte ein Gebäudeteil der alten Burg noch als Fruchtkasten genutzt werden, bevor die immer stärker verfallene Anlage 1825 abgebrochen wurde und die Umwandlung zum Friedhof stattfand. Die teilerhaltene Ringmauer der Kernburg mit ihren Strebepfeilern ist heute die Friedhofsmauer. Die Friedhofsanlage mit Kapelle in ihrer jetzigen Form entstand aber erst zwischen 1970 und 1972. Die Grablege der Familie Weidenbach erinnert noch an die ältere Ortsgeschichte Buttenhausens.