海軍監獄として、明治15年に公郷村に東海鎮守府監囚課の獄舎が新築されたのがそもそもの始まりである。手狭なため、明治16年に大津村陣屋跡に移転した。
名称もいくつか変遷したが、大正12年に横須賀海軍刑務所に改められ、関東大震災で倒壊後、鉄筋コンクリート塀に作り変えられ終戦まで任務をまっとうした。名高い５．１５事件で捕らえられた海軍士官も一時収容されていた。
戦後は、横浜刑務所横須賀出張所（その後横須賀刑務所となった。）となり、米軍人、軍属の犯罪者を収監する唯一の刑務所であったが、昭和53年3月、久里浜に移転し、約100年の歴史を閉じた。
現在、跡地には住宅（コーポ大湘南大津）と大津中学校が建っている。
なお、久里浜刑務所もかっての対潜学校跡地に建設されている。
