明治28年（1895）4月17日，中國與日本簽訂「馬關條約」，將台灣、澎湖等地，割讓給日本。明治29年（1896），日本銀行在台北市設立出張所（辦事處），成為日本在台灣的中央銀行。明治32年（1899）9月26日，正式設立台灣銀行，取代日本銀行。翌年（1900），於台中、台南、打狗（高雄）等地，共設有9個出張所。直到明治20年（1945），台灣銀行在台灣設有總分支機構達15家。
明治33年（1900）設立於今高雄市哨船頭街的台灣銀行打狗出張所（1916年，改為打狗支店）成為高雄市最早設立的銀行。建築為雙圓頂，具有俄羅斯風情；銀行南邊的古厝為哨船頭街望族張仲護家（陳中和二女兒聘之先生），明治41年（1908），日人於打狗（高雄）築港，並利用其廢棄的泥沙，進行填海造地，建構第一個新市街，即後來當地居民所俗稱的哈瑪星（濱線Ham-sen台語譯音）。大正5（1916），另於哈瑪星凑町（今高雄市臨海一路17號）一丁目五番地街上，大正12年(1923年)設立台灣銀行打狗（高雄）支店(台灣銀行鼓山分行址)。外觀採用歐陸古典樣式，賦予人穩重堅固之感，除了設有老虎窗的馬薩式屋頂，轉角處豎立的圓形塔樓亦是視覺的焦點，是高雄經典建築代表之一。二戰期間屋頂曾遭毀損，戰後仍持續作為銀行使用，直到1970年代過後被改建成一般的水泥方塊量體。哨船頭原址在國民政府來台後，曾有一陣子由憲兵隊駐紮，現已為空地。（打狗文史再興會社）