안세이 ６년(1859) 하마야마고 나가노의 향사인 가타오카 마고고로와 노부코의 차남으로 태어났다. 형 나오테루와는 정반대의 성격으로, 지기 싫어하는 개구쟁이 소년이었다고 한다. 9살 때 아버지를 여의고, 가난 때문에 구레(久礼)의 도린지(東林寺)에 맡겨져 4년간 동자승으로 살았다.

12살 때 고향에 돌아가 서당에서 공부하며 집안을 돕기 위해 일했다. 사가와(佐川)에서 헌옷을 사다가 행상을 하기도 했다. 14살 때 고치의 한코치도칸(藩校致道館)에서 공부하고 17살 때 고치도야학교(高知陶冶学校, 훗날의 사범학교)에 장학생으로 입학했다. 영어나 수학에서 뛰어난 성적을 거두어 재학 중인데도 불구하고 하마야마고 히메노노(姫野々) 소학교(현 하야마 소학교)에 부임했다.

메이지 13년(1880) 약관22살에 하마야마고 주산가손 연락회(半山郷十三ヶ村連合会)의 의장을 맡고, 다음해에는 현민유지연합의 대표로서 다니와키____(谷脇清馬)와 함께 상경한다. 고치현정에 대한 진정을 하기 위해 당시 참의원이었던 이토 히로부미를 면회. 4시간에 걸쳐 논의를 벌였다. 그 당시 상황에 대해 이토는 “젊지만 사물의 이치를 잘 알고 있다. 다른 당의 생각을 잘 살펴보고 있으며 토론도 잘한다. 생각도 잘 잡혀 있어서 아주 감복했다”고 평했다. 이토에게 그 재능이 발견된 나오하루는 내무성 어용계로 명을 받아 관계에 들어갔다.

메이지 17년(1884) 공적 사적으로 나오하루와 친했던 나카이 히로시(中井弘)가 시가현 현령(滋賀県県令)에 취임함에 따라 시가현 일등속으로서 현청에 부임했다. 7개의 과장을 겸임했는데, 특히 위생 분야의 개선 및 발전에 공헌했다. 메이지 19년(1886)에 시가현 경본부장으로 승진했지만, 메이지 22년(1889)에 장래의 정치 활동을 대비하여 관계를 떠나기로 결의를 굳혔다.

관계를 떠난 나오하루가 뛰어든 것은 일본생명(日本生命)의 경영이었다. 히로세 스케사부로(弘世助三郎)로부터 신설된 일본생명의 경영에 대해 타진을 받은 나오하루는 자신은 부사장이 되고 사장에는 고노이케 젠에몬(鴻池善右衛門)을 맞아 들였다. 이후 십 년간 경영을 주도하여 일본생명을 일본 최대의 생명보험회사로 발전시킨 후, 고노이케로부터 사장직을 물려 받았다.
그후로도 일본창고 주식회사나 교토 미야코호텔, 나라호텔을 설립하고, 참궁철도(参宮鉄道), 간사이 철도 등 많은 기업의 사장도 역임하여, 형인 나오테루와 함께 간사이 재계의 중진이 되었다. 청일전쟁 후의 불황이나 햐쿠산주 은행(百三十銀行)의 파국으로부터 재계를 구하고자 정부와 재계 사이에서 힘써, 그 위기를 구하는 등 경제계에 큰 공적을 남겼다.

다이쇼 8년(1919) 젊은 시절부터의 숙원이었던 정치에 전념하기 위해 실업계의 직함을 내려 놓았다. 다이쇼 14년（1925）에 가토 내각의 상공 대신에 임명 받고 이어서 와카쓰키 내각의 대장 대신이 되었다.
세상은 쇼와 금융 공황이 시작되어 관동대지진의 재해어음관련법안도 처리해야 했으나 나오하루의 발언이 정쟁의 계기가 되어 책임을 물기 위해 사직했다. 그후, 입헌 민정당 고문이나 귀족원 의원이 되었다가 76세에 영면했다.