1912年（明治45年）、大分市に生まれる。1931年（昭和6年）、東京美術学校（現・東京藝術大学）日本画科に入学、1936年（昭和11年）に卒業している。在学中から松岡映丘の画塾に入り、師事した。美校の卒業制作『砂丘』（1936年）は、砂の上に座るセーラー服姿の若い女性を俯瞰的に描いた洋画風の作品で、後の高山の作風を思わせるものはほとんどない。

高山は戦後まもない1946年（昭和21年）ころ、ゴーギャンの伝記を読んで感銘を受け、その後の作風にはゴーギャンの影響がみられるようになる。1946年、第2回日展に裸婦2人を描いた『浴室』を出品し、特選となる。1949年（昭和24年）には日展に『少女』を出品し、やはり特選となる。この頃から独自の幻想的な画風が定着する。

1975年（昭和50年）から1977年まで日展理事長を務め、任期満了後は日展常務理事、顧問となる。1972年日本芸術院会員。1979年（昭和54年）、文化功労者として顕彰。1982年（昭和57年）、70歳の時には文化勲章を受章している。1985年（昭和60年）には東京はじめ日本の5都市で「日月星辰－高山辰雄展1985」を開催。屏風絵の大作をはじめとする意欲作を出品し、健在ぶりを示した。2007年（平成19年）9月14日午後4時19分、肺炎のため東京都世田谷区の自宅で死去。95歳没。脚本家の高山由紀子は長女。

・砂丘（1936）（東京藝術大学）
・浴室（1946）（大分県立芸術会館）
・食べる（1973）（大分県立芸術会館）
・日（六曲屏風）（1985）
・月（六曲屏風）（1985）（成川美術館）
・赤い服の少女（1997）（康耀堂美術館）
・二人（1997）（康耀堂美術館）
・草原の朝（2001）（康耀堂美術館）

1912年　大分県に生まれる
1931年　東京美術学校日本画科に入学　在学中に松岡映丘の画塾に入り師事する
1946年　ゴーギャンの伝記を読み感銘を受け、その後の作風に影響する
1949年　日展に『少女』を出品し特選となる
1975年　日展理事長に就く　任期満了後は日展常務理事、顧問となる
1979年　文化功労者として顕彰
1982年　文化勲章を受章