京都国立近代美術館の開館は、東京の国立近代美術館（現在の東京国立近代美術館）開館の約10年半後の1963年であった。

それは国立近代美術館が東京に開館した翌年の1953年、第二次大戦中の在外資産としてフランスに没収されていた川崎造船所（現川崎重工業株式会社）社長・松方幸次郎が、ヨーロッパで集めたコレクションの日本への返還問題が具体化されたことに端を発する。

フランスから返還される本コレクションは、特別の美術館に保管されることが条件だという意向もあり、松方ゆかりの兵庫県、そして京都市が名乗りを上げたが、フランス側は、「首都東京」にこの松方コレクションを擁する美術館の創設が不可欠だと主張し、それが現在の国立西洋美術館となった。

しかし、美術館建設を熱望した京都市が、この「松方コレクション誘致の案」を「国立近代美術館の誘致」へと切り替え、ここに「国立近代美術館京都分館構想」がクローズアップされた。

東京にあった国立近代美術館も、京都市から提出されたこの「分館構想案」を検討し、1962年に分館設置の法令が施行の運びとなり、翌年、京都国立近代美術館が開館した。

京都市は、産業上の要望として、京都の地場産業である陶芸や染織など、伝統工芸の展示に相当の比重を置いてほしいと要望し、京都国立近代美術館はこれにこたえてその後「伝統工芸」のみならず、広く「工芸」を展望する企画展やコレクションの充実につとめている。

「工芸」においては、陶芸や染織のみならず、ガラスやジュエリー、テキスタイルから、家具、ファッション、建築まで、「工芸」に対する捉え方を拡張。同時に、ピカソやゴッホ、モディリアニといった近代美術の画家たちだけではなく、土田麦僊や村上華岳といった日本画家、浅井忠や梅原龍三郎など、多数の画家たちの展覧会も開催してきた。また、近代美術館の当然の使命として、現代美術も扱っている。

1986年秋に、展覧会での出品点数および所蔵作品の増加、作品の大型化などに伴い、施設の拡張・充実のため、建築家 槇文彦氏の設計による新館が竣工した。

2001年に、それまで文化庁の機関に属していた京都国立近代美術館は、時代の流れとともに独立行政法人として再編され、東京国立近代美術館、国立西洋美術館、国立国際美術館、そして現在は国立新美術館も加わって、「独立行政法人国立美術館」となった。

京都国立近代美術館の所蔵するコレクションに、河井寬次郎の「川勝コレクション」、版画家・長谷川潔の作者自身から譲られたコレクション、近年ではブルーノ・タウトを日本に招へいしたことで知られる建築家・上野伊三郎とその妻で工芸家の上野リチのコレクション、池田満寿夫や京都の版画家・井田照一のコレクション、さらには竹久夢二の多数の作品・資料を擁する「川西英コレクション」、青木繁や岸田劉生、富本憲吉、バーナード・リーチらの名品を含んだ「芝川照吉コレクション」など、特色豊かなコレクションを多数形成している。