Наиболее ранние памятники коллекции — произведения византийского искусства: мозаики и иконы. Ранний этап развития западноевропейской живописи отражен относительно небольшой, но весьма яркой коллекцией "итальянских примитивов". Его официальное открытие состоялось 10 октября 1924 года, однако первые живописные подлинники были переданы в дар русским консулом в Триесте М.С.Щекиным еще до открытия музея в 1910 году. Систематические поступления картин из московских и петербургских собраний начались после 1924 года. В музей были переданы работы западноевропейских художников, хранившиеся в Румянцевском музее; а также собрания С.М. Третьякова, Юсуповых, Шуваловых, Г.А. Брокара, Д.И. Щукина и других коллекционеров. Особое значение имели поступления из Государственного Эрмитажа. Однако окончательно состав картинной галереи определился лишь в 1948 году, когда она пополнилась произведениями французских художников второй половины XIX — начала XX века из собрания бывшего Музея нового западного искусства.
Собрание австрийской живописи XV-XX вв. в ГМИИ - одно из крупнейших и наиболее интересных собраний России. Оно мало известно и представлено только несколькими произведениями XV и XIX вв. в постоянной экспозиции музея. Значительная часть музейного собрания происходит из старых русских частных коллекций.
Несмотря на то, что собрание ГМИИ не раскрывает всей исторической полноты австрийской школы живописи, в нем представлены многие крупные мастера и выдающиеся по качеству работы, занимающие важное место в творческой эволюции художников и отражающие сложную и динамично менявшуюся на протяжении веков картину различных направлений и тенденций
Художников разных эпох и стилей роднит добротное мастерство, умелое построение композиций и верный рисунок, внимание к натуре и стремление передать ее с максимальной точностью. В то же время, нельзя не отметить эклектичности творчества многих мастеров, значительной зависимости от влияния других школ. Художественная самобытность таких произведений во многом определяется степенью самостоятельности их авторов. Центр притяжения австрийских художественных сил находился в Вене. Яркие проявления венской школы XVIII столетия демонстрируют работы мастеров венского рококо. Австрийские художники-портретисты имели широкую известность и высоко ценились как у себя на родине, так и за рубежом. В собрании ГМИИ представлены ведущие мастера этого жанра: Мартин Фердинанд Квадаль, Иоганн Баптист Лампи, Йозеф Грасси, Генрих Фюгер.
Австрийские художники, не находя работы на родине, уезжали за границу в поисках работы и престижного социального статуса придворного живописца. Некоторые из них жили и работали в России, вливаясь в ряды иностранных мастеров, создавших важный пласт произведений, которые органично вошли в национальное русское искусство под названием «россика».