Сергей занялся коллекционированием позже брата — в начале 1870-х годов, и чтобы не мешать Павлу, сосредоточился на современной западной живописи, его длительные пребывания в Париже по делам семейного предприятия были как нельзя кстати.
Оказалось, что он неплохо разбирается в живописи и обладает тонким вкусом. «У него, как и у старшего брата, имелся «нюх» на хорошую вещь, — свидетельствовал художник Боголюбов. — Он часто не ел и не спал, думая купить или не купить такого-то мастера». Собирателем был азартным, импульсивным, страстным. Быстро загорался и остывал, не боялся покупать, а затем расставаться с картинами, выменивать их на новые.
Занимательная история случилась у младшего Третьякова с пейзажем Руссо «В лесу Фонтенбло», владельцем которого был Иван Сергеевич Тургенев. В одном из писем Сергей сообщает Павлу: «Тургенев, нуждаясь в деньгах, решился продать своего Руссо, и я его купил, так что мой теперь оказывается лишним». Полотно «В лесу Фонтенбло» прибыло в Москву. Однако вскоре неугомонный Сергей присылает брату новое письмо — на сей раз с просьбой выслать целый ряд картин, в том числе и приобретенного у писателя Руссо для обмена «на превосходнейшего Тройона, Мейсонье и Курбе». Через два года полотно «В лесу Фонтенбло» вернулось к коллекционеру, о чем Сергей Михайлович сообщил брату: «Своего Руссо сбыл, тургеневского приобрел опять».
Коллекция Сергея Третьякова располагалась в особняке на Пречистенском бульваре и была открыта для посещения только «по рекомендации знакомых». Однако это не помешало широкому кругу лиц познакомиться с картинами Коро, Руссо, Милле, Добиньи... Поленов посылал своих учеников «смотреть французов и испанцев на Пречистенский бульвар», Валентин Серов каждое воскресенье приходил сюда, чтобы насладиться «Деревенской любовью» Бастьен-Лепажа.
В отличие от стремившегося к уединению Павла Сергей любил светскую жизнь, общение, поездки в гости. Свой особняк он превратил в один из признанных культурных салонов, где собиралась блестящая публика и то и дело устраивались пышные приемы и балы. В его гостеприимном доме можно было встретить Тургенева, Гончарова, Репина, Чайковского и, конечно же, друзей детства — братьев Рубинштейнов.