Начиная с 1912 г. предпринял ряд путешествий по различным районам Кавказа, направленных на их исследование, уточнения направления хребтов, положения ледников и течения горных рек.
В ходе этих путешествий С. Я. Голубев со своими спутниками совершал первовосхождения на вершины Эльбрусского, Баксано-Чегемского, Безенгийского районов, в группе Ушбы и Шхельды, совершили переход Главного Кавказского хребта в узле Ушбы со спуском в Сванетию.
В походе по Шхельдинскому ущелью в 1915 г. со своими спутниками совершил первовосхождение на безымянную вершину (4259 м, Центральный Кавказ, группа Ушбы) и дал ей название в честь видного российского альпиниста-гороведа В. Н. Щуровского.