第二乐章，充分展示了勃拉姆斯卓越的复调思维才能，音乐表现了沉思、壮美的、严峻的情绪。第一主题由大提琴和大管的对位演奏开始：由于是两种不同乐器--弦乐和木管的结合，融合性到底比相同乐器结合时差些，但这样一来却加强了两个声部的对比，突出了各自的音乐形象，使总体音乐形象丰富多采。接在这一主题之后，法国号、双簧管和长笛引进了一个由新动机构成的赋格段，也是复调手法！使用的都是木管音色（法国号虽为铜管乐器，但常常作为木管乐器使用），表现的是郁郁不欢的神态。第二主题以切分节奏的形式出现了，它与前面的形象形成鲜明的对照，使音乐发展更具动力。第三主题出现时，上面声部由音符时值中庸的进行构成，下面声部则以流畅的十六分音运动，从而加强了第二乐章紧张的戏剧性激情，使音乐在具有动力的同时也颇具复杂性。整个第二乐章属于柔板乐章，它是勃拉姆斯崇高的哲学抒情诗中最独特的篇章，大量的复调手法突出了哲理性，复调运用中的多个声部同时进行，也更好体现了人类思维的多绪性，而这些又是建立在明朗而欢快的基调上，这些完全不亚于布鲁克纳交响曲中着名的慢板乐章，甚至在表现手法上比之更简炼、紧凑，是一部世间少有的杰作。