在这个部分的音乐一般有三个段落，贝多芬以ABA’的形式写成。在A段的唱词是“上帝矜怜我们”，B段是“基督矜怜我们”，然后是类似再现部的A’再唱“上帝矜怜我们”。 全曲由乐队齐奏出的有两个动机的引子开始。这两个动机构成了这个乐章的基础。紧接着合唱进入在第一个动机之上唱“Kyrie”(上帝)，独唱随之加入与 合唱呼应，形成的场面就如合唱是普天下的芸芸众生，而独唱则是布道者。这个连续三次的呼唤“上帝”的歌唱，形成了一个十分庄重的场面。接下来为歌词 “Elyeison”(意为“矜怜我们”)所作的音乐恭敬而虔诚，这部分安静地结束而进入速度较快的中段，呼唤“Christ Elyeison”(“基督矜怜我们”)。乐队，独唱的四重唱，合唱时而一起时而交替，以不同的方式反复吟唱。之后乐队其奏的乐章开始的引子再现，并进入 一个完整的再现部，吟唱“上帝矜怜我们”。这个乐章在合唱声中平静结束。这个乐章的唱词最简洁，音乐曲式结构也相对简单。