I. Akt
Im Schlafgemach
Die Marschallin hat die Nacht mit ihrem jungen Liebhaber Octavian verbracht, den sie mit seinem Kosenamen Quinquin anspricht. Als sie Stimmen hören, befürchten sie, dass ihr Mann, der Feldmarschall, unerwartet zurückgekehrt ist. Octavian verkleidet sich als Dienstmädchen, doch der Eindringling ist der Cousin der Marschallin, Baron Ochs von Lerchenau. Der Baron bringt die Nachricht von seiner bevorstehenden Heirat mit Sophie, der Tochter des Herrn von Faninal, einem kürzlich geadelten Kaufmann. Er ist sehr angetan von Octavian, der, da er nicht fliehen kann, von der Marschallin als Mariandel, ihr neues Zimmermädchen, vorgestellt wird.
Ochs bittet seine Cousine um Hilfe bei der Suche nach einer geeigneten Person für die traditionelle Übergabe der silbernen Rose. Die Marschallin verbittet sich die Aufwartungen für ihre Kammerzofe, aber Ochs lässt sich nicht beirren: Solche Aktionen sind das Vorrecht eines Adligen. Er spekuliert, dass Mariandel so hübsch ist, dass sie blaues Blut in ihren Adern haben muss, und brüstet sich damit, seinen eigenen unehelichen Sprössling in seinen Diensten zu haben, seinen Diener Leopold. Die Marschallin schlägt den Grafen Octavian Rofrano als möglichen Rosenkavalier vor und legt ein Porträt von ihm vor. Ochs ist fasziniert von der Ähnlichkeit mit Mariandel.
Die Marschallin hält ihre morgendliche Levée. Der Baron konsultiert ihren Anwalt, verliert aber die Beherrschung, als er erfährt, dass er als Bräutigam die Bedingungen für den Ehevertrag nicht festlegen kann. Er wird von den geheimnisvollen Italienern Valzacchi und Annina angesprochen, die ihm anbieten, über seine Verlobte zu wachen, um ihre Treue zu sichern.
Als alle gegangen sind, erinnert sich die Marschallin an sich selbst als junges Mädchen, das in eine lieblose Ehe gezwungen wurde. Als Octavian zurückkehrt, warnt sie ihn, dass er sie eines Tages für eine jüngere Frau verlassen wird. Er weist diesen Gedanken zurück. Sie sprechen über ein späteres Treffen und gehen kühl auseinander. Die Marschallin stellt fest, dass sie ihn nicht einmal zum Abschied geküsst hat und schickt ihren Diener mit der silbernen Rose hinter ihm her.
II. Akt
Im Hause des Herrn von Faninal
In Faninals Haushalt herrscht große Aufregung angesichts der bevorstehenden Ankunft des Rosenkavaliers. Octavian tritt mit der silbernen Rose ein und überreicht sie Sophie. Nach den Formalitäten unterhalten sich die beiden, werden aber durch die Ankunft des Bräutigams, Baron Ochs, unterbrochen. Sophie ist entsetzt über seine Herablassung gegenüber ihrer Familie und sein rüpelhaftes Verhalten. Während er über die Freuden der bevorstehenden Hochzeitsnacht spekuliert, beglückwünscht sich Ochs zum „Glück der Lerchenaus“ und geht, um mit Faninal den Ehevertrag zu besprechen.
Sophie gesteht Octavian, dass sie alles tun würde, um die Hochzeit zu verhindern. Er verspricht, ihr zu helfen. Sie werden von Valzacchi und Annina belauscht, die Ochs herbeirufen. Dieser lacht zunächst über den Vorfall, wird aber immer wütender, als Octavian darauf besteht, dass die Hochzeit abgesagt werden muss. In dem darauf folgenden Kampf wird Ochs verwundet. Faninal befiehlt Octavian zu gehen, doch wirbt dieser die Italiener an, für ihn statt für Ochs zu arbeiten. Ochs erholt sich, als er feststellt, dass seine Wunde nicht lebensbedrohlich ist, und wird durch die Ankunft von Annina mit einer Nachricht von "Mariandel", die ein Rendezvous in einem Gasthaus vorschlägt, weiter aufgemuntert.
III. Akt
In einem Wirtshaus
Valzacchi und seine Komplizen arrangieren auf Anweisung von Octavian, der wieder als Mariandel verkleidet ist, verschiedene Überraschungen für Baron Ochs. Ochs trifft ein, aber seine Verführungsversuche werden durch seltsame Unterbrechungen vereitelt. Er läutet erschrocken die Glocke und wird von Annina konfrontiert, die behauptet, seine verlassene Frau zu sein und Kinder zu haben, die seine seien. Ein Polizeikommissar erscheint und verlangt eine Erklärung vom Baron, was das junge Mädchen in seinem Zimmer macht. Als Ochs versucht zu erklären, dass sie seine Verlobte sei, erscheint Faninal und ist empört über die Andeutung, dass Mariandel seine Tochter ist. Er schickt nach Sophie, die draußen wartet, und bricht vor Schreck zusammen. Das Chaos nimmt zu, bis die Marschallin eintritt, die von Leopold im Auftrag seines Herrn herbeigerufen wurde.
Sie begreift die Lage und übernimmt schnell die Kontrolle. Sie erkennt in dem Kommissar den ehemaligen Heeressoldaten ihres Mannes und überzeugt ihn davon, dass alles nur ein Scherz war. Ochs versucht weiterhin, auf seiner Heirat mit Sophie zu bestehen, aber die Marschallin enthüllt Octavian/Mariandel und überredet ihn, das Lokal zu verlassen, verfolgt vom Wirt, den Kellnern und Musikern, die Bezahlung verlangen. Die Marschallin spürt Octavians Dilemma und rät ihm, Sophie aufzusuchen. Als sie die beiden so verliebt zusammen sieht, stellt sie fest, dass das, was sie prophezeit hat, schneller eingetreten ist, als sie es vorausgesehen hat.
Die Marschallin zieht sich zurück und lässt die beiden jungen Liebenden allein.
