Quando a peça começa, Tevye, um leiteiro judeu, fala dos costumes na pequena cidade russa de Anatevka. Estamos em 1905, e a vida aqui é tão precária como um violinista no telhado, no entanto, através das suas tradições, os aldeões perduram.
Na casa de Tevye, a sua esposa, Golde, e as suas cinco filhas preparam-se para o jantar de sábado quando Yente, a casamenteira da cidade, chega. Ela diz a Golde que tem um possível par para Tzeitel, a sua filha mais velha. As raparigas especulam sobre com quem irão casar um dia, mas Tzeitel diz que devem levar quem Yente lhes arranjar. Ironicamente, ela já prometeu secretamente o seu amor ao Motel Kamzoil, um alfaiate, que ainda não encontrou coragem para pedir a mão a Tevye.
Como Tevye faz as suas entregas pela cidade, ele reza, perguntando que mal haveria se ele fosse um homem rico. Conhece e gosta de Perchik, um estudante de Kiev, e oferece-se para o contratar como tutor das suas duas filhas mais novas.
Quando Tevye regressa a casa, Golde informa-o de que vai conhecer Lazar Wolf, um açougueiro rico que tem a idade de Tevye, após a refeição do sábado para discutir uma proposta. Tevye acredita que Lazar Wolf quer comprar a sua vaca leiteira, mas logo descobre que a proposta é a de casamento com Tzeitel. Apesar de Tevye não gostar muito de Lazar Wolf, ele concorda em saber que a sua filha nunca morrerá à fome. Eles celebram com outros da aldeia na taverna local. No seu regresso a casa, o guarda russo pára Tevye e avisa-o de uma próxima “demonstração”
No dia seguinte, Tzeitel e Motel apelam a Tevye para repensar o seu acordo matrimonial com Lazar Wolf, e para considerar Motel em vez disso. Tevye acaba por concordar, mas como dar esta notícia à Golde? Ele cria uma história em que a avó de Golde e a falecida esposa de Lazar Wolf, Fruma-Sarah, lhe aparecem num sonho e ameaçam amaldiçoar Tzeitel se ela se casar com Lazar Wolf. Golde acredita que isto é um sinal e concorda com a partida. Tzeitel e Motel são casados numa cerimónia de casamento tradicional judaica, que infelizmente é perturbada pela “manifestação” do guarda
Meanwhile, a segunda filha de Tevya, Hodel, apaixonou-se por Perchik. Eles quebram a tradição dizendo a Tevya que se amam e que vão casar, pedindo apenas a sua bênção e não a sua permissão. Isto leva Tevya e Golde a contemplar o seu próprio casamento e amor um pelo outro após vinte e cinco anos.
Perchik promete mandar buscar Hodel e parte para Kiev para trabalhar para a revolução. Ele é preso e enviado para a prisão na Sibéria. Hodel decide que ela deve ir ter com ele, uma decisão que o seu pai acaba por apoiar.
P>Semanas passam, e a terceira filha de Tevya, Chava apaixonou-se por um aldeão russo chamado Fyedka. Ela pede ao seu pai que lhe seja permitido casar com ele; mas casar fora da fé judaica é inaceitável para ele, e ele proíbe-a de o voltar a ver. No dia seguinte, Chava e Fyedka fogem em segredo, e Chava é repudiada pela sua família.
O problema continua à medida que o guarda russo diz a todos os aldeões judeus que devem fazer as malas e deixar Anatevka dentro de três dias. Todos se preparam para partir enquanto recordam a sua cidadezinha miserável que tantos chamam a casa há tanto tempo. Chava e Fyedka vêm despedir-se e fazer as pazes. Tevye recusa-se a olhar para ela, mas Tzeitel deseja-lhe felicidades antes de todos eles partirem, o violinista a tocar à medida que saem.