Песня была написана в 1920-х годах в Одессе. Существует версия, что музыка была написана знаменитым композитором Оскаром Строком в 1923 году. Этого композитора не зря называли «королём танго»: «Мурка» — классическое танго. Первоначальный вариант текста песни был написан одесским поэтом Яковом Ядовым — автором других известных песен «Бублики» и «Гоп со смыком». Слова Ядова не носили блатного характера, в них отсутствовали слова про урок, банду из Амура и «малину». Наиболее известны два варианта песни.