1910年考取清華學校公費留學生，先后在美國康奈爾大學和哈佛大學就讀數學、物理和哲學，并獲物理學、哲學博士學位。在此期間，他還選修了和聲學、對位法和作曲法及聲樂，并堅持彈鋼琴。
1914年創作出中國第一首鋼琴曲《和平進行曲》。1920年回國任教于清華學校。1921年赴美國哈佛大學教授哲學、漢語。1924年游歷歐洲并在法國研究語言學。1925年回國任清華學校國學研究院教授，講授音韻學。
1938年定居美國，先后在夏威夷大學、耶魯大學、哈佛大學、加利福尼亞大學等校任教，又獲文學、法學、人文學博士學位，并曾任美國語言學會會長和東方學會會長，享有國際聲譽。趙元任作有鋼琴曲、歌曲及合唱曲等作品百余篇。其作品音樂形象鮮明、風格新穎、詞曲結合緊密富于韻味，許多作品還具有鮮明的愛國精神和民主傾向。
他還將高度的作曲技巧和鮮明的民族風格相結合，在音樂民族化實踐方面進行了很多有益的探索。在和聲的民族化方面，他常采用平行四、五度進行，大調主和弦上附加六度音程；在音調的民族化方面，他常采用一些民族民間音調作為其作品的音樂語言。如歌曲《教我如何不想他》吸收了京劇西皮原板過門的音調。
在音樂理論上他指出中國音樂有自己的“國性”，“值得保存跟發展”，并提出一些發展中國民族音樂的見解。其主要作品有：鋼琴小品《和平進行曲》；歌曲《賣布謠》、《織布》、《教我如何不想他》、《西洋鏡歌》、《老天爺》；合唱曲《海韻》以及論文《“中國派”和聲的幾個小試驗》、《新詩歌集序》、《黃自的音樂》等。