本名常有书，1900年10月14日生于四川顺庆的富商家庭，1910年即与赵熙习画，长于书法的他，1917年入上海美术学校就读，1919年常玉与徐悲鸿、林凤眠以留法勤工俭学的方式前往巴黎，并于1919年赴日时在东京展出其书法作品，而获当地杂志刊载推荐。