晋惠帝时，因八王之乱战火再起，赵王司马伦、齐王司马冏及长沙王司马乂先后以军事力量上台掌权，司马伦更曾篡位称帝，当时天下大乱，盗贼蜂起。当时，因为战乱，中原汉人大量流徙江南，并州境内的胡汉势力对比和人口分布发生了重大变化，趁此机会，刘渊于永兴元年（304年），在南郊筑坛设祭，自称汉王，赦免境内囚犯，建年号为元熙，追尊刘禅为孝怀皇帝，建造汉高祖以下三祖五宗的神位进行祭祀，立妻呼延氏为王后。
刘渊自称汉皇帝的原因
刘渊是匈奴人，一心想着兴邦复业，可他为何要称汉皇帝呢？这与能刘渊的人生经历以及当时的社会形势有关。我们知道晋朝是个相当讲究门阀的时代，刘渊本来就是匈奴人，他的出身并不高贵，本就没有什么支持率的刘渊来说，要想取得士族大家的支持，必然要将自己的姿态放下，亲近汉文化，使刘渊倾心接受汉化；而刘渊在官场上受到的种种遭际和不公，也是逼使他主动向汉人、汉文化靠拢的一个重要因素。这是其中的一个原因。
其二，晋武帝时，王浑、王济等人举荐刘渊担当消灭孙吴的重任，却遭到了孔恂、杨珧等人的强烈反对，特别是谏辞中“非我族类，其心必异”（《晋书》）八个字，既刺痛了刘渊的自尊心，也反映了汉匈之间难以消除的民族隔阂。 孔恂、杨珧是朝廷重臣，代表着朝野相当一部分汉人的思想和观念，他们鄙视、仇恨胡人，更抵触像刘渊这样文韬武略的匈奴人，使刘渊屡不得志，甚至一度险遭不测。
其三，刘渊自幼居于汉地，酷爱读书，痴迷汉文化，曾拜上党名士崔游为师，遍习中原的儒家经典和历史、军事著作，甚至可以“略皆诵之”，深受汉文化影响和熏陶。刘渊7岁丧母时“擗踊号叫，哀感旁邻”，所表现出的孝道礼仪上不难看出，他受中原文化的影响极大。在日后与太原名儒王昶、王浑、王济的密切交往中，刘渊逐渐成为一个汉化程度相当深的匈奴人。
亲近汉文化，大力推行汉文化的刘渊，直至晚年也没能抚平匈奴和汉民族之间的种族隔阂，但是没有关系，起码他为了民族的融合迈出了第一步，也是最重要的一步。