西汉初年，经历了秦末农民起义和楚汉之争的中国，已经满目疮痍。社会经济急需恢复和发展，人们已经厌倦战争，在这一背景下与民休息成为必然。法家思想的严酷使之和秦王朝一起被摒弃早已疲惫的百姓渴望一种相对宽松的统治方式，在这种情况下“黄老学说”被执政者青睐。这套统治策略对废除秦朝苛政、与民休息、恢复和发展经济、安定混乱的社会秩序无疑起到了不可忽视的作用。然而这一思想在对内对外的统治方式上难免存在姑息、妥协的一面。经历文景之治的西汉王朝，经济迅速恢和发展，国力随之增强在这个过程中，黄老思想无疑起到了很大积极作用，但同时也导致了三个严重后果: 对农民控制的宽松，导致逃避赋税、脱离户籍的状况严重；虽然削藩政策已取得很大成效，但地方力量仍然强大，阻碍了国家权力在基层的执行；无为的政策导致了对外的妥协退让，长期姑息匈奴，使之益发肆无忌惮，并成为西政权的最大威胁。
公元前 141 年，汉武帝即位，开始改变西汉建国以来的治国策略，然而最初的实施并不顺利。公元前 140 年丞相卫绾提出废黜百家之议，窦婴、田蚧荐赵绾、王臧，他们的倡议与当时血气方刚的汉武帝一拍即合，在汉武帝的支持下开始贬斥道家，鼓动改革，一时之间改革倡议风生水起。然而这一势头很快为窦太后压制，王臧、赵绾被罢逐，丞相、太尉及所有涉及此次事件者均不同程度地受到处罚，改革的火苗迅速被扑灭。汉武帝所开展的轰轰烈烈的第一次尝试，在窦太后不动声色的铁腕下偃旗息鼓，改革宣告失败。
公元前 135 年窦太后去世，废除道家无为思想最大的障碍消失，儒家思想终于迎来了期待已久的春天。公元前 134 年，汉武帝亲自策问贤良，董仲舒在这时正式提出了“罢黜百家、独尊儒术”的主张，受到汉武帝的认可，并从此在全国范围内推行夹杂汉朝前期各种思想的儒家走到了前台，终于成为当政者坚定不移的国策。这时的儒术已经不再是战国时期儒家思想的原貌，而是掺杂了道家、法家以及阴阳五行家等各家思想，是一种紧密切合时代的新思想。它强调正统观念，对皇权加以神化，对整合国家、强化统治有着极为重要的作用。这对于在政治上积极有为的汉武帝而言，恰是时代所急需的。在汉武帝的积极推行下，这一思想很快影响社会各个层面，随着时代的发展，各种新的思想不断补充进去使之成为影响中国文化最久也最深远的一种思想。
对于儒家崛起的原因，历来说法不一，其实最重要的原因应该是社会发展的需要和对匈奴开战的呼声。西汉初年长期的与民休息使得西汉的国力得到很大发展，但随之而来的是土地的兼并，农民脱籍状况严重，与此同时，虽然对诸侯加以剪除，但地方豪强却因此获得生存空间，迅速膨胀，甚至干扰到政府的地方行政。政府长期的无为和姑息，使西汉政权无论是对外还是对内，都需要更为强势的举措以稳固统治，对匈奴的战争则更为突出。
匈奴自汉初以来就一直是西汉的北面劲敌，汉武帝虽然准备与匈奴开战，但两个国力相当的邻邦，一旦开战则必然是一场旷日持久的战争，会考验到西汉政权的各个方面，军事固然首当其冲，经济的支持也将面对巨大压力，甚至由此会影响社会稳定乃至帝国统治基础的稳固。在这一时期推行“罢黜百家，独尊儒术”，统一全国思想，强化政治统治，是帝国首先要解决的问题，只有后方稳定才能把所有力量放置于边疆与匈奴殊死一搏。
在汉武帝这样的特殊年代，实行独尊儒术具有极为突出的意义。
首先，儒家的“仁治”学说，强调在社会伦理关系中运用教育手段来提高人的自觉性，有利于宣扬政权的正统性，从而稳固帝国的统治基础；统治重视德政，无论是标榜“王相杂”，还是提倡“纯任德政”，德政都成为政治统治的一个重要方面，是统治者粉饰自身执政合理性的重要手段，对以后统治模式的确立有着极为重要的导向意义。
其次，由于尊儒，利用儒家思想培士人，并作为选拔士人的重要标准，提高了儒士的社会地位，发展了国家文化教育，最主要的是确立了儒家思想在社会上的特殊地位，这是汉代统治政策的一大转变。以儒家仁爱思想作为行政准则，为政权与民众之间搭起了沟通的桥梁，增强了民众的认同，同时也巩固了其维护政权的决心，这是西汉维持长久统治的重要基础，同时也为此后的统治者提供了一个切实可行的执政模式。在独尊儒术以后，大批的士人转向儒学，完成了士人儒家化的过程，他们以儒学为基础，吸收其他学派的有益成分，与儒学相互融合，形成了系统的理论和观念，完成了当时社会上有影响的各种思想与儒家思的嫁接过程，并以之指导实践，推动了社会的发展和进步。
需要指出的是，汉武帝虽独尊儒术，事实上并未罢黜百家。他并未遏制其他学派的发展，亦未曾禁止民众接触其他学派思想。独尊儒术，主要是确立以六经为依据的儒家思想作为官方的统治思想，培养人才、任用官吏主要从儒家之士选拔。汉武帝死后，昭帝、宣帝执政，仍然坚持儒法并用的政策。终两汉之世，黄老、刑名、农、医、阴阳等方面的研究也从未停止过，值得注意的是，汉朝的“百家”也有争鸣，但主要是围绕维护统治思想而展开的，与战国时期的百家争鸣有所不同。
,
汉武帝做了一个影响千秋万代的决定：罢黜百家，独尊儒术。从此，中华帝国有了国家意识形态。
儒学最终成为国家意识形态从汉朝开始。总的来说，理论家董仲舒提出了以思想大一统维持政治大一统的主张。而公孙弘则是行动派，解决了“怎样才能儒术独尊”的问题。
儒家奉献知识忠诚，帝国开放官位俸禄；
儒家谋取了生存空间，帝国得到了国家栋梁；
儒家获得了对意识形态的控制，帝国则把它变成自己的统治工具。
但要指出的是，汉武帝选择儒家的原因, 并非由于个人虔诚，而是功利的选择。因为儒家维护君主制度，道为王道，政为仁政，而且儒家还有着深厚的社会根基，这就是小农经济、宗法社会和礼乐传统。
汉武帝在表面上重视儒家的同时，自己更推崇法家。这就是后世常说的“外儒内法”和“王霸杂之”。在汉武帝那里真正吃得开的，不是新儒生，而是刀笔吏。
刀笔吏，就是帝国的司法官员。他们垄断了变得越来越复杂的律令知识，玩弄司法，迎合汉武帝的意图，以法制之名行专制之实。最终执行的是皇帝的意志。
大汉王朝并没有唯儒术而独尊。也没有唯法家而独尊，实际是非儒非法。