全国统一了，该怎样来治理这样大的国家呢？
在一次朝会上，丞相王绾（音ｗāｎ）等对秦始皇说：“现在诸侯刚刚消灭，特别是燕、楚、齐三国离咸阳很远，不在那里封几个王不行，请皇上把几位皇子封到那里去。”
秦始皇要大臣议论一下，许多大臣都赞成王绾的意见，只有李斯反对。他说：“周武王建立周朝的时候，封了不少诸侯。到后来，像冤家一样互相残杀，周天子也没法禁止。可见分封的办法不好，不如在全国设立郡县。”
李斯的意见正合秦始皇的心意。他决定废除分封的办法，改用郡县制，把全国分为三十六个郡，郡下面再分县。
郡的长官都由朝廷直接任命。国家的政事，不论大小，都由皇帝决定。据说秦始皇每天看下面送来的奏章，要看一百二十一斤（那时的奏章都是刻在竹简上的），不看完不休息。可见他的权力是多么集中了。
在秦始皇统一中原之前，列国向来是没有统一的制度的，就拿交通来说，各地的车辆大小就不一样，因此车道也有宽有窄。国家统一了，车辆要在不同的车道上行走，多不方便。从那时候起，规定车辆上两个轮子的距离一律改为六尺，使车轮的轨道相同。这样，全国各地车辆往来就方便了。这叫做“车同轨”。
在秦始皇统一中原之前，列国的文字也很不统一。就是一样的文字，也有好几种写法。从那时候起，采用了比较方便的书法，规定了统一的文字。这样，各地的文化交流也方便多了。这叫做“书同文”。
各地交通便利，商业也发达起来，但是原来列国的尺寸、升斗、斤两的标准全不一样。从那时候起，又规定了全国用统一的度、量、衡制。这样，各地的买卖交换也没有困难了。
秦始皇正在从事国内的改革，没想到北方的匈奴打了进来。匈奴本来是我国北部一个古老的少数民族。战国后期，匈奴贵族趁北方的燕国、赵国衰落，一步步向南侵犯，把黄河河套一带大片土地夺了过去。秦始皇统一中原以后，就派大将蒙恬（音ｔｉáｎ）带领三十万大军去抵抗，把河套一带地区都收了回来，设置了四十四个县。
为了防御匈奴的侵犯，秦始皇又征用民伕，把原来燕、赵、秦三国北方的城墙连接起来，又新造了不少城墙。这样从西面的临洮（今甘肃岷县）到东面的辽东（今辽宁辽阳西北），连成一条万里长城。这座举世闻名的古建筑，一直成为我们中华民族古老悠久文明的象征。
后来，秦始皇又派出大军五十万人，平定南方，添设了三个郡；第二年，蒙恬打败了匈奴，又添了一个郡。这样，全国总共有四十个郡。
公元前２１３年，秦始皇因为开辟了国土，在咸阳宫里举行了一个庆祝宴会，许多大臣都赞颂秦始皇统一国家的功绩。博士淳于越却重新提出分封制度不能废除，他认为不按照古代的规矩办事是行不通的。
这时候，李斯已经做了丞相。秦始皇要听听他的意见。
李斯说：“现在天下已经安定，法令统一。但是有一批读书人不学现在，却去学古代，对国家大事乱发议论，在百姓中制造混乱。如果不加禁止，会影响朝廷的威信。”
秦始皇采用了李斯的主张，立刻下了一道命令：除了医药、种树等书籍以外，凡是有私藏《诗》、《书》、百家言论的书籍，一概交出来烧掉；谁要是再私下谈论这类书，办死罪；
谁要是拿古代的制度来批评现在，满门抄斩。
第二年，有两个方士（一种用求神仙、炼仙丹骗钱的人）叫做卢生、侯生，在背后议论秦始皇的不是。秦始皇得知这个情况，派人去抓他们，他们早已逃跑了。
秦始皇大为恼火，再一查，又发现咸阳有一些儒生也一起议论过他。秦始皇把那些儒生抓来审问。儒生经不起拷打，又东拉西扯地供出一大批人来。秦始皇下令，把那些犯禁严重的四百六十多个儒生都埋了，其余犯禁的就流放到边境去。
这就是历史上所说的“焚书坑儒”事件。
秦始皇正在火头上，大臣们谁也不敢劝他。他的大儿子扶苏认为这样处置儒生太严厉，劝谏他不要这样做。这一来，触怒了秦始皇，命令扶苏离开咸阳，到北方去和蒙恬一起守边疆。
