临沂地处鲁中南低山丘陵区东南部和鲁东丘陵南部，地势西北高东南低，自北而南，有鲁山、沂山、蒙山、尼山四条主要山脉呈西北东南向延伸，控制着沂沭河上游及其主要支流的流向。以沂沭河流域为中心，北、西、东三面群山环抱。向南构成扇状冲积平原。山地、丘陵、平原面积各占总面积的三分之一。山地集中分布在沂水、沂南、蒙阴、平邑、费县、莒南等县。地势较高，一般海拔400米以上。山地植被比较茂密，是发展林果业、畜牧业的主要基地。丘陵主要分布于山区外围，沂水、沂南、莒南、兰山、苍山、临沭、郯城、平邑等地都有分布，以沭河以东分布最广，一般海拔200米─400米。丘陵地带的土壤砂性大，适耕性好，土层较簿，保水肥能力差，适宜发展防护林和经济林，是花生、地瓜、玉米、黄烟等作物的的主要产地。平原有沂沭河冲积平原、山间沟谷平原、涝洼平原。沂沭河冲积平原主要分布在沂水南部、沂南东部、河东、兰山、罗庄、苍山、郯城。临郯苍平原土层深厚，土质肥沃，是粮食和蔬菜主要产区，素有“粮仓”之誉。 山间沟谷平原主要分布在费县、平邑中部，蒙山前平坦谷地，蒙阴、沂南、沂水等县的山间沟谷之中，土层深厚，质地适中，多种小麦、玉米等作物。涝洼地平原主要分布于苍山和郯城南部，土壤粘重，排水不畅，易涝，多种小麦、水稻、蔬菜等作物。

    本市内地质构造复杂，地层发育比较齐全，从太古界至新生界，除上奥陶统、志锱系、泥盆系、下石炭统、三叠系及中、下侏罗统、老第三系古新统、新第三系地层缺失以外，其他断裂带经郯城北北东向延伸，纵贯全市。

    临沂市境内有10公里以上河流300多条，其中，沂河境内长287.5公里，沭河境内长253公里。全市有大小水库90座，库容量34亿立方米，水资源丰富。多年平均年降水量824.8毫米，多年平均年地表水资源量51.6亿立方米，水资源总量59.6亿立方米。平均年水资源总量54.7亿立方米，枯水年水资源总量38.2亿立方米，特枯水年水资源总量 22.1亿立方米。境内水系发育呈脉状分布。有沂河、沭河、中运河、滨海四大水系，区域划分属淮河流域。主要河流为沂河和沭河，有较大支流1035条，中小支流15000余条。沂河主源发源于沂源、蒙阴、新泰交界处的老松山北麓。流经沂水、沂南、兰山、河东、罗庄、苍山、郯城等县区，流入江苏省境内后注入黄海，全长570公里，境内流长287.5公里。较大支流有东汶河、蒙河、柳青河、祊河、涑河、李公河、白马河等，流域面积10790余平方公里。沭河发源于沂山南麓，流经沂水、莒县、河东、临沭、郯城等县区，至江苏境流入黄海，境内流长252.6公里，最大流量7290立方米每秒（1974)年。较大支流有浔河、高榆河、汤河分沂入沭水道、夏庄河、朱范河等，流域面积5320 平方公里。 沂沭两河流域面积占全市总面积的百分之七十以上。属中运河水系的河流有武河、武河引洪道、东加河、 西加河和燕子河等，都经苍山县境内，南至江苏省境流入中运河。滨海水系河流有绣针河、相邸河、青口河等，皆入黄海。境内河流，均属山洪河道，上游支流众多，源短流急，雨季洪水暴涨，峰高量大，而枯水季则多数断流，境内建有岸堤、跋山、沙沟、陡山、许家崖、唐村、会宝岭等大型水库7座，中型水库29 座，小型水库899座，拦河闸坝22处，总拦蓄能力34亿立方米。沂沭河下游兴建了沂河沭河洪水东调工程和武河分洪工程，兴利除害，河流状况大为改善。