자는 공명(孔明), 시호는 충무후(忠武侯)이며, 낭야군 양도현(瑯琊郡 陽都縣；山東省 沂南縣)에서 태어났다. 호족(豪族) 출신이었으나 어릴 때 아버지를 여의고 형주(荊州；湖北省)에서 숙부 제갈현(諸葛玄)의 손에서 자랐다. 후한(後漢) 말의 전란을 피하여 출사(出仕)하지 않았으나 명성이 높아 와룡선생이라 일컬어졌다.

207년(건안 12) 조조(曹操)에게 쫓겨 형주에 와 있던 유비로부터 '삼고초려(三顧草廬)'의 예로써 초빙되어 '천하삼분지계(天下三分之計)'를 진언(進言)하였다. 유비는 제갈량을 얻은 것을 물고기가 물을 만난 것[水魚之交]에 비유하였다.

이듬해 오나라의 손권(孫權)을 설득하여 유비와 연합하게 하였고, 적벽의 싸움에서 조조의 대군을 물리쳤다. 소설인 《삼국지연의(三國志演義)》에서는 신기묘산(神機妙算)으로 조조의 대군을 격파하는 데 결정적 공을 세운 것으로 묘사되지만, 역사서인 《삼국지(三國志)》에는 별다른 활약상을 찾아볼 수 없으며, 형주와 익주 등 강남을 손에 넣은 유비가 제갈량을 군사중랑장(軍師中郎將)으로 삼아 영릉(零陵)·계양(桂陽)·장사(長沙) 등 3군(郡)을 감독하게 하였다고 기록되어 있다.

이처럼 세간에 구전하는 제갈량의 초인적 지략은 대부분 소설 《삼국지연의》에서 기인하지만, 유비의 신임을 받아 중용된 것은 소설과 역사서의 기록이 일치한다. 214년(건안 16) 유비는 성도(成都)를 평정하고 나서 그를 군사장군(軍師將軍)으로 삼아 자신이 출병한 뒤 군량과 병사를 대도록 하였고, 촉한의 황제에 오른 뒤에는 그를 승상(丞相)으로 삼았으며, 죽음을 앞두고는 자신이 이루지 못한 대업을 이루도록 당부하였다.

유비는 제갈량에게 자신의 아들 유선(劉禪)을 보좌하되, 아들이 무능하면 몰아내고 황제의 자리를 취하여도 좋다고 유언하였으나 제갈량은 끝까지 후주(後主) 유선을 보필하였다. 재차 오나라와 연합하여 위나라와 항쟁하였으며, 생산을 장려하여 민치(民治)를 꾀하고, 윈난[雲南]으로 진출하여 개발을 도모하는 등 촉한의 경영에 힘썼다.

그러나 상승하는 위나라에 비하여 국력의 열세가 뚜렷한 가운데 오장원(五丈原)에서 위나라의 사마의(司馬懿)와 대치하다가 병이 들어 사망하였다. 위나라와 싸우기 위하여 출진할 때 올린 《전출사표(前出師表)》와 《후출사표(後出師表)》는 이를 읽고 눈물을 흘리지 않는 자는 사람이 아니라고 할 정도로 충정으로 가득한 천고의 명문으로 꼽힌다. 후인들이 중국 곳곳에 무후사(武侯祠)를 지어 그의 충절을 기리고 있다.