美国社区大学的创建可以追溯到19世纪末和20世纪初的初级学院运动，当时在教育界有一种声音：把大学前两年的基础教育独立出来，由初级学院负责，而大学承担更高级的人才培养和研究工作。
1920 年，美国初级学院协会(American Associationof Junior Colleges)正式成立，后来易名为美国社区大学协会(American Association ofCommunity Colleges)，并积极推动“初级学院运动”。此后，社区大学在美国的数量迅速增加。
其后，随着婴儿潮的爆发，入学率急升，传统的四年制大学无法容纳更多的学生，而普通民众也无力承担高昂的大学学费，实用、便宜的社区大学随之蓬勃发展，在职业教育之外承担更多基础高等教育的责任。时至今日，美国社区大学已超过1100所，大多位于居民聚集地，方便就近入学。
社区大学亦有公立私立之分，但85%以上为公立，由政府拨款和当地财政收入作为资金支持。因为花的是本地区纳税人的钱，社区大学主要服务本地居民，收费极低，每学年平均一两千美金，且秉承开放式原则，对待周边居民，几乎来者不拒。
对美国人来说，“公平”接受教育是一道红线，即使教育质量可能有所差别，但受教育权决不允许被挑战。