他“希望通过实验找到建设中国农村并使农村现代化的最好方法和技术”，同时开始综合的社会改造试验，实行文艺教育、生计教育、卫生教育、公民教育“四大教育”连锁并进，学校式、家庭式、社会式“三大方式”统筹进行，史称“定县实验”。
他号召知识分子“走出象牙塔，住进泥巴屋”，1929年，他带上妻子和4个孩子，从北平迁居到定县。在他的带领下，一大批知识分子来到定县乡村，展开了旨在“培育国本，振兴民族”的平民教育与乡村建设实验。
晏阳初认为教育不能孤立存在，必须与建设合谋，教育为建设服务，建设反过来促进教育。所以，在“定县实验”中，更多的是建设工作，比如品种的改良，灌溉工具的改良，棉花购销合作社的组织，乡村保健室的设立，而教育则蕴涵在这些建设工作之中……
经过几年的努力，“定县实验”探索出了成就，影响轰动国内外，络绎不绝的人来定县参观考察。1930年，国民政府首次把民众教育列入国家法规。他随即表示愿在乡村教育上与政府合作，不断游说政府，加大对民众教育的投入。