Redhat 7.1부터 quota의 그룹적용 화일이 aquota.group로 변경이
되었지요.

적용마운트 포인트가 /home이라면 /home에 aquota.group이
있어야겠죠
퍼미션은 600으로 주시구요(확인)


checkquota의 옵션은 아래와 같으니 참고하시고요

-a 디스크 할당량이 있는 모든 파일 시스템과 /etc/filesystems
파일로 지정된 읽기-쓰기 사용 권한을 검사합니다. 
-g 그룹 할당량만 검사합니다. 
-u 사용자 할당량만 검사합니다. 
-v 디스크 할당량의 계산값과 기록된 값 사이의 불일치를
보고합니다. 

checkquota -aguv /home하시면 되겠네요