IntelliJ 메모리 부족·느려짐 해결: IDE 힙과 빌드 힙, Gradle JVM 구분하기

2026년 8월 14일 IntelliJ IDEA 공식 문서 기준입니다. IntelliJ IDEA를 쓰다 보면 "느려졌다", "멈춘다", "메모리 부족" 경고가 뜨는 경우가 있습니다. 하지만 원인은 IDE 자체를 구동하는 JVM, 코드를 컴파일하는 빌드 프로세스 JVM, 사용자가 실행한 애플리케이션이나 Gradle 데몬 JVM 중 하나일 수 있습니다. 세 영역을 구분하지 않고 힙을 무작정 키우면 증상은 남고 시스템 메모리만 더 많이 사용할 수 있습니다.

빠른 결론 3줄

IDE 화면 전체가 느리면 Help > Change Memory Settings에서 IDE JVM의 최대 힙을 확인합니다.
컴파일할 때만 실패하면 Settings > Build, Execution, Deployment > Compiler의 빌드 프로세스 힙을 확인합니다.
실행한 앱이나 Gradle 작업의 OutOfMemoryError라면 Run/Debug VM options 또는 gradle.properties를 따로 조정합니다.

먼저 세 가지 메모리를 구분하세요

JetBrains는 IDE를 실행하는 힙과 애플리케이션을 컴파일하는 힙이 같지 않다고 안내합니다. 증상이 발생하는 시점을 아래 표와 대조하면 잘못된 설정을 건드릴 가능성을 줄일 수 있습니다.

IDE JVM 힙	IntelliJ 자체	Help > Change Memory Settings	편집기 입력·검색·인덱싱 후 전반적 지연
빌드 프로세스 힙	IntelliJ 컴파일러	Settings > Compiler	컴파일 중 메모리 오류
실행 앱·Gradle JVM	Run 구성 또는 Gradle 데몬	Run/Debug VM options, gradle.properties	앱 실행 또는 Gradle 빌드 중 OutOfMemoryError

1. IDE 자체 힙 크기 조정

1. 상태 표시줄을 마우스 오른쪽 버튼으로 누르고 Memory Indicator를 켭니다.
2. 메인 메뉴에서 Help > Change Memory Settings를 엽니다.
3. 표시되는 최대 힙 값을 확인하고 필요한 만큼 조정합니다.
4. Save and Restart를 눌러 IntelliJ IDEA를 재시작합니다. 이 메뉴는 IDE를 실행하는 JVM의 -Xmx 값을 변경합니다.

Low Memory 경고가 나타났다면 경고 창의 Adjust memory options를 사용할 수도 있습니다. 적정값을 확신하기 어렵다면 JetBrains가 제안하는 값을 출발점으로 삼고, 재시작 후 메모리 인디케이터와 운영체제 작업 관리자를 함께 확인하는 편이 안전합니다.

2. 컴파일 빌드 프로세스 힙 조정

1. Settings(Ctrl+Alt+S) > Build, Execution, Deployment > Compiler로 이동합니다.
2. Shared build process heap size를 확인합니다.
3. 팀과 공유할 값은 Shared heap size에, 현재 사용자와 프로젝트에서만 쓸 값은 User-local heap size에 입력합니다.
4. User-local VM options에 Xmx<숫자>m를 적으면 공유 옵션보다 우선할 수 있으므로 두 필드를 함께 확인합니다.

이 설정은 IntelliJ 기본 컴파일러의 별도 빌드 프로세스에 적용됩니다. Gradle을 빌드 러너로 사용하는 프로젝트라면 다음 단계의 Gradle JVM 메모리를 확인해야 합니다.

3. 실행 앱과 Gradle JVM 메모리 확인

1. 사용자가 실행한 Java 앱이 메모리 부족으로 종료되면 Run > Edit Configurations를 엽니다.
2. 해당 실행 구성을 선택하고 Modify options > Add VM options에서 앱 JVM의 -Xmx를 지정합니다. IDE 힙을 바꿔도 실행 앱 힙은 바뀌지 않습니다.
3. Gradle 데몬 메모리는 프로젝트 또는 Gradle 사용자 홈의 gradle.properties에서 org.gradle.jvmargs=-Xmx2048m처럼 설정합니다. Gradle 공식 문서의 기본값은 -Xmx512m이며, 프로젝트 규모와 실제 사용량을 보고 조정해야 합니다.
4. Gradle JVM 버전은 Settings > Build, Execution, Deployment > Build Tools > Gradle에서 별도로 선택합니다. 힙 크기와 JDK 호환성은 다른 문제입니다.

Gradle의 JDK 버전 오류가 함께 보인다면 IntelliJ Gradle JVM 버전 오류 해결 글을 먼저 확인하세요.

주의사항

• -Xmx를 시스템 전체 메모리에 가깝게 크게 잡지 마세요. IDE·빌드·실행 프로세스가 동시에 큰 힙을 요구하면 운영체제 스와핑 때문에 더 느려질 수 있습니다.
• 설치 폴더의 기본 vmoptions 파일을 직접 수정하지 마세요. 필요하면 Help > Edit Custom VM Options로 복사본을 만들어 변경합니다.
• -Xms는 초기 힙, -Xmx는 최대 힙입니다. -Xms가 -Xmx보다 크면 시작 오류가 날 수 있습니다.

그래도 느릴 때 추가 점검

• Toolbox App으로 설치했다면 해당 IDE의 Settings > Configuration > Maximum heap size도 확인하고 재시작합니다.
• Settings > Plugins에서 최근 추가한 플러그인을 일시 비활성화해 원인을 분리합니다.
• 큰 파일은 편집기 기능과 메모리 소비에 영향을 줄 수 있으므로 로그·덤프 파일을 IDE에서 계속 열어 두지 않습니다.
• 컨테이너 실행 문제는 Docker 포트 충돌 해결 글, 원격 저장소 인증 실패는 Git push PAT 설정 글처럼 별도 원인을 확인합니다.

FAQ

Q1. Xmx를 크게 잡으면 IntelliJ가 항상 빨라지나요?

아닙니다. 최대 힙은 사용할 수 있는 상한일 뿐이며, 물리 메모리가 부족하면 스와핑과 긴 정리 작업으로 오히려 느려질 수 있습니다. 실제 사용량을 보고 단계적으로 조정하세요.

Q2. Shared build process heap size를 늘렸는데 Gradle 빌드가 그대로입니다.

Gradle을 빌드 러너로 사용하면 IntelliJ 컴파일러 힙이 아니라 Gradle 데몬의 org.gradle.jvmargs를 확인해야 합니다. 어떤 빌드 러너를 쓰는지 먼저 확인하세요.

Q3. 앱 실행 중 OutOfMemoryError가 나면 IDE 메모리를 늘리나요?

아닙니다. IDE JVM과 실행 애플리케이션 JVM은 별도 프로세스입니다. 해당 Run/Debug 구성의 VM options를 조정해야 합니다.

공식 출처

• JetBrains: Increase the memory heap of the IDE
• JetBrains: Compiler settings와 build process heap
• JetBrains: IntelliJ IDEA JVM options
• Gradle User Manual: Configuring JVM memory