Mendix Java heap OOM 추적기: base64 이미지 컬럼

• 시리즈 5/16
• 개발
• Mendix 10
• 성능

운영 서버가 목록 조회 중에 반복해서 다운됐다. 로그에는 java.lang.OutOfMemoryError: Java heap space가 남았다. 근본 원인은 사진을 base64로 담은 문자열 컬럼이었다. Mendix는 객체를 조회할 때 모든 속성을 함께 가져오기 때문에, 목록에 쓰지 않는 사진까지 힙에 올라갔다.

추적 순서

1. 로그 끝까지 확보재시작되면 로그가 넘어가므로 다운 직전 로그를 먼저 저장
2. 무엇이 실행 중이었는지 확인CRITICAL 로그에 남은 작업은 업로드가 아니라 목록 조회 XPath였음
3. 왜 무거운지 확인목록에 사진은 안 쓰는데 객체 조회는 모든 속성을 읽음. 테이블 크기 2GB 이상
4. 힙 크기가 어디서 정해지는지 확인빌드팩이 앱 메모리 한도에서 힙을 계산. 설정 파일에 -Xmx 없음
5. 코드와 저장 구조 수정조회 컬럼 축소, 컨텍스트 분리, 사진 저장 방식 변경

# java.lang.OutOfMemoryError: Java heap space
# -XX:OnOutOfMemoryError="kill -s USR2 ..."
INFO  - M2EE: Runtime shutdown requested.
CRITICAL - ActionManager: Error in execution of monitored action
  {"xpath":"//Issue.InspectionIssue[DetectDate >= '...' and DetectDate <= '...']",
   "amount":50, "type":"RetrieveXPathAction"}
java.lang.OutOfMemoryError: Java heap space

힙 크기는 빌드팩이 계산한다

• 빌드팩 버전이 올라가면 같은 메모리 한도에서도 힙이 달라질 수 있음
• limits.mem을 올려도 컨테이너에 배정된 메모리가 그대로면 컨테이너 단에서 강제 종료됨
• 로그 모양으로 구분 가능. OOM 메시지가 남으면 힙 부족, 메시지 없이 끊기면 컨테이너 한도 초과

코드 수정

필요한 컬럼만 OQL로

XPath 조회는 객체 전체를 읽는다. 목록이나 채번처럼 몇 개 컬럼만 필요하면 OQL로 컬럼을 지정한다.

IContext ctx = Core.createSystemContext();
IDataTable t = Core.retrieveOQLDataTable(ctx,
    "SELECT MAX(i.SeqNo) AS maxNo FROM Issue.InspectionIssue AS i WHERE i.Year = 2026");
Long maxNo = t.getRows().isEmpty() ? null : (Long) t.getRows().get(0).getValue(ctx, 0);
long next = (maxNo == null ? 0 : maxNo) + 1;

배치마다 새 컨텍스트

배치로 나눠 조회해도 컨텍스트가 하나면 조회한 객체가 계속 쌓인다. 배치마다 컨텍스트를 새로 만들면 앞 배치 객체가 정리 대상이 된다.

int batch = 10, offset = 0, max = 1500;
JSONArray arr = new JSONArray();

while (offset < max) {
  IContext ctx = Core.createSystemContext();     // 배치마다 새로
  List<IMendixObject> list = Core.createXPathQuery(xpath)
      .addSort("DetectDate", false)
      .setAmount(batch).setOffset(offset)
      .execute(ctx);
  if (list.isEmpty()) break;
  for (IMendixObject o : list) arr.put(toJson(ctx, o));
  offset += batch;
}

근본 조치

• 사진과 첨부는 문자열 컬럼이 아니라 파일 엔티티로 분리
• 목록, 대시보드용 조회는 화면에 쓰는 컬럼만
• 집계는 미리 만든 결과 테이블에서 읽기

관련 글: 6편 Mendix 커밋 롤백, 용량 문제가 아니었다, 7편 Mendix 첫 접속 지연 줄이기

점검 목록

• 무제한 문자열 컬럼에 base64 데이터를 저장하고 있지 않은가
• 대량 조회 코드가 하나의 컨텍스트를 끝까지 쓰고 있지 않은가
• 앱에 실제로 잡힌 힙 크기를 알고 있는가
• 빌드 이미지나 빌드팩 버전이 바뀐 뒤 부하 테스트를 했는가

• #Mendix
• #OutOfMemoryError
• #JavaHeap
• #OQL
• #CloudFoundry
• #성능개선