다음을 확인해 보세요. 1. 메모리 확장이 설정되지 않았는지 -> 쓰신 글을 보니 다음의 방법은 사용하신 것 같네요.
cplex.setParam(IloCplex::WorkMem,1024); //Default 128MB => 1024 메가바이트(1GB)를 할당하도록 변경한 예 입니다. . cplex.setParam(IloCplex::MemoryEmphasis,1); => 메모리 사용을 효율화해서 큰 문제를 풀 수 있습니다.
2. 구현상의 문제점이 있는지 -> 소스 코드 내 변수 메모리 해제나, concert library사용시 env.end()를 통한 메모리 해제가 효율적으로 구현되었는지 체크해야 합니다.
3. 너무 많은 결정변수를 생성하게 구성한 모델링인지 -> 결정변수의 개수가 너무 많은 경우 많은 메모리를 사용하게 됩니다. 데이터를 확인해 보시고 너무 큰 모델을 구성한 게 아닌지 체크하시고, 모델링 변경을 고려해 보셔야 될 것 같습니다.