Linux Memory Layout

1. 리눅스 메모리 구조(Memory Layout)

프로세스 가상메모리의 각 구역이 어떤 정보를 담고 있는지 이해하는 것이 핵심!

📜개요📜

• 세그먼트란
• 코드 세그먼트
• 데이터 세그먼트
• BSS 세그먼트
• 스택 세그먼트
• 힙 세그먼트

 

CPU는 실행할 명령어와 명령어 처리에 필요한 데이터를 메모리에서 읽고, Instruction Set Architecture(ISA)에

따라 이를 처리합니다. 그리고 연산의 결과를 다시 메모리에 적재합니다. 

 

CPU의 동작과 메모리 사이에 밀접한 연관이 있음을 의미

공격자가 메모리를 악의적으로 조작할 수 있다면 조작된 메모리 값에 의해 CPU도 잘못된 동작할 수 있습니다.

이를 메모리가 오염됐다고 표현하며, 이를 유발하는 취약점을 메모리 오염(Memory Corruption) 취약점!

 

---

2. 세그먼트(Segment)

적재되는 데이터의 용도별로 메모리의 구획을 나눈 것

✔️세그먼트 종류

• • 코드 세그먼트(Code Segment)
  • 데이터 세그먼트(Data Segment)
  • BSS 세그먼트(BSS Segment, Block Started By Symbol Segment)
  • 힙 세그먼트(Heap Segment)
  • 스택 세그먼트(Stack Segment)

세그먼트에서의 권한은 읽기, 쓰기, 실행으로 존재하며 CPU는 메모리에 대해 권한을 부여합니다.

예를 들어, 데이터 세그먼트에는 프로그램이 실행되면서 사용하는 데이터를 적재합니다. CPU는 이곳의

데이터를 읽을 수 있어야 하니 읽기 권한을 부여하는 식이지요.

세그먼트를 자세히 이해할려면 OS의 메모리 관리 기법 중 하나인 세그먼테이션 기법과

인텔 x86-64(x64)에 관련된 HW의 설계를 알아야하므로

일단 '실행 중인 프로세스의 메모리가 위와 같이 5개의 영역으로 구분된다..' 정도로만 이해합시다

 

---

코드 세그먼트(Code Segment)

실행 가능한 기계 코드가 위치하는 영역으로 텍스트 세그먼트(Text Segment)라고도 불림

프로그램이 동작하려면 코드를 실행해야 하므로 이 세그먼트에는 읽기 권한과 실행 권한이 부여!

반면, 쓰기 권한은 공격자가 악의적인 코드를 삽입하기 쉬워지므로, 요즘 대부분은 쓰기 권한을 제거함

 

int main() { return 31337; }

 

위 정수 31337을 반환하는 main함수가 컴파일 되면 554889e5b8697a00005dc3라는 기계 코드로변환되는데,

이 기계 코드가 코드 세그먼트에 위치함

 

---

데이터 세그먼트(Data Segment)

컴파일 시점에 값이 정해진 전역 변수 및 전역 상수들이 위치

CPU가 이 세그먼트의 데이터를 읽을 수 있어야 하므로, 읽기 권한이 부여됩니다.

데이터 세그먼트는 쓰기 가능한 세그먼트와 쓰기 불가능한 세그먼트로 다시 분류되는데,

---

쓰기 가능한 전역변수와 같이 프로그램이 실행되면서 값이 변할 수 있는 데이터들이 위치하는 data 세그먼트

쓰기X 프로그램이 실행되면서 값이 변하면 안되는 전역상수처럼 데이터들이 위치하는 rodata(read-only data)세그먼트

---

아래 코드는 데이터 세그먼트에 포함되는 여러 데이터의 유형입니다. 여기서 중요한 변수는 str_ptr입니다.

str_ptr의 문자열은 상수 문자열로 취급되어 rodata에 위치하며 이를 가르키는 str_ptr은 전역 변수로써 data위치

int data_num = 31337;                       // data
char data_rwstr[] = "writable_data";        // data
const char data_rostr[] = "readonly_data";  // rodata
char *str_ptr = "readonly";  // str_ptr은 data, 문자열은 rodata
int main() { ... }

 

---

BSS 세그먼트(Segment, Block Started By Symbol Segment)

컴파일 시점에 값이 정해지지 않은 전역 변수가 위치한 메모리 영역

여기에는 개발자가 선언만 하고 초기화X 전역변수 등이 포함
이 세그먼트의 메모리 영역은 프로그램이 시작될 때, 모두 0으로 값이 초기화

이 세그먼트에는 읽기 권한 및 쓰기 권한이 부여됩니다.

아래 코드에서 초기화되지 않은 전역 변수인 bss_data가 BSS 세그먼트에 위치하게 됩니다.

 

int bss_data;
int main() {
  printf("%d\n", bss_data);  // 0
  return 0;
}

 

위 코드에서 초기화되지 않은 전역 변수인 bss_data가 BSS 세그먼트에 위치하게 됩니다.

이 세그먼트에는 읽기 권한 및 쓰기 권한이 부여됩니다.

 

---

스택 세그먼트(Stack Segment)

프로세스의 스택이 위치하는 영역으로 함수의 인자나 지역 변수와 같은 임시 변수들이 실행중에 여기에 저장

스택 세그먼트는 스택 프레임(Stack Frame)이라는 단위로 사용
함수가 호출될 때 생성되고, 반환될 때 해제

프로그램의 전체 실행 흐름은 사용자의 입력을 비롯한 여러 요인에 영향을 줍니다.

👇유저가 입력한 choice에 따라 call_true()가 호출될 수도, call_false()가 호출 가능

따라서, 어떤 프로세스가 실행될 때 이 프로세스의 스택 프레임 사용을 미리 계산하는 건 일반적으로 불가능함

그래서 OS는 프로세스를 시작할 때 작은 크기의 스택 세그먼트를 먼저 할당해주고, 부족할 때마다 이를 확장함

스택이 확장될 때, 기존 주소보다 낮은 주소로 확장된다는 특징

이 영역에는 CPU가 자유롭게 값을 읽고 쓸 수 있어야 하므로, 읽기와 쓰기 권한이 부여됨

아래 코드에서는 지역변수 choice가 스택에 저장됨

 

void func() {
  int choice = 0;
  scanf("%d", &choice);
  
  if (choice)call_true();
  else call_false();
  
  return 0;
}

 

---

힙 세그먼트(Heap Segment)

힙 데이터가 위치하는 세그먼트

스택과 마찬가지로 실행 중에 동적으로 할당 가능
linux에서는 스택 세그먼트와 반대 방향으로 자람

💡 힙과 스택 세그먼트가 자라는 방향이 반대인 이유?

 두 세그먼트가 동일한 방향으로 자라며, 연속된 메모리 주소에 각각 할당된다고 가정해보면
이 경우, 기존의 힙 세그먼트를 모두 사용하고 나면 확장하는 과정에서 스택 세그먼트와 충돌

 이를 쉽게 해결하기 위해 리눅스는 스택을 메모리의 끝에 위치시키고, 힙과 스택을 반대로 자란다면
힙과 스택은 메모리를 최대한 자유롭게 사용할 수 있으며, 충돌 문제로 부터도 비교적 자유!!

C언어에선 malloc(), calloc() 등이 할당받는 메모리가 이 세그먼트에 해당되며.

일반적으로 읽기와 쓰기 권한이 부여됨

아래 코드는 heap_data_ptr에 malloc()으로 동적 할당한 영역의 주소를 대입하고, 그 영역에 값 사용

heap_data_ptr은 지역변수이므로 스택에 위치하며, malloc으로 할당받은 힙 세그먼트의 주소를 가르킴

 

int main() {
  int *heap_data_ptr =
      malloc(sizeof(*heap_data_ptr));  // 동적 할당한 힙 영역의 주소를 가리킴
  *heap_data_ptr = 31337;              // 힙 영역에 값을 씀
  printf("%d\n", *heap_data_ptr);  // 힙 영역의 값을 사용함
  return 0;
}

---

결론

세그먼트	역할	일반적인 권한	사용 예
코드 세그먼트	실행 가능한 코드가 저장된 영역	읽기, 실행	main() 등의 함수 코드
데이터 세그먼트	초기화된 전역 변수 또는 상수가 위치하는 영역	읽기와 쓰기 또는 읽기 전용	초기화된 전역 변수, 전역 상수
BSS 세그먼트	초기화되지 않은 데이터가 위치하는 영역	읽기, 쓰기	초기화되지 않은 전역 변수
스택 세그먼트	임시 변수가 저장되는 영역	읽기, 쓰기	지역 변수, 함수의 인자 등
힙 세그먼트	실행중에 동적으로 사용되는 영역	읽기, 쓰기	malloc(), calloc() 등으로 할당 받은 메모리

 

---

참고 자료(단, 위 부분은 제가 배운 내용 요약에 가깝기 때문에 거의 위 내용과 같습니다.)

Background: Computer Architecture

참고 이미지

Background: Computer Architecture