Background: Binary

Program

연산장치가 수행하는 동작을 정의한 일종의 문서!

연산 장치에 전달하면, CPU는 적혀있는 명령들을 처리하여 프로그래머가 의도한 동작 수행

사용자가 정의한 프로그램을 해석하여 명령어를 처리할 수 있는 연산 장치(programmable)
현대 PC는 대표적 programmable 연산장치, 일반계산기는 대표적인 non-programmable

운영체제 발전과정

자세한 역사는 위 링크를 보시면 되요, 다 설명하기 힘드니까 ㅠ

또한 많은 프로그래머들은 프로그램을 바이너리라고도 부르는데 이는 

"Stored-Program Computer에서 프로그램이 저장 장치에 이진(Binary) 형태로 저장됨!"

자세한 내용을 보실거면 밑에 링크로 들어가셔서 초반 부분만 보세요 ㅎ

Computer Architecture

---

Compile & Interpreter

연산장치가 수행하는 동작을 정의한 일종의 문서!

프로그램은 저급언어(어셈블리어 등)와 고급언어(C 등)나누어짐

컴파일러(Compiler)

CPU가 수행해야 할 명령들을 프로그래밍 언어로 작성한 것 = 소스 코드(Source Code)
이를 컴퓨터가 이해할 수 있는 기계어의 형식으로 번역하는 것 = 컴파일(Compile)
컴파일을 해주는 소프트웨어는 컴파일러(Compiler)라고 불리는데, 대표적으로 GCC, Clang, MSVC!

한번 컴파일되면 결과물이 프로그램으로 남기 때문에 언제든지 이를 실행하여 같은 명령을 처리가능!

그러나 모든 언어가 컴파일이 필요한건 아니며, 대표적으로 Python, JavaScript 등의 언어가 있습니다.

인터프리터(Interpreter)

User(I/O, script) 그때마다 번역해 프로그래밍 언어로 작성한 것 = 인터프리팅(InterPreting)
인터프리팅을 해주는 소프트웨어는 인터프리터(Interpreter)

여기선 윈도우 PE 바이너리의 리버스 엔지니어링만 다룬다네요

배경지식으로 C소스 코드가 어떻게 실행파일(PE)로 되는 지 확인합시다.

Tip) 윈도우 실행파일로 생성 시 MSVC 사용이지만 linux는 GCC로 사용 가능

---

Compile 과정

C는 전처리 → 컴파일 → 어셈블 → 링크 형식으로 됨

아래 코드를 통해 컴파일 형식으로 확인해볼까요?

---

// Name: add.c
#include "add.h"
#define HI 3

int add(int a, int b) { return a + b + HI; }  // return a+b

---

// Name: add.h
int add(int a, int b);

---

컴파일 과정 속에 컴파일

💡컴파일(Compile) : 어떤 언어로 작성된 소스코드 → 다른 언어의 목적 코드로 번역!
이런 맥락에서 소스 코드 → 어셈블리어 / 소스 코드 → 기계어 로 번역하는 거 모두 컴파일!

---

전처리

컴파일러가 소스 코드 → 어셈블리어로 컴파일하기 전에, 필요한 형식으로 가공 과정

언어마다 다르지만 컴파일 언어 대부분은 이와 같이 전처리 과정을 거침

1. 주석 제거 : 개발자들의 코드 이해를 돕는 메모지
   - 주석은 프로그램의 동작과 상관이 없으므로 전처리 단계에서 모두 제거
2. 매크로 치환 : #define 으로 정의한 메크로는 자주 쓰는 코드나 상숫값을 단어로 정의
   - 전처리 과정에서 매크로의 이름은 값으로 치환
3. 파일 병합 : 일반적인 프로그램은 여러 개의 소스와 해더파일로 구성
   - 컴파일러는 이를 따로 컴파일해 병합하지만, 어떠한 경우는 전처리 단계에서 파일을 합치고 컴파일

gcc -E add.c > add.i 옵션으로 소스 코드의 전처리 결과를 확인 가능

결과를 보면

- 주석인 //return a+b가 사라짐
- HI(상수)가 3으로 치환됨 
- add.h의 내용이 #include에 의해 병합됨(위 #값이 0인 애들..)

---

컴파일(Compile)

C로 작상된 소스 코드를 어셈블리어로 번역하는 것

이 과정에서 컴파일러는 소스 코드의 문법을 검사하는데, 코드에 문법적 오류 시 컴파일을 멈추고 에러 출력함

또한, 몇몇 조건을 만족하면 최적화 기술을 적용한 효율적인 어셈블리 코드를 생성함

💡Tip. gcc에서는 -O -O0 -O1 -O2 -O3 -Os -Ofast -Og 등의 옵션을 통해 최적화 가능

예시로 아래 이미지를 보면 아실겁니다. 최적화하면..

// Name: opt.c
// Compile: gcc -o opt opt.c -O2
 
#include <stdio.h>
 
int main() {
 
  int x = 0;
  for (int i = 0; i < 100; i++) x += i; // x에 0부터 99까지의 값 더하기
  printf("%d", x);
}

컴파일러는 반복문을 어셈블리어로 옮김 X, 반복문의 결과를 x가 가질 값으로 직접 계산하여, 이를 대입!

이를 통해 사용자 작성한 소스 코드와 연산 결과가 같지만, 최적화를 하여 실행시간도 단축하는 어셈블리어 코드 완성!!

gcc -S add.i -o add.S
Tip) gcc -o 실행파일명 코드파일명 or gcc 코드파일명 -o 실행파일명

아래와 같이 "-S" 옵션을 이용하면 소스 코드를 어셈블리 코드로 컴파일할 수 있음!!

---

어셈블

컴파일로 생성된 어셈블리어 코드를 ELF형식의 목적 파일로 변환 과정!

리눅스의 실행파일 형식은 ELF / 윈도우는 목적 파일은 PE파일

목적 파일로 변환되고 나면 어셈블리 코드가 기계어로 번역되기에 해석이 불가하죠..ㅠ

gcc -c add.S -o add.o
file add.o
hexdump -C add.o

뭐, 그렇다고 일을 수 있는 코드가 나오는 건 아니기에 16진수로 확인용으로..  

끝에 ELF라고 실행 파일이라고 뜨고 버전 및 환경 그리고 메모리 보안 조건 다 나오죠 ㅎ

---

링크

여러 목적 파일들을 연결하여 실행 가능한 바이너리로 만드는 과정

링크가 필요한 이유를 다음 코드로 보여드릴께요

// Name: hello-world.c
// Compile: gcc -o hello-world hello-world.c
 
#include <stdio.h>
 
int main() { printf("Hello, world!"); }

 위 코드에선 printf 함수를 호출하지만, printf 함수의 정의는 hello-world.c가 없으며,
libc라는 공유 라이브러리에 존재합니다.

 libc는 gcc의 기본 라이브러리 경로에 있으며, 링커는 바이너리가 printf를 호출하면
libc의 함수가 실행할 수 있게 연결해줍니다. 링크를 거치고 나면 실행 가능 프로그램 완성!

다음은 add.o를 링크한 명령어이며, 링크 과정에서 링커는 main함수를 찾는데 여기선 없으니..

에러가 발생할 수 있으므로 이를 방지하기 위해 --unresolved-symbols를 컴파일 옵션에 추가해요

참고로 linker는 쓰기 힘들 수 있는데.. 어느 심볼명을 찾을 수 없는지는 공식 문서에서 확인해가며, 코드 기입..ㅠ

Compiler Reference Guide: --unresolved=symbol

gcc add.o -o add -Xlinker --unresolved-symbols
file add

---

디스어셈블(디셈블) & 디컴파일

디스어셈블(Disassemble) : 어셈블리어를 재번역하는 과정으로 어셈블의 역과정
디컴파일러(Decompiler) : 어셈블리어보다 고급 언어로 바이너리 번역

탄생 배경

---

디스어셈블(Disassemble)의 탄생배경

바이너리를 분석하려면 바이너리를 읽어야하는 것처럼 컴파일된 프로그램 코드는

기계어로 되어 있기에 이해하기 어려우므로, 분석가들은 어셈블리어를 재번역해 분석하기 위함!

01

디컴파일러(Decompiler)

디셈블의 기술로 바이너리 분석이 이전보다 용이해졌으나, 규모가 큰 바이너리에선...

그래서 리버스 엔지니어들은 어셈블리어보다 고급 언어로 바이너리를 분석하기로 해 개발!

어셈블리어와 기계어는 거의 1대1로 대응되어 오차없는 디셈블을 개발가능하나, 고급언어와 어셈블리어 사이엔 이런 대응관계가 없어요.. 또한 코드의 일부분은 최적화로 완전히 변영되죠

 이런 어려움 때문에 분석 효율을 높을라면 디셈블이 유리하죠 특히 요즘은 Hex Rays, Ghidra를 비롯한 뛰어난 디컴파일러들이 개발되어 분석의 효율도 높여주어요

---

정리

• 프로그램 : 컴퓨터가 실행해야 할 명령어의 집합, 바이너리라고도 불림
• 전처리 : 소스 코드가 컴파일에 필요한 형식으로 가공되는 과정
• 컴파일 : 소스 코드를 어셈블리어로 번역하는 과정
  
  
• 어셈블 : 어셈블리 코드를 기계어로 번역하고, 실행 가능한 형식의 변형하는 과정
• 링크 : 여러 개의 목적 파일을 하나로 묶고, 필요한 라이브러리와 연결해주는 과정
• 디셈블 : 바이너리를 어셈블리어로 번역하는 과정
  
  
• 디컴파일: 바이너리를 고급 언어로 번역하는 과정

gcc 참고 자료

012

---

참고 자료

Background: Binary

참고 이미지

Background: Binary

출처

---

Diagnostic free icons designed by surang

C언어 컴파일 과정/C 컴파일 과정 - 사좋배 공유

Coding free icons designed by prettycons