공부중/시스템 해킹

[Dreamhack]x86-64 아키텍처

silver surfer 2024. 9. 9.

x86-64 아키텍처: 레지스터

레지스터는 CPU가 데이터를 빠르게 저장하고 사용할 때 이용하는 보관소이며, 산술 연산에 필요한 데이터를 저장하거나 주소를 저장하고 참조하는 등 다양한 용도로 사용된다. x64 아키텍처에는 범용 레지스터(General Register), 세그먼트 레지스터(Segment Register), 명령어 포인터 레지스터(Instruction Pointer Register, IP), 플래그 레지스터(Flag Register)가 존재한다

 

* 범용 레지스터

범용 레지스터는 주용도는 있으나, 그 외의 다양한 용도로 사용될 수 있는 레지스터이다. x86-64에서 각각의 범용 레지스터는 8바이트를 저장할 수 있으며, 부호없는 정수를 기준으로 2^64-1까지의 수를 나타낼 수 있다

자주 쓰이는 범용 레지스터들의 주용도는 다음과 같다. 이외에도 x64에는 r8, r9,...,r15까지의 범용 레지스터가 더 존재한다.

rax (accumulator register)
함수의 반환 값
rbx (base register)
x64에서는 주된 용도 없음
rcx (counter register)
반복문의 반복 횟수, 각종 연산의 시행 횟수
rdx (data register)
x64에서는 주된 용도 없음
rsi (source index)
데이터를 옮길 때 원본을 가리키는 포인터
rdi (destination index)
데이터를 옮길 때 목적지를 가리키는 포인터
rsp (stack pointer)
사용중인 스택의 위치를 가리키는 포인터
rbp (stack base pointer)
스택의 바닥을 가리키는 포인터

 

* 세그먼트 레지스터

x64 아키텍처에는 cs, ss, ds, es, fs, gs 총 6가지 세그먼트 레지스터가 존재하며, 각 레지스터의 크기는 16비트이다. 세그먼트 레지스터는 x64로 아키텍처가 확장되면서 용도에 큰 변화가 생긴 레지스터이다.

과거 IA-32, IA-16에서는 세그먼트 레지스터를 이용하여 사용 가능한 물리 메모리의 크기를 키우려고 했다. 예를 들어 IA-16에서는, 어떤 주소를 cs:offset라고 한다면, 실제로는 cs<<4 + offset의 주소를 사용하여 16비트 범위에서 접근할 수 없는 주소에 접근할 수 있었다. 당시에는 범용 레지스터의 크기가 작아서 사용 가능한 메모리의 주소 폭이 좁았지만, x64에서는 사용 가능한 주소 영역이 굉장히 넓기 때문에 이런 용도로는 거의 사용되지 않는다.

현대의 x64에서 cs, ds, ss 레지스터는 코드 영역과 데이터, 스택 메모리 영역을 가리킬 때 사용되고, 나머지 레지스터는 운영체제 별로 용도를 결정할 수 있도록 범용적인 용도로 제작된 세그먼트 레지스터이다.

 

* 명령어 포인터 레지스터

프로그램은 일련의 기계어 코드들로 이루어져 있다. 이 중에서 CPU가 어느 부분의 코드를 실행할지 가리키는게 명령어 포인터 레지스터의 역할이다. x64 아키텍처의 명령어 레지스터는 rip이며 크기는 8바이트이다.

 

* 플래그 레지스터

플래그 레지스터는 프로세서의 현재 상태를  저장하고 있는 레지스터이다. x64 아키텍처에서는 RFLAGS라고 불리는 64비트 크기의 플래그 레지스터가 존재하며, 과거 16비트 플래그 레지스터가 확장된 것이다. 깃발을 올리고 내리는 행위로 신호를 전달하듯, 플래그 레지스터는 자신을 구성하는 여러 비트들로 CPU의 현재 상태를 표현한다.

RFLAGS는 64비트이므로 최대 64개의 플래그를 사용할 수 있지만, 실제로는 아래 20여개의 비트만 사용한다. 그 중에서도 주로 접하게 될 것은 아래의 표와 같다.

 

CF(Carry Flag)
부호 없는 수의 연산 결과가 비트의 범위를 넘을 경우 설정 됩니다.
ZF(Zero Flag)
연산의 결과가 0일 경우 설정 됩니다.
SF(Sign Flag)
연산의 결과가 음수일 경우 설정 됩니다.
OF(Overflow Flag)
부호 있는 수의 연산 결과가 비트 범위를 넘을 경우 설정 됩니다.

플래그를 사용하는 간단한 예로, 3의 값을 갖는 a와 5의 값을 갖는 b가 있을 때, a에서 b를 빼는 연산을 하면, 연산의 결과가 음수이므로 SF가 설정된다. 그러면 CPU는 SF를 통해 a가 b보다 작았음을 알 수 있다.

 

* 레지스터 호환

앞에서 x86-64 아키텍처는 IA-32의 64비트 확장 아키텍처이며 호환이 가능하다고 했다. IA-32에서 CPPU의 레지스터들은 32비트 크기를 가지며, 이들의 명칭은 각각 eax, ebx, ecx, edx, esi, edi, esp, ebp였다. 호환성을 위해 이 레지스터들은 x86-64에서도 그대로 사용이 가능하다.

앞서 말한 rax, rbx, rcx, rdx, rsi, rdi, rsp, rbp가 이들의 확장된 형태이며, eax, ebx 등은 확장된 레지스터의 하위 32비트를 가리킨다. 예를 들어, eax는 rax의 하위 32비트를 의미한다.

이들 중 몇몇은 다시 상위 8비트, 하위 8비트로 나뉘는데, 이들 전체에 대한 내용은 아래의 그림과 같다.

 

강의 요약🗒️

  • 범용 레지스터(General Register): 주 용도는 있으나, 그 외의 용도로도 자유롭게 사용할 수 있는 레지스터. x64에는 rax, rbx, rcx, rdx, rsi, rdi, rsp, rbp, r8-r15가 있다.
  • 세그먼트 레지스터(Segment Register): 과거에는 메모리 세그멘테이션이나, 가용 메모리 공간의 확장을 위해 사용됐으나, 현재는 주로 메모리 보호를 위해 사용되는 레지스터. x64에는 cs, ss, ds, es, fs, gs가 있다.
  • 플래그 레지스터(Flag Register): CPU의 상태를 저장하는 레지스터
  • 명령어 포인터 레지스터(Instruction Pointer Register, IP): CPU가 실행해야할 코드를 가리키는 레지스터. x64에서는 rip가 있다.

Quiz

Q1. rax = 0x0123456789abcdef 일 때, al의 값은? 

0xef

 

Q2. rax = 0x0123456789abcdef 일 때, eax의 값은?

0x89abcdef

 

Q3. rax에서 rbx를 뺐을 때, ZF가 설정되었다. rax와 rbx의 대소를 비교하시오

==

 

Q4. rax = 0x0123456789abcdef 일 때, ax의 값은?

0xcdef

 

Q5. rax = 0x0123456789abcdef 일 때, ah의 값은?

0xcd

'공부중 > 시스템 해킹' 카테고리의 다른 글

[Dreamhack] x86 Assembly: Essential Part (1)  (0) 2024.09.11
[Dreamhack] Linux memory Layout  (0) 2024.09.09
윈도우 환경 구축/WSL2  (0) 2024.07.13
리눅스<>로컬 pc ssh 연결  (0) 2024.06.30
메모리 구조 이해하기  (0) 2024.03.02

댓글