Основи: пам'ять, процеси та інструменти

Що таке реверс-інжиніринг і з чого починається практика

Програма, яку ви запускаєте, — це машинний код і дані в пам'яті. Вихідного коду в користувача немає, але гра зберігає здоров'я, набої та координати в оперативній пам'яті, а процесор виконує зрозумілі команди. Реверс-інжиніринг навчає знаходити ці дані й команди та розуміти, що вони означають.

Де це застосовують

• Аналіз шкідливого коду. Аналітик розбирає вірус, щоб написати для нього захист.
• Безпека. Пошук вразливостей у програмах, для яких нема коду.
• Сумісність. Підтримка старого ПЗ і драйверів, документація яких загубилася.
• Моддинг і навчання. Розширення ігор, дослідження того, як працюють їхні механіки.
• Розробка антічітів. Щоб захистити гру, треба знати, як її ламають.

Ігри обирають для навчання, бо результат видно одразу: змінили число в пам'яті, і здоров'я на екрані змінилося.

Правові та етичні межі

Правило курсу: усі експерименти виконуються лише над програмами, які ви запускаєте локально й дозволяєте досліджувати:

1. Власна гра-мішень з цього курсу, її код ми пишемо самі.
2. AssaultCube — вільна гра з відкритим кодом, створена для спільного тренування. Запускаємо її тільки в одиночному режимі або на власному сервері.

Те, що ви навчитеся робити, застосовується однаково, але проти чужих серверів курс це не використовує.

Огляд курсу

Підготовка

Потрібне знання C++ на рівні вказівників і структур. Достатньо тем курсу C++ про вказівники й структури. Код лабораторних лежить у репозиторії в labs/reverse-engineering/.

Процеси, віртуальна пам'ять і доступ до чужого процесу

Коли гра виконує new Player, вона отримує адресу на кшталт 0x103231a70. Це віртуальна адреса: її бачить лише цей процес, а ядро ОС відображає її на реальну фізичну пам'ять. Інший процес із такою самою адресою звертається до власних даних.

Звідси два наслідки. Тренер не може просто прочитати вказівник гри. Йому потрібен дозвіл ядра: спеціальний виклик, який каже «прочитай N байтів за адресою A у процесі з PID X».

З чого складається процес

Глобальні змінні гри мають стабільну адресу відносно початку програми. Об'єкти в купі (гравець, вороги) отримують нову адресу при кожному запуску. Різниця між цими двома випадками — основа розділу про ланцюжки вказівників.

Як прочитати пам'ять іншого процесу

HANDLE h = OpenProcess(PROCESS_VM_READ | PROCESS_VM_WRITE | PROCESS_VM_OPERATION,
                       FALSE, pid);
int32_t hp;
ReadProcessMemory(h, (LPCVOID)addr, &hp, sizeof(hp), nullptr);

iovec local{&hp, sizeof(hp)};
iovec remote{(void*)addr, sizeof(hp)};
process_vm_readv(pid, &local, 1, &remote, 1, 0);

mach_port_t task;
task_for_pid(mach_task_self(), pid, &task);
mach_vm_size_t got;
mach_vm_read_overwrite(task, addr, sizeof(hp), (mach_vm_address_t)&hp, &got);

Схема однакова: отримати дозвіл на процес (дескриптор, pid, mach-порт), потім читати й писати байти за адресою. Різниця лише в умовах отримання дозволу.

Ці обмеження існують навмисно: вони не дають довільній програмі лізти в чужі процеси. У нашому курсі гра й тренер збираються локально без hardened runtime, тому достатньо sudo.

Інструменти: що встановити на Windows, Linux і macOS

Набір інструментів

Cheat Engine працює лише на Windows. На Linux і macOS ту саму ідею виконують scanmem та власний сканер, який є в репозиторії. Ghidra — безкоштовний дизасемблер, однаковий на всіх ОС.

sudo apt install build-essential cmake gdb scanmem
sudo sysctl kernel.yama.ptrace_scope=0   # лише на навчальній машині

xcode-select --install
brew install cmake

Збірка гри-мішені та тренера

cd labs/reverse-engineering/target-game
cmake -S . -B build && cmake --build build
./build/target_game

cd labs/reverse-engineering/trainer
cmake -S . -B build && cmake --build build

Гра виводить свій PID і команди керування. З параметром --show-addr вона додатково друкує адреси Game* та Player*. Це підказка для самоперевірки; у перших розділах параметр не вмикайте.