Vývoj základního operačního systému

Cíle a rozsah vlastního jednoduchého OS

Vytvoření vlastního jednoduchého operačního systému je náročný, avšak mimořádně poučný projekt. Cílem není konkurovat produkčním systémům, ale porozumět jádru konceptů: zavádění, správě paměti, přerušením, plánování procesů, systémovým voláním, základním ovladačům a jednoduchému uživatelskému rozhraní. Tento článek nabízí technickou roadmapu, návrhové vzory a praktické rady, jak se z nuly dopracovat k minimalistickému, ale funkčnímu OS běžícímu na emulátoru či reálném hardwaru.

Volba cílové platformy a architektury

Než napíšete jediný řádek kódu, zvolte CPU architekturu a bootovací ekosystém. Pro studijní projekt se osvědčují:

x86_64 + UEFI/BIOS: nejvíce materiálů, snadné spuštění v QEMU/Bochs, možnost GRUB a specifikace Multiboot.
RISC-V (rv64): čistá ISA, moderní ekosystém, transparentní stránkování, vhodné pro výuku.
AArch64: reálné nasazení v embedded systémech, složitější start (Device Tree, firmware), bohaté možnosti.

Začněte s jednou platformou a deterministickým cílem: „boot na konzoli, výpis textu, inicializace paměti, jednoduchý plánovač vláken, několik systémových volání“.

Nástroje a build řetězec

Cross-kompilátor: vlastní GCC/Clang toolchain (např. x86_64-elf-gcc) pro čisté binární soubory bez závislosti na libc hostitele.
Binutils: ld (linker), objcopy, objdump, nm pro práci s artefakty.
Emulátor: QEMU pro rychlé iterace, Bochs pro pedantskou emulaci; GDB pro vzdálené ladění.
Build systém: Make/CMake + skripty, reprodukovatelný build, verzování konfigurace.
Kontinuální testy: skripty, které OS nabootují v QEMU, validují výstup na sériové konzoli a vrací návratový kód.

Boot proces: od firmware po vaše jádro

Bootovací postup se liší podle firmwaru a architektury:

BIOS (legacy): CPU startuje v real módu (16bit), MBR načte bootloader, ten přepne do protected/long módu a předá řízení jádru.
UEFI: firmware načítá PE/COFF binárku, poskytuje služby (protokoly), vaše EFI aplikace zavolá ExitBootServices a předá kontrolu jádru.
GRUB/Multiboot(2): robustní možnost, kdy GRUB připraví prostředí a předá parametry (mapu paměti, moduly, cmdline) jádru dle specifikace.

V obou případech potřebujete linker script (mapování sekcí do paměti), startovní kód (pro nastavení zásobníku, segmentů, skoku do C) a konvenci pro předání parametrů (Multiboot, Device Tree, UEFI hand-off struktura).

Režimy CPU a přepnutí do long módu (x86_64)

Pro x86_64 je typickým postupem: inicializace GDT, povolení PAE, nastavení tabulek stránek pro identické mapování, zapnutí příznaků CR0/CR4, přepnutí do long módu přes EFER.LME a skok do 64bitového kódu. Následuje inicializace IDT a maskování/konfigurace přerušení.

Správa paměti: fyzická, virtuální a alokátory

Mapa paměti: získejte od firmwaru (UEFI memory map) nebo bootloaderu (Multiboot). Vyřaďte rezervované oblasti.
Fyzický alokátor rámců: bitmapa nebo buddy systém pro přidělování 4 KiB (příp. větších) rámců.
Virtuální paměť: zavedení 4úrovňového stránkování (x86_64: PML4 → PDPTE → PDE → PTE), mapování jádra do vyšších adres.
Kernel heap: jednoduchý slab/zone alokátor nebo buddy + slab pro malé objekty; pozor na fragmentaci a zacyklení při alokaci během obsluh přerušení.

Přerušení, výjimky a časování

IDT: instalace bran pro výjimky (dělení nulou, page fault) a hardwarová IRQ.
Řadiče přerušení: PIC (8259) pro legacy systémy, APIC/IOAPIC a LAPIC timer pro moderní SMP; v UEFI prostředí preferujte HPET/HPET MSI.
Časovače: PIT (8253) pro jednoduchost, HPET pro přesnost, TSC deadline timer pro nízkou režii.

Ovladače základních zařízení

Startovní OS si vystačí s minimem:

Konzole: textový režim (VGA) nebo sériová linka (16550 UART) pro výpis logů a příkazovou řádku.
Úložiště: začněte s RAM diskem a později přidejte AHCI (SATA) nebo virtio-blk (v QEMU).
Vstup: PS/2 klávesnice nebo virtio-input; mapování scancode → klíč.
Síť: odložte na později, případně virtio-net pro jednoduché rámce.

Souborové systémy: od RAMFS k FAT

Pro první iteraci je praktický RAMFS – jednoduchý strom v paměti s pevně zabudovaným obsahem. Pro persistenci přidejte čtečku FAT12/16/32 (snadná specifikace, vhodná pro bootovací média). Interně definujte VFS vrstvu (inode, dentry, superblock) a oddělte ji od ovladačů blokových zařízení.

Procesy, vlákna a plánování

Model adresního prostoru: jeden globální kernel space + oddělené user space mapy pro procesy.
Vlákna: kernelové kontexty s vlastními zásobníky; přepínání kontextu na tick/událost.
Plánovač: nejprve round-robin s kvantem, později priority/plánovač s vrstvami (interaktivní vs. batch).
Synchronizace: spinlocky v jádře, semafory/mutexy pro subsystémy; pozor na priority inversion.

Systémová volání a ABIs

Návrh malého, čistého API je klíčový. Začněte s voláními: write (na konzoli/soubor), read, open/close, fork/exec/exit (nebo jednodušší spawn), sleep, gettime, mmap/brk. Zvolte volací konvenci (x86_64 SysV: registry rdi, rsi, rdx, r10, r8, r9 a rax pro číslo volání) a bránu (instrukce syscall/sysret nebo int 0x80 pro start).

Uživatelský prostor a minimalistická knihovna

Pro spuštění uživatelských programů vytvořte základní libc subset (např. printf, malloc/free, string.h), jednoduchý loader (ELF64 parser) a shell – i kdyby pouze se sadou interních příkazů. Programy kompilujte cross-kompilátorem proti vaší libc.

Bezpečnostní pilíře od první iterace

Izolace: uživatelský režim vs. kernel (ring3/ring0), NX bit, oddělené stránkování, kontrola přístupu do I/O portů.
Validace vstupů: pečlivě kontrolujte parametry systémových volání a hranice bufferů.
Neprivilegované API: rozhraní, která nevyžadují přímý přístup k hardwaru (VFS, device files).
Audit a logování: sériová konzole, kruhové buffery, jednoduché úrovně logů.

Debugging a testování

GDB remote: spuštění QEMU s příznaky pro ladění a připojení GDB; breakpointy v startu i v jádře.
Symboly a mapy: generujte symboly, udržujte mapu adres pro rychlé vyhledávání pádů.
Smoke testy: skripty, které při každém buildu ověří „boot → prompt → spuštění testu → návratový kód“.

Modularita a správná separace vrstev

Udržujte jasné hranice: architektura (arch-specifický kód), HAL (abstrakce hardwaru), jádro (správa paměti, plánovač, IPC), VFS/ovladače, uživatelský prostor. Striktní rozdělení minimalizuje vazby, usnadňuje portování a testování.

IPC a synchronizace procesů

Pro jednoduchý OS postačí pipes a signály. Později přidejte message queues nebo sdílenou paměť s pojmenovanými semafory. Důsledně zvažte preempci a priority, aby IPC nevedlo k hladovění vláken.

Správa času a časových pásem

Zaveďte monotónní čas (pro plánování a timeouty) a reálný čas (RTC) pro časová razítka. Udržujte tickless režim, kde je to možné, abyste šetřili CPU.

Jednoduché grafické prostředí (volitelné)

Po stabilizaci jádra lze přidat framebuffer driver (VBE/UEFI GOP) a minimalistický kompozitor. Začněte s „Hello pixel“ a kreslením fontu; grafické UI však významně komplikuje správu vstupů, kompozici oken a bezpečnost.

Formáty binárek a loader

Doporučený formát je ELF64. Loader mapuje segmenty do paměti, nastaví entry point, předá argv/envp a vytvoří počáteční vláknový kontext. Přidejte ASLR až později; vyžaduje entropii a adekvátní mapování knihoven.

Rozšíření: SMP a více jader

Po zprovoznění jádra na jednom CPU aktivujte ostatní jádra (AP bring-up), nastavte per-CPU struktury a lokální časovače. Plánovač musí být škálovatelný (run-queue per CPU) a synchronizace musí počítat s lock contention.

Minimalistická politika napájení a úsporné režimy

I v jednoduchém OS můžete implementovat instrukci pro usínání CPU mezi ticky (např. hlt na x86), případně základ ACPI pro vypnutí/restart. Pokročilejší P-states/C-states ponechte na pozdější iterace.

Distribuce, balení a spouštění

ISO/IMG: vytvořte bootovatelné ISO s GRUB nebo UEFI aplikací; přidejte kernel a initramfs/RAM disk.
Konfigurační soubory: grub.cfg či UEFI boot entries; volby jádra v cmdline (např. root=ramfs).
Artefakty: publikujte debug symboly, mapy, dokumentaci ABI.

Licencování a třetí strany

I pro studijní OS zvažte licenci (MIT/BSD/GPL) a původ kódu (včetně fontů, mikroknihoven či obrázků). Vyhněte se kopírování produkčních zdrojových kódů bez souladu s licencemi.

Roadmapa implementace krok za krokem

Boot minimum: text na konzoli, vlastní linker script, start v long módu.
IDT a výjimky: obsluha page fault, časovač, základní IRQ.
Fyzická a virtuální paměť: alokátor rámců, mapování kernelu, jednoduchý heap.
Konzole a I/O: sériová linka, základní ovladač klávesnice.
Vláknový plánovač: kontextové přepínání, timerová preempce, synchronizace.
Systémová volání: jádrové API, přechod do user space, „Hello world“ proces.
VFS a RAMFS: soubory, adresáře, file descriptory; později FAT reader.
Loader ELF: spouštění binárek, jednoduchá libc, shell.
Testy a ladění: CI skripty, GDB scénáře, regresní sady.
Rozšíření: SMP, virtio-blok/síť, IPC, základní bezpečnostní politiky.

Výkonnost a profilace

Měřte čas přepnutí kontextu, latenci přerušení, propustnost I/O a režii synchronizačních primitiv. Přidejte jednoduchý profiler (počítadla cyklů, časomíry). Mikrooptimalizace odkládejte až po dosažení funkční stability.

Spolehlivost a zotavení z chyb

Implementujte panic handler s výpisem registrů, stack trace a bezpečný reboot. Chybové kódy vracejte konzistentně, alokace obalujte ochrannými objekty, dbejte na restartovatelnost subsystémů (např. ovladačů) bez nutnosti tvrdého resetu.

Dokumentace a udržitelnost

Každý subsystém (MM, IRQ, VFS, scheduler) doplňte krátkým design dokumentem, diagramem datových struktur a popisem veřejných rozhraní. Vytvořte vývojářskou příručku pro přispěvatele a pravidla stylu k