Minix - отличный выбор и описан в одном из других ответов.
Xinu
Также рассмотрим XINU - XINU - это не Unix.
Это также UNIX пишется в обратном направлении.
Есть книга Дугласа Комера, которая, как мне показалось, была хорошо написана, хорошо проиллюстрирована и хорошо проработана.
Существует встроенный Xinu и веб-сайт о преподавании с помощью Xinu.
http://xinu.mscs.mu.edu/Teaching_With_Xinu
FreeRTOS
FreeRTOS - еще одна небольшая ОС, которая в наши дни очень любит. Он работает практически на всем. Если вы пришли с Марса и у вас не было процессора или платы eval, на которой он не работает, вы можете прочитать около 10 страниц документации, изменить около пяти файлов, связанных с прерываниями, таймерами и UART, и вы будете работать.
http://www.freertos.org/
Они утверждают, что он поддерживает 31 архитектуру и 18 цепочек инструментов. Мой опыт в конце 2009 года был хорошим, и я слышал, что с тех пор он значительно улучшился.
Другие ссылки
Подобные вопросы, которые могут иметь полезную информацию для вас, находятся здесь:
/programming/254149/how-do-you-write-a-basic-operating-system
Linux и многие другие разработки операционных систем находятся под влиянием UNIX, так что это видео, где первоначальные дизайнеры (Керниган, Ричи, Томпсон и другие) являются одновременно информативными и получают идеи дизайна прямо из источника.
http://techchannel.att.com/play-video.cfm/2012/2/22/AT&T-Archives-The-UNIX-System
Существует классический, но часто пересматриваемый учебник по операционным системам:
Silberschatz, Galvin, Gagne: концепции операционной системы, 7-е издание
Там могут быть более новые издания тоже. Я редко делаю ссылки на книги через продавца книг, но предварительный просмотр очень щедрый, поэтому, чтобы узнать больше об операционных системах, пожалуйста, проверьте:
http://www.amazon.com/Operating-System-Concepts-Abraham-Silberschatz/dp/0470128720