Alt+ Enterчасто работает (в основном на приложениях DirectX). Это , кажется, традиция больше , чем что - либо другое, но я нашел на удивление большое количество программ его поддержки. Также Escстоит попробовать.
Существует также программа под названием DxWnd, которая разработана специально для этой цели: перевод полноэкранных программ в оконный режим. Я давно этим не пользовался, но он все еще активно развивается, и его стоит попробовать. Первоначально он был разработан и лучше всего работает с DirectX, но, похоже, была добавлена поддержка OpenGL (другая графическая библиотека, похожая на DirectX) и GDI (обычные программы Windows часто используют это). Смотрите здесь для загрузки ссылок.