Я, конечно, не спец, но немного с этим вопросом знаком.
Движок нужно выбирать заходя с самого конца - какой жанр вы хотите получить на выходе. Шутер, стратегия, РПГ, онлайн-проект. И исходя из количества мануалов по данному движку.
3D-моделеры. Есть тут (в игростроении) такой нюанс, что модельки в максе или майе делать и не нужно. Для этого может подойди MudBox или Zbrash. Делается высокополигональная модель, потом попросту проводят ретопологию и мы имеем меш (игровой объект) с тысячью фэйсов, к примеру (фэйсы - кол-во треугольников, которое будет отрисовываться), но с текстурой снятой с высокополигональной модели. Выглядит, практически, один-в-один. Итог - в майе/максе мы не работали, мы попросту как художник из куска виртуальной глины сделали игровой объект.
Это на счёт моделей.
Второе - куда веселей. Сам движок. Вот тут и встает проблема и основной подводный камень, о который разбиваются все начинания.
Двигов множество, но я остановлюсь на трех основных - UDK, CryEngine, Unity.
UDK. Он же UnrealEngine.
Сделанные на нём игры:
РПГ - Mass Effect, Borderlands.
Онлайн - множество корейских гриндилок, из более-менее известного - Terra Online.
Первый движок с которого у меня началось знакомство с игростроением.
Плюсы - прост в освоении, множество возможностей, большое количество мануалов (с некоторым исключением, который я опишу ниже).
Минусы - собственный язык программирования (UnrealScript) и малое количество мануалов именно по нему (это и есть то исключение).
UDK прост, великолепен… не стабилен. Часто вылетает. Но в нём есть всё, что необходимо для разработки игр. Основная направленность - шутеры. Если делать что-то другое, вот тут то и встаёт проблема UDK - нет мануалов по скриптам. Вернее, их очень мало. Пока люди делают модели, мир, расставляют триггеры и события всё нормально… когда же дело касается квестов тут то и приходит время схватится за голову. Не описано как это сделать. Попросту нет. Сделаю примечание - сложные квесты. Что-то типа - принеси/убей можно сделать с помощью Kismet - приблуды UDK для визуального скриптописания. Берем блоки, соединяем их и на выходе получаем внутреннюю логику игры. Но, увы, эта возможность ограничена - как говорил полноценной логики на ней не построишь, здесь нужно переписывать именно скрипты.
Вывод (сделанный не только мной) - для небольших команд, которые не могут купить полную лицензию с исходниками или у которых нет человека в совершенстве знающего UnrealScript, на данном движке желательно делать только шутера. Благо те получаются просто великолепны.
Модель распространения - условно-бесплатная. При продаже игры до 50 тыс. зеленых президентов все идёт команде, когда продажа переваливает за эту сумму четверть денег отдаётся эпикам (Epic Games - разработчикам UnrealEngine).
CryEngine. Честное пионерское - особо с ним не работал. Помучил пару раз, посмотрел мануалы… на этом всё. Тот же UDK, только вид сбоку (да пусть меня простят любители данного движка). Основной функционал одинаков и подводные камни также - отсутствие нормального мануала. Ну ему пока простительно - на рынок вышел не так давно.
Немецкий двиг на котором делали Crysis. Ещё, не так дано, русская команда выпустила онлайн-проект Panzar на этом же движке.
Плюсы - красивый, довольно прост. Все те же плюсы, что и у UDK. Единственно, я где-то у него видел мануалы по созданию квестов. Простеньких - принеси/убей, сделанных на чём-то похожем на Kismet (внутренний язык графического программирования). Направленность - так же шутеры.
Есть плюс, громадный - язык программирования у движка C++. Что, облегчает скриптописание.
Модель распространения - тоже самое, только, кажется, они просят процентов 20 от продаж и планка там ниже (не 50 тыс. дол.).
Unity.
Онлайн проекты сделанные на Unity - Prime World, Порногр… эээ… Пароград (City Of Steam).
Третий двиг. Смотрится в контексте с вышеперечисленным этаким хилым и бедным родственником. Запустив его первый раз был неприятно удивлён отсутствием многих привычных вещей, что в UDK присутствовали. Невозможность создания кат-сцен внутри движка (потом ее все же нашел, но кастрировано это дополнение довольно сильно), убогий редактор материалов и террейна (поверхности).
Это минусы. Движок сильно уступает по функционалу китам игростроения. Это да. Но есть и плюс, перечеркивающий всё остальное - нет направленности на какой-то определённый жанр. Громадное количество мануалов, как с нуля создать игру с примерами в скриптах. Имеется магазин, где за скромную плату можно прикупить дополнения, вплоть до конструктора или примера сервера для онлайн игры. Конструктор упрощает создание до невозможности - вбиваем нужные диалоги, соединяем нужные объекты, вот результат и готов. Квест или задание скрипт-конструктор сам сгенерирует. Хотя, на мой взгляд лучше всё самому писать - более широкий функционал. Примеры создания персонажа (прокачка уровня - получение опыта за убийства, квесты, основные характеристики - сила/ловкость/интеллект), всё это найти в интернете не проблема. Всё остальное полностью в ваших руках - графика зависит от прямоты рук тех, кто делает игру.
Модель распространения - инди (бесплатная - отсутствуют некоторые шейдеры и материалы) и полная. Стоит что-то около 1000 дол. На торрентах выложены ломанные версии, так что ничего не стоит попользоваться крякнутой версией, а потом (ближе к релизу игры) купить полную лицензию.
И главное помните - вся красота сделанной игры, всё в ваших руках! Что сделаете, то и получите.
P.S.: извиняюсь за некоторый корявый слог.