Да, абсолютно верно: разум опирается на манипулирование с моделями реальности.
Лично я могу построить абсолютно любую модель завтрашней реальности - от максимально приближенной к вероятности, до максимально от неё удалённой.
НО, вот чего я ни за что не смогу построить - модель настоящей реальности. Той которой ещё нет. Но она будет.
Есть тенденции развития... есть  опыт прошедшего... знание настоящего.
На основе этого - можно  предположить - какой завтра будет погода, какие события произойдут...
Но жизнь не часовой механизм... всё время возникают непредвиденные факторы, разворачивающие реальность в ином направлении. (Хотел в интернет залезть, а пришлось за картошкой идти)

Читала фантастический рассказ. Чей - не помню.
Машина, которая предсказывает вероятностную модель реальности для конкретного человека.
Сюжета не помню... но конфликт состоял в том, что человек был поглощён этой машиной. Вместо того, чтобы реально жить, он просматривал варианты того, что с ним произойдёт если он пойдёт туда... повернёт сюда..

Никакой виртуальной площадки для таких вещей быть не может.  Принципиально невозможно создать все образы реальности.  Можно сделать видео картинки, звуки.
Невозможно предусмотреть боль в пояснице, духоту в квартире, переполненный мочевой пузырь, пустой желудок, надоедливую мошку, зудящую около уха, настроение жены и т.д.
Всё свершается только в голове.
Да, и нужна ли такая площадка? Человеческий мозг постоянно работает на планирование и прогноз будущего.
Сейчас вы прочитаете сей пост, пойдёте на кухню, поставите чайник. Завтра воскресенье... на работу не надо. Значит, можно подольше посидеть за компьютером... если только жена не начнёт ворчать.
Мы всё время думаем вперёд... всё время оглядываемся назад... а живём в настоящем, которое есть отражение сиюсекундной реальности.

Ну, допустим, прообразы таких площадок  уже есть.
Смотри AutoCAD, метео программы, симуляторы ядерных взрывов.
Если говорить о соответствии модели реальности, то в подавляющем большинстве случаев
достаточно скелетной версии.
Вычислением будующего буднично занимаются метео программы. С ближнем будующем
вообще, проблем почти нет.  Проблемы нарастают с продвижением вглубь.
Но это проблемы математики, предмета вполне подающегося развитию.
Что мешает развивать нелинейные уравнения  и  открывать новые формулы функций.
Математическая логика пасует при  манипулировании объектами с не четкими образами.
Смотри женское: «Может быть». Возникает дурацкий мужской вопрос: «А на сколько может быть»?  Но, были времена, когда математики не знали понятия «ноль» и прекрасно себя
чувствовали.  Поскольку брутальные мужчины легко справляются  с  женским «Может быть»,
прогноз на математическое решение данных коллизий положительный.
С наступающим.

[QUOTE]vatolinn пишет:
Все равно все предугадать и вычислить невозможно... Хотя сейчас мощные симмуляторы имеются многих процессов.[/QUOTE
Отвечу банально. Всю водку тоже не выпьешь, но как стараются.

Без помощи человека он (ИИ) попадёт ровно в такую же рутину выживания и развития, что и его творец.  
Вы же сами пишите: "воспроизводить себя". Без волшебной палочки ему придётся работать и работать. Мат. часть то не вечная.
А для "совершеннее и совершеннее" ему точно так же потребуется время на доступ к данным из окружающей среды. Дело ведь не в том, что мы думаем медленно, а в том, что данных у нас маловато об истинах мироздания.
Да и с чего Вы взяли, что "Раз создав, его нельзя будет уничтожить"? Болезни ему так же страшны, как и нам. Антивирусное ПО тоже потребуется с его пожиранием ресурсов.    Вот и ещё один фактор снижения производительности.
Какое там "бесконечное развитие"... Всё как у людей...