Так вот и вопрос - каким образом машина может научиться ставить себе цель. Достаточно ли для этого только личного опыта? Пусть даже и богатого.
Другими словами: познавательная мотивация - следствие личного опыта или заложена в геноме (конструкции)?

Ответ как бы напрашивается - должна быть заложена в конструкции, иначе и личного опыта не видать.
Получается - Инстинкт!

Есть в НиЖ (чтоб далеко не ходить) одна спорная статейка 10-ти летней давности. Там ближе к концу конкретно о Фурье-анализе. Если в двух словах, смысл такой: каждая группа нейронов со связями отвечает за свою частоту в спектре, за свою гармонику в сигнале (в отличие от вашей схемы: один нейрон - один символ).
Мышление с одной стороны континуально (воспоминания накатили, чувства нахлынули), с другой стороны - оно дискретно (слова, понятия) - из аналога в цифру, из цифры в аналог  Подавляющая часть информации поступает нам в мозг через зрение - слух. Мышление наверняка идёт в таком же Фурье-формате.

Специалисты говорят. 90% информации - это через зрение. Осознанной и неосознанной.

Здесь есть один нюанс - память. Прогноз извлекается из памяти, т.е. память уже содержит знание, с которым и сравнивается результат действия. Если память пустая, или результат ни в какие ворота не лезет, тогда включается исследовательское поведение, которое и формирует новое знание. В этом смысле кибернетические "черепашки" как раз и моделируют ВНД. Собственно, они демонстрируют самосборку некой структуры в контексте конкретного окружения. И они не такие простые, как кажутся с виду, т.к. управляются вполне себе нейросетью (условно парой перцептронов).
У камня нет однозначно, т.к. камень - объект пассивный, и все связи (память) жёстко зафиксированы. Эту память можно уничтожить, размолов его в порошок, а новую создать он не сможет.
В отличие от живых клеток, способных к самоорганизации - в контексте текущего окружения.