А нужно ли это? Мне нравится точка зрения, в которой сознание является лишь приспособительным механизмом, который был найден природой как более гибкий способ поддержания гомеостаза. Но при этом само сознание (как осознание) является иллюзией в том плане, что не оно принимает решения (несмотря на то, что нам кажется именно так), а на самом деле решения, принятые всем организмом как целым (в том числе с участием пищеварительной и прочих систем), доводятся до него (осознаются).

Отличные примеры, которые демонстрируют нашу иррациональность и отсутствие контроля над происходящим у сознания, мы видим, к примеру, в теме о ковиде. Если организм как целое уже принял некоторое решение, то никакие логические внешние доводы не смогут раз выбранную позицию изменить, а сознание будет выдумывать какие угодно оправдания (то есть адаптироваться к выработанной организмом позиции), лишь бы поддерживать систему в целостности (сохранять гомеостаз). Сознание лишь воображает себе, будто руководящая роль здесь принадлежит ему, а на деле играет лишь вспомогательную роль. Шеей здесь является бессознательное, которое вертит сознательным как хочет. Роль же сознательного заключается лишь в подсвечивании (как фонариком при ремонте автомобиля) фокусом внимания тех акцентов, которым с точки зрения бессознательного нужно уделить более пристальное внимание. Фактически, сознание - это пятно от света фонарика (фокус внимания) и есть - ему показывают: "Смотри, какая история тут приключилась, подсвети, пока мы тут все разрулим".

В итоге, вся наша "сознательность" оказывается эфемерной, а "сознание" - иллюзией, что вполне согласуется с тем, когда и как появлялись те или иные разделы мозга, и как именно происходит усложнение его систем.

В этом отношении не нужно пытаться заставлять машину что-либо хотеть - даже в нашем случае все эти хотелки имеют чисто "механистический" характер. Вся биологическая эволюция протекает в направлении приспосабливаемости, как решение оптимизационной задачи: выжить, победить в конкурентной борьбе, оставив потомство с наименьшими затратами. И человек с его мозгом и сознанием здесь не исключение. Да, мы представляем собою очень сложные системы, но в конечном итоге они созданы лишь для решения оптимизационных задач.

Небольшие отсылки на тему
https://elementy.ru/bookclub/chapters/434114/Kto_za_glavnogo_Glava_iz_knigi
https://psychosearch.ru/napravleniya/social/819-john-dylans-research-on-decision-making

Обычно это не правило как таковое (в виде набора условий), а нечто вроде функции приспособленности (fitness function), которая вычисляется для ряда рассматриваемых сценариев, и выбирается тот, который максимизирует ее значение.

С вашим целенаправленным поведением буриданов осёл просто сдохнет от голода посреди изобилия еды.
Вы же сами говорили, что признаком интеллекта является творчество, т.е. свободный выбор? Так вот, не устану повторять: истинно свободный выбор может быть только случайным, поскольку выбор чем-либо обусловленный свободным не является по определению.
А хаос бывает и детерминированным - когда незначительное изменение начальных условий радикально изменяет поведение системы.
Есть такой французский нейрофизиолог Жан-Пьер Шанжё, который утверждал что основой творчества является спонтанная фоновая нейронная активность. Так вот достаточно одного случайного спайка - и осёл уже идет налево.
А левое полушарие всегда обоснует и придумает целую историю, почему именно налево, а не направо )))

Ну а для чего по факту оно еще нужно? Эволюционно, мозг рождался именно так.

https://ru.wikipedia.org/wiki/Foldit

Человек решает подобные задачи лучше целых сетей самых современных компьютеров.

Потому что такой цели и не стоит. Зачастую, нахождение глобального оптимума может быть невыполнимой задачей (требуя бесконечных вычислительных ресурсов), в то время как найти локальный оптимум или же решение, максимально близкое к глобальному чаще всего очень легко. Именно так и работают все современные алгоритмы машинного обучения/поиска.