Чтобы создавать ИИ обладающий сознанием и чтобы совершенствовать биологические носители, нужно ещё немного покопаться в нашем мозге.
Структура мозга не должна рассматриваться в отрыве от полевой составляющей. И структура, и работа мозга определяются вещественно-полевой композицией. Вещество и поле соединены между собой более чем комплементарно: они не просто дополняют друг друга – они  связаны в единую вещественно-полевую сеть. И наше сознание определяется не только молекулярными связями, но совокупностью всех вещественно-полевых динамических состояний. Не говоря уже о том, что и в химических связях полевая составляющая тоже присутствует.
Полевым воздействием можно производить и функциональные, и структурные изменения мозга. Поле участвует в формировании структуры мозга не только через воздействие на элементы подобные нейрофибриллам, т.е. несущим электрические заряды. Тут уместно было бы послушать коротенькую, но очень интересную лекцию весьма авторитетного и очень толкового учёного нейробиолога: https://postnauka.org/video/154953 - Варвара Дьяконова «Индивидуальная жизнь нейрона».
Где-то на шестой минуте лекции Варвара Евгеньевна сообщает, что нейроны живут в межклеточной среде, включающей в себя метаболиты, гормоны, нейротрансмиттеры и пр. Тысяча извинений, но всё-таки замечу, что помимо всех этих молекулярных наполнителей в межклеточных областях и не только в них, но и в самих нейронах присутствуют всевозможные динамические полевые композиции… Не говорю структуры потому, что кванты поля самостоятельных структур не образуют, но могут действовать на вещество по принципу суперпозиции.
Без поля нет и вещественной структуры мозга.
Если наши мысли – суть нейрополевая динамика сети, то получается, что своими мыслями или воздействиями на них можно изменять не только функции, но и структуру мозга: лечить его или наоборот - расстроить.

Пётр Тайгер не раз утверждал, что эволюция человеческого мозга давно уже закончилась... Но оказывается, что в нейронах и по сей день количество мутаций на много больше, чем в других клетках организма. Кстати, если мутагенез нейронов активнее чем у других клеток, то и эволюция мозга должна происходить быстрее, чем развитие остального организма.
Больше мутаций – больше болезней и смертности, но и больше положительной эволюционной динамики.

https://www.youtube.com/watch?v=LlMolyKZL-c – Варвара Дьяконова «Мутагенез нейронов»

И я согласен!.. Но пока мы можем только так.

Не исключено!.. Хотя весьма вероятен вариант совершенствования не только искусственного интеллекта, но и нашего мозга, и поскольку изменение и наших способностей, и наших ценностей будет происходить постепенно, никакой ностальгии по ушедшему переживать не придётся.  Не ностальгируем же мы по тому уровню развития, когда мы были ещё более примитивны!
Я рад, что появился собеседник!.. А то самому с собой рассуждать как-то некомфортно, тем более, что тема не моя – я сюда встрял недавно, и такое ощущение, что испортил песню – все куда-то подевались.

Думается, «обязательно решать» – необязательно!.. Бывает, что лучше жить с нерешённым вопросом, нежели с решённым неправильно.
Наверное, эволюция не сводится к простому отбору наиболее приспособившихся индивидуумов. Биологи различают несколько форм естественного отбора, но не все они приводят к выживанию отдельных особей, есть и работающие на сохранение всего вида, а возможно даже и целого биоценоза. Так, например, выделяется отбор, сокращающий изменчивость и повышающий устойчивость всей популяции, или наоборот, отбор, расширяющий границы наследственной изменчивости популяции.
Возможно, существуют и другие формы отбора в границах более широких, чем видовая популяция, биоценоз и даже биологическая жизнь целой планеты. Но чтобы такие отборы имели место, необходимо наличие связей между участниками этих процессов.
Ну, что касается непременности, то наблюдения показывают, что – нет, не во всех организмах мы находим носители сознания, а касаемо возможности сочетания эволюции и разума, то – да, мы-то уже есть.

Весьма польщён вашим вниманием! Сложилось впечатление, что этими вопросами Вы только обозначили направление обсуждения. С интересом ожидаю продолжения. Я в теме недавно и прочесть всё предыдущее обсуждение не имею физической возможности, к сожалению. Так что, приношу извинения, если подобные вопросы уже обсуждались раннее.