А мотивация-то откуда берётся?
Инстинкт? Опыт? Знания? Случай?
Или всё вместе?

Т.е. если ИИ будет способен на вышеперечисленное, он обретёт душу?
)))

Да всё важно!.. Важен и состав (причём, не только молекулярный, атомарный, но и полевой), важны и механизмы структурирования сетей, и всевозможные физические эффекты (в том числе и стохастический резонанс, упомянутый Техником). Ещё важны  механизмы абстрагирования и селективирования (отбора) - без них в голове была бы жуткая каша. Там такое мультиполье может фигурировать, что голова кругом от такой «простоты» мозга!..
Чем сложнее устройство, тем вероятнее новые свойства!.. Это, кстати, и о душе.

Несколько удивляет, что страх перед совершенствованием ИИ (искусственного интеллекта) присущ не только нам обывателям, но и тем, кому интеллекта слишком много не бывает – людям науки.  
Хрупкость биологической жизни столь же очевидна, сколь и ограниченность естественной эволюции.
Не вечно же нам прибывать в этой хрупкой белково-липидной оболочке и зависеть от ещё более примитивного биологического окружения!.. Может оказаться, что искусственные носители сознания – это для нас не угроза, а наше спасение и будущее. ИИ обладающий сознанием – это не только наш запасной вариант на случай глобальной катастрофы, но и возможность оригинальной управляемой эволюции (и даже в различных направлениях). Выбор пути может остаться за нами, но может так случится, что возможности выбора не будет, и природа заберёт то, что когда-то дала – биологическую жизнь… И хорошо, если у нас к тому времени появится возможность перехода на иные носители сознания.
В начальном этапе эволюции искусственного интеллекта его квазисознание и мораль будут определяться создателями… Но есть надежда, что далее повзрослевший «ребёнок» сам решит для себя, что такое хорошо и что такое плохо. И хотя человеческая мораль весьма далека от совершенства, мы почти панически страшимся эту мораль потерять или даже изменить. Если ИИ изберёт самостоятельный путь эволюции, неужели его мораль окажется ещё более злодейской, нежели человеческая?! Люди позволяют себе истреблять не только другие биологические виды, но и себе подобных.
Какова бы ни была мораль, искусственному интеллекту должно быть просто выгодно, чтобы его «родители» прибывали и эволюционировали параллельно или совместно со своим творением. Чем разнообразнее носители сознания, тем меньше страховые риски. Быть может, людям тоже было бы безопаснее, спокойнее и комфортнее, если бы на планете  существовали разумные биологические виды, отличающиеся от нас не только морфологией тела, но и свойствами сознания.
Дело идёт к тому, что мы в скором будущем сможем достаточно грамотно и результативно совершенствовать не только нашу генетику (а следовательно мозг и сознание), но и трансформировать геномы других биологических видов. К тому же естественная эволюция не закончена и не прекратится раньше, чем исчезнет жизнь. Жизнь вокруг нас не перестала эволюционировать и продолжает умнеть - и мы тоже пока не стоим на месте. Но может так произойти, что когда-нибудь некоторые биологические виды станут умнее нас, по крайней мере, умнее, чем мы сейчас.
Нам, конечно, хочется, чтобы мы были доминирующим видом, чтобы вся планета была зоной наших интересов и чтобы мы существовали как вид вечно… Но есть ли основания для такой надежды – видовой состав на Земле многократно менялся. Похоже, что разум не способствует сохранению человечества, а напротив – преумножает уязвимость, и не только нашего вида, но и всей жизни на планете.
Пора бы нам уже стать мудрее и вести себя на планете скромнее (и не только на планете)... В приличное сообщество носителей сознания нас могут и не взять.

Сомнительно, конечно, что уже сегодня мы можем создавать искусственные носители активного сознания!.. Но мы тоже не вдруг из тёплой лужи появились!.. Наше сознание совершенствовалось и усложнялось вместе с эволюцией мозга. Индивидуальное сознание человека также возникает не в один момент, а постепенно формируется у ребёнка.
Было бы логично для общественного мнения способствовать появлению и совершенствованию иных естественных и искусственных носителей сознания, помимо нашего, а не препятствовать этому… Иначе, зачем мы так усердно ищем братьев по разуму в далёком космосе?! Можно попробовать и самим создавать аналогичные и принципиально новые носители сознания. Речь идёт не о вычислительной технике, а об альтернативных носителях самостоятельного сознания равноценного нашему. Может так оказаться, что с сознанием - ничего сверхъестественного – просто сложно, и многое пока не изучено!.. На сегодняшний день сознание – это, пожалуй, самое удивительное среди известных свойств материи.