В связи с этим такой вопрос:
Представим обычный робот-пылесос, который запускается нажатием кнопки, а прекращает работу при уменьшении заряда до критического уровня и отправляется на подзарядку. Ну, вот, вставим в эту кнопку спичку, так что пылесос будет работать непрерывно с перерывами на подзарядку. Будет он тогда активным интеллектом?
Но ведь душа? А то, что механическая, это подробности. Существенным различием является - врождённые или приобретённые целеустремления.
И главным целеустремлением является размножение. Эта идея размножения просто математический закон природы. Т.е. представим себе достаточно много разнообразных и взаимодействующих элементов. Когда-то они соединяются в систему способную саморазмножаться и после этого начинается цепная реакция саморазмножения.
Вот необходимые условия:
- Достаточно большое, но конечное число элементов.
- Достаточно большое, но конечное их разнообразие.
- Достаточно большой запас энергии для поддержания движения (и контактирования) элементов.
Очевидно, что все эти элементы могут создавать конечное число комбинаций (и среди них хотя-бы одну комбинацию способную саморазмножаться). Каждая из этих комбинаций имеет определённую вероятность появления. Саморазмножающаяся комбинация, наверное, довольно сложная и очень маловероятная. Ну, скажем, 10^-100. Но зато, появление одной такой комбинации означает 100% вероятность появления следующей такой-же. И далее процесс появления новых саморазмножающихся только нарастает. Процесс ограничен только дефицитом какого-либо элемента Х. Главное, что в итоге существование саморазмножающейся комбинации оказывается высоковероятным.
Это всё, как говорит ув. Пётр Тайгер, достаточно тривиально. Но я хочу обратить внимание на интерпретацию. Все остальные случайно создаваемые комбинации можно представить, как механизмы со случайно вставленными теми или иными свойствами. С некоторыми оговорками можно сказать, что вероятность существования произвольной комбинации N в конце длинного периода равна  вероятности её появления. А вот вероятность существования саморазмножающейся комбинации гораздо выше вероятности её появления.
Про неё можно сказать, что это не материальная система, в которую вложен алгоритм (идея) саморазмножения, а это идея (алгоритм) саморазмножения обросшая материальными деталями.

Как определить?
Шутка. Согласен. И доля шутки в ней в том, что никто не знает, что это такое.
Бесспорно, размножающийся пылесос умнее простого.
При этом, интеллект, это эволюционное достижение живых систем и его бы точно не было, если бы он не давал каких-то преимуществ в размножении-выживании.
Сейчас развитие ИИ всецело зависит от человека. Это означает, что способность к размножению-выживанию является определяющей. Только не для машинного организма, а человеческого, который и натаскивает ИИ для решения своих проблем.

Мне кажется, вы сами предложили критерий. Чьё поведение сложнее?
А как судить? Вы видите зависимость рождаемости от наличия пылесосов или только корреляцию?
Согласимся на том, что сейчас ИИ не обладают желаниями.
А я, собственно, говорил о том, что человеческий интеллект возник в условиях двух физически разных сигнальных системах в организме.
И если строить ИИ только на одной сигнальной системе, то этот интеллект будет отличаться от человечьего. И можно ли его назвать интеллектом? Подозреваю, что это будет просто сложный пылесос.

Или, там, арифмометр  с калькулятором, как их ни назови - всё равно интеллект? Тут такое дело, что пользуясь неопределённостью понятия можно утверждать что угодно. Нам непрерывно твердят про этот ИИ и мы, в конце концов, начинаем верить, что большой компьютер имеет этот самый интеллект.
В научной среде не говорят про интеллект. Относительно животных говорят про когнитивные способности. Это тоже не слишком определённое понятие, но хотя-бы  отделяются от журналистского трёпа.

То, о чем я говорю - две сигнальные системы, это принципиальное отличие человечьего от машинного. Машина, какой-бы сложной не была, только вычисляет.
А мышление человека занято разрешением противоречий между сигнальными системами. Ну, типа рассудком понимаешь, что жениться выгоднее на Даше, а вот сердцем тянет к Маше.