Роботы - машины, которые способны жить в реальном мире, находятся вне предсказуемых ситуациях - программист не может заранее предвидеть список всех возможных жизненных ситуаций,чтобы создать для робота инструкции как поступать в каждом конкретном случаи. Так как создать справочник жизни, можно, но в ряд ли такой справочник охватить все случаи, могущие возникнуть в реальности.

ТО есть робот всегда будет сам вынужден находить решение, что будет результатом ошибки - робот будет оценивать похожесть не стандартной ситуации по списку ситуаций описанных в его справочнике, в его базе знаний,    не замечать препятствий.

Если "научить робота самостоятельно пополнять базу знаний", создать справочник - как нужно учиться, то теряется подконтрольность над вырабатываемых программой алгоритмов принятия решений - ошибка не адекватной оценки, возможность алгоритму создать алгоритм, который будет не правилен, который может допускать не допустимые варианты поведения.

Чем робот более самостоятелен, тем он менее востребован как машина, с не однозначными оценками, насколько созданные роботом по заранее заданной программе собственные алгоритмы поведения, есть "оценка роботом", а не результат ошибки в программе из-за не правильной оценки обучающей выборки.

Причем случайная комбинация ошибок допушенных программистом создает мистику, возможность программисту случайно создать алгоритм "живого существа", а если программист подумает и исправит ошибки, то это уже будет программа простого кукольного-автомата. ТО есть из 10000 машин, в 1-ой вдруг объявится жизнь, как результат не запланированного алгоритмом кода, созданного "мистикой", непонятной для человека последовательностью команд в программе, как результат ошибки - случайного, подсознательно не осознанного нажатия на клавиши, даюших ту последовательность команд, которая рождает в машине - сознание.

Поскольку все, что запланировано заранее - предсказуемо, однообразно, а жизнь  уникальна, жизнь - это не запланированное многообразие.