№08 август 2022

Портал функционирует при финансовой поддержке Министерства цифрового развития, связи и массовых коммуникаций.

Страницы: Пред. 1 ... 8 9 10 11 12 ... 24 След.
RSS
Есть ли «камень преткновения» у создателей Искусственного Интеллекта? Какой он?, В «Н и Ж» №2 2018г. с тр. 44 редакция открыла для обсуждения тему «Искусственный интеллект», пригласив писателей и учёных. Правда, предложила узкий формат темы – «ИИ друг или враг». Это крайности - истина, как известно, всегда посередине.
Цитата
Петр Тайгер пишет:
как-то так с чьей-то легкой руки повелось, что назвали ИИ, - в контексте и по аналогии, наверное, с  ЕИ - естественного интеллекта в виде кроманьонских мозгов. Наверное, лучше бы все таки говорить о машинном интеллекте, - про МИ.
Вообще говоря, на мой взгляд, правильнее было бы классифицировать интеллект на человеческий и машинный. Интеллект, как способность к запоминанию и обучению на основе опыта, естественным образом присущ и тому и тому, хотя работают они немного по разному. Ключевое отличие - мозг человека активен, он активно познаёт окружающее, машина же, хоть и с технологией машинного обучения, лишь пассивно реагирует на предъявляемые человеком данные.

В связи с этим возникают вопросы.

1. Можно ли научить машиный "мозг" проявлять активность?
- Думаю, да. Теоретически. Хотя практически, насколько я знаю, никто не пробовал. А мотивация может быть не только эмоциональной, но и директивной (заранее заданной), или просто рациональной, на основе накопленного опыта.

2. Появится ли в этом случае у машины "душа"?
- Скорее всего, нет. В том числе из-за естественного отсутствия "эмоциональной" составляющей. А если и появится, то - чисто механическая))

3. Надо ли это делать?
- Сложный вопрос, есть как плюсы, так и минусы. Главный минус - отсутствие моральных критериев, понятий добра и зла. Чисто рациональная мотивация может завести далеко и не туда. И никакие заранее заданные директивы тут не помогут, поскольку на все случаи жизни директив не напасёшься, да и активный машинный "мозг" скорее всего сможет их вполне рационально преодолеть.
Изменено: Техник - 06.10.2021 20:30:40
Ясность - одна из форм полного тумана
Цитата
Техник пишет:
Ключевое отличие - мозг человека активен, он активно познаёт окружающее, машина же, хоть и с технологией машинного обучения, лишь пассивно реагирует на предъявляемые человеком данные.
В связи с этим такой вопрос:
Представим обычный робот-пылесос, который запускается нажатием кнопки, а прекращает работу при уменьшении заряда до критического уровня и отправляется на подзарядку. Ну, вот, вставим в эту кнопку спичку, так что пылесос будет работать непрерывно с перерывами на подзарядку. Будет он тогда активным интеллектом?
Цитата
Техник пишет:
2. Появится ли в этом случае у машины "душа"?
- Скорее всего, нет. В том числе из-за естественного отсутствия "эмоциональной" составляющей. А если и появится, то - чисто механическая))
Но ведь душа? А то, что механическая, это подробности. Существенным различием является - врождённые или приобретённые целеустремления.
И главным целеустремлением является размножение. Эта идея размножения просто математический закон природы. Т.е. представим себе достаточно много разнообразных и взаимодействующих элементов. Когда-то они соединяются в систему способную саморазмножаться и после этого начинается цепная реакция саморазмножения.
Вот необходимые условия:
- Достаточно большое, но конечное число элементов.
- Достаточно большое, но конечное их разнообразие.
- Достаточно большой запас энергии для поддержания движения (и контактирования) элементов.
Очевидно, что все эти элементы могут создавать конечное число комбинаций (и среди них хотя-бы одну комбинацию способную саморазмножаться). Каждая из этих комбинаций имеет определённую вероятность появления. Саморазмножающаяся комбинация, наверное, довольно сложная и очень маловероятная. Ну, скажем, 10^-100. Но зато, появление одной такой комбинации означает 100% вероятность появления следующей такой-же. И далее процесс появления новых саморазмножающихся только нарастает. Процесс ограничен только дефицитом какого-либо элемента Х. Главное, что в итоге существование саморазмножающейся комбинации оказывается высоковероятным.
Это всё, как говорит ув. Пётр Тайгер, достаточно тривиально. Но я хочу обратить внимание на интерпретацию. Все остальные случайно создаваемые комбинации можно представить, как механизмы со случайно вставленными теми или иными свойствами. С некоторыми оговорками можно сказать, что вероятность существования произвольной комбинации N в конце длинного периода равна  вероятности её появления. А вот вероятность существования саморазмножающейся комбинации гораздо выше вероятности её появления.
Про неё можно сказать, что это не материальная система, в которую вложен алгоритм (идея) саморазмножения, а это идея (алгоритм) саморазмножения обросшая материальными деталями.
В споре не рождается истина, но убивается время.
Цитата
eLectric пишет:
В связи с этим такой вопрос:
Представим обычный робот-пылесос, который запускается нажатием кнопки, а прекращает работу при уменьшении заряда до критического уровня и отправляется на подзарядку. Ну, вот, вставим в эту кнопку спичку, так что пылесос будет работать непрерывно с перерывами на подзарядку. Будет он тогда активным интеллектом?
Робот-пылесос это плохой пример. По уровню интеллекта он недотягивает даже до насекомых, поведение которых управляется в основном инстинктами (по аналогии - "врождёнными" директивами). Говоря об активном мозге, я всё-таки имел в виду интеллект более высокого уровня, хотя бы уровня животных.
Цитата
eLectric пишет:
Но ведь душа? А то, что механическая, это подробности.
Это была просто шутка.
Тем не менее вопрос: можно ли считать чисто рациональное поведение признаком наличия "души"?
Цитата
eLectric пишет:
Существенным различием является - врождённые или приобретённые целеустремления.
Я примерно об этом и говорю: по мере накопления опыта с помощью "врождённых" директив, в активном машинном "мозге" может появиться и рациональная мотивация.
Цитата
eLectric пишет:
И главным целеустремлением является размножение.
Это крайне спорный тезис. То есть биологически - да, это так. Но для машинного интеллекта способность к размножению не является определяющей. Зачем машине размножаться? Ну да, в определённых условиях полезная опция, но не более того. В конце концов любую нужную машину можно просто сделать на заводе с помощью тех же роботов.
Если робот-пылесос вдруг начнёт размножаться, он что, умнее станет?
Изменено: Техник - 07.10.2021 08:36:13
Ясность - одна из форм полного тумана
Цитата
Техник пишет:
Робот-пылесос это плохой пример. По уровню интеллекта он недотягивает даже до насекомых,
Как определить?
Цитата
Техник пишет:
Это была просто шутка.
Тем не менее вопрос: можно ли считать чисто рациональное поведение признаком наличия "души"?
Шутка. Согласен. И доля шутки в ней в том, что никто не знает, что это такое.
Цитата
Техник пишет:
Это крайне спорный тезис. То есть биологически - да, это так. Но для машинного интеллекта способность к размножению не является определяющей. Зачем машине размножаться? Ну да, в определённых условиях полезная опция, но не более того. В конце концов любую нужную машину можно просто сделать на заводе с помощью тех же роботов.
Если робот-пылесос вдруг начнёт размножаться, он что, умнее станет?
Бесспорно, размножающийся пылесос умнее простого.
При этом, интеллект, это эволюционное достижение живых систем и его бы точно не было, если бы он не давал каких-то преимуществ в размножении-выживании.
Сейчас развитие ИИ всецело зависит от человека. Это означает, что способность к размножению-выживанию является определяющей. Только не для машинного организма, а человеческого, который и натаскивает ИИ для решения своих проблем.
В споре не рождается истина, но убивается время.
Цитата
eLectric пишет:
Цитата
Техник пишет:
Робот-пылесос это плохой пример. По уровню интеллекта он не дотягивает даже до насекомых,
Как определить?
Поведение насекомых значительно сложнее.
Цитата
eLectric пишет:
Бесспорно, размножающийся пылесос умнее простого.
Да? А как насчёт дурное дело нехитрое? ))
Цитата
eLectric пишет:
Сейчас развитие ИИ всецело зависит от человека. Это означает, что способность к размножению-выживанию является определяющей. Только не для машинного организма, а человеческого, который и натаскивает ИИ для решения своих проблем.
Хотите сказать, что робот-пылесос способствует размножению человечества? Судя по демографии, тут как бы не наоборот... )))

Собственно, я всего лишь возразил на ваш тезис о принципиальном отсутствии желаний у машинного интеллекта. При определенных условиях таки имеется ненулевая вероятность появления таких желаний, со всеми (возможными) апокалиптическими вытекающими.
Ясность - одна из форм полного тумана
Цитата
eLectric пишет:
Бесспорно, размножающийся пылесос умнее простого.

Техник пишет:
Да? А как насчёт дурное дело нехитрое? ))
Мне кажется, вы сами предложили критерий. Чьё поведение сложнее?
Цитата
Техник пишет:
Хотите сказать, что робот-пылесос способствует размножению человечества? Судя по демографии, тут как бы не наоборот... )))
А как судить? Вы видите зависимость рождаемости от наличия пылесосов или только корреляцию?
Цитата
Техник пишет:
Собственно, я всего лишь возразил на ваш тезис о принципиальном отсутствии желаний у машинного интеллекта. При определенных условиях таки имеется ненулевая вероятность появления таких желаний, со всеми (возможными) апокалиптическими вытекающими.
Согласимся на том, что сейчас ИИ не обладают желаниями.
А я, собственно, говорил о том, что человеческий интеллект возник в условиях двух физически разных сигнальных системах в организме.
И если строить ИИ только на одной сигнальной системе, то этот интеллект будет отличаться от человечьего. И можно ли его назвать интеллектом? Подозреваю, что это будет просто сложный пылесос.
В споре не рождается истина, но убивается время.
Цитата
eLectric пишет:
Мне кажется, вы сами предложили критерий. Чьё поведение сложнее?
Тут как бы... непонятен сам процесс... )))
Всё-таки размножение - это биологическая специфика.
Цитата
eLectric пишет:
А как судить? Вы видите зависимость рождаемости от наличия пылесосов или только корреляцию?
Прямой зависимости, конечно, нет. Но в целом - один из множества факторов.
Цитата
eLectric пишет:
Согласимся на том, что сейчас ИИ не обладают желаниями.
А я, собственно, говорил о том, что человеческий интеллект возник в условиях двух физически разных сигнальных системах в организме.
И если строить ИИ только на одной сигнальной системе, то этот интеллект будет отличаться от человечьего. И можно ли его назвать интеллектом? Подозреваю, что это будет просто сложный пылесос.  
Согласимся )))
И разумеется будет отличаться от человеческого - машина она и есть машина. Но всё равно это будет интеллект, как ты его ни назови - технический, машинный, но - интеллект. И с этим придётся считаться.
Хотя этот вопрос пока может быть и не актуален, тем не менее первые шаги в этом направлении уже сделаны - конкурентные сети, технология drop out, роботы DARPA и т.п.
Изменено: Техник - 08.10.2021 10:16:40
Ясность - одна из форм полного тумана
Цитата
Техник пишет:
Но всё равно это будет интеллект, как ты его ни назови - технический, машинный, но - интеллект.
Или, там, арифмометр  с калькулятором, как их ни назови - всё равно интеллект? Тут такое дело, что пользуясь неопределённостью понятия можно утверждать что угодно. Нам непрерывно твердят про этот ИИ и мы, в конце концов, начинаем верить, что большой компьютер имеет этот самый интеллект.
В научной среде не говорят про интеллект. Относительно животных говорят про когнитивные способности. Это тоже не слишком определённое понятие, но хотя-бы  отделяются от журналистского трёпа.

То, о чем я говорю - две сигнальные системы, это принципиальное отличие человечьего от машинного. Машина, какой-бы сложной не была, только вычисляет.
А мышление человека занято разрешением противоречий между сигнальными системами. Ну, типа рассудком понимаешь, что жениться выгоднее на Даше, а вот сердцем тянет к Маше.
В споре не рождается истина, но убивается время.
Цитата
eLectric пишет:
А мышление человека занято разрешением противоречий между сигнальными системами.
Ну это ж рядовая задача оптимизации.
Внимание! Есть полагание основать, что личное мнение содержит исключительно сообщение автора. Оно может не отвечать, что соответствует научности по критериям данности.
Цитата
eLectric пишет:
Тут такое дело, что пользуясь неопределённостью понятия можно утверждать что угодно.
Ну почему неопределённостью. Интеллект как способность к запоминанию и обучению н основе опыта - чем не устраивает? Там ещё новизна  и проч.
Машинный активный "мозг" проходит по всем параметрам )))
Цитата
eLectric пишет:
То, о чем я говорю - две сигнальные системы, это принципиальное отличие человечьего от машинного. Машина, какой-бы сложной не была, только вычисляет.
А мышление человека занято разрешением противоречий между сигнальными системами.
Типа у индейцев машины нет души? Типичная ксенофобия )))
Ясность - одна из форм полного тумана
Страницы: Пред. 1 ... 8 9 10 11 12 ... 24 След.
Читают тему (гостей: 2, пользователей: 0, из них скрытых: 0)

Есть ли «камень преткновения» у создателей Искусственного Интеллекта? Какой он?


Портал журнала «Наука и жизнь» использует файлы cookie. Продолжая пользоваться порталом, вы соглашаетесь с хранением и использованием порталом и партнёрскими сайтами файлов cookie на вашем устройстве. Подробнее