Кстати, в системе унитаза сделано много открытий. От изобретения простейшей конструкции до введения космических технологий в общем (в самом широком смысле этого слова --- от общего сидячего до системы спального) вагоне поезда дальнего следования. Более того --- сам современный унитаз выполняет много функций, вплоть до выдачи медицинских анализов.

Три главные школы сингулярности.
Е.Юдковски.

Дискуссия о сингулярности, судя по всему, разделилась на три основные школы мысли: Ускорение изменений, Горизонт событий, и Взрыв Интеллекта.
Ускорение изменений.
Основное заявление: наши представления об изменениях линейны; мы ожидаем, что в будущем произойдёт примерно столько же изменений, сколько имело место в прошлом в течение нашей жизни. Но технологические изменения усиливают сами себя, и за счёт этого ускоряются. Изменения сейчас быстрее, чем 500 лет назад, которые, в свою очередь , быстрее, чем были 5000 лет назад. Наше недавнее прошлое не является надёжным источником знаний о том, что мы должны ожидать в будущем.
Сильное утверждение: Технологические изменения следуют плавным кривым, в основном экспоненциальным.  В силу этого мы можем предсказать с достаточно большой точностью, когда новые технологии появятся, и когда они пересекут определённые пороговые уровни, такие, как создание ИИ.
Сторонники: Рей Курцвел, Элвин Тоффлер(?), Джон Смарт.
Горизонт событий.
Основное утверждение: В течение последних нескольких сот тысяч лет люди были умнейшими существами на планете. Весь наш социальный и технологический прогресс был создан человеческими мозгами. Коротко говоря, технологии будут ускоряться до той точки, когда станет возможным улучшение человеческого интеллекта (интерфейс мозг-компьютер, ИИ). Это создаст будущее, гораздо более странное, чем то, что описывается в  большинстве произведений научной фантастики: оно будет качественно другим, а не просто заполнено сияющими удивительными гаджетами.
Сильное утверждение: Чтобы знать, что будет делать сверхчеловеческий интеллект, вы должны быть по крайней мере настолько же умным. Чтобы знать, как пойдёт Дип Блю при игре в шахматы, вы должны играть на его уровне. Таким образом, будущее после создания сверхчеловеческого интеллекта станет абсолютно непредсказуемым.
Сторонники: Вернор Виндж.
Взрыв интеллекта.
Основное заявление: интеллект всегда был ядром технологии. Если технология сможет значительно улучшить человеческий интеллект – создать умы, более умные, чем самые интеллектуальные люди – то тогда кольцо замкнётся и возникнет  положительная обратная связь. Что люди с интерфейсом мозг-компьютер будут делать со своим усиленным интеллектом? Весьма вероятно, что они будут создавать следующее поколение интерфейсов мозг-компьютер. Усиление интеллекта – это классическая точка перелома. Чем умнее вы становитесь, тем больше интеллекта вы можете использовать, чтобы стать ещё умнее.
Сильное заявление: Этот цикл положительной обратной связи начнёт резко усиливаться, подобно цепной ядерной реакции, когда достигается критическая масса. Каждое усиление интеллекта приводит к >1.000 усилений интеллекта в следующем цикле такого же масштаба – хотя и не обязательно в виде гладкой экспоненциальной кривой. Технологический прогресс начинает происходить с характерной скоростью работы транзисторов (или супер-транзисторов), а не человеческий нейронов. Рост резко ускоряется и быстро создаёт суперинтеллект (на много порядков превосходящий человека) – до того, как он достигает физических пределов роста.
Сторонники: И.Гуд, Е.Юдковски.
Главная особенность этих трёх различных школ Сингулярности состоит в том, что в то время как все три основных заявления поддерживают друг друга, все три сильных заявления противоречат друг другу.
Если вы экстраполируете нынешнюю версию закона Мура на время после возникновения превосходящего человека ИИ, чтобы сделать предсказания о 2099 годе, то тогда вы будете противоречить строгим версиям Горизонта Событий (который говорит о том, что вы не можете делать предсказаний, поскольку вы будете пытаться перехитрить превосходящий человека ум) и сильной версии Взрыва Интеллекта (поскольку прогресс станет происходить быстрее, когда умы, превосходящие человеческие, и нанотехнологии перенесут прогресс на скорость работы транзисторов, а не нейронов).
Я нахожу очень тревожащим то, что эти три школы мысли смешались в одну кучу под маркой «Сингулярности». Ясное мышление требует различий.
Но ещё более раздражающим является то, что когда некто читает блог-пост о какой-нибудь газетной статье о Сингулярности, он уходит от все этих трёх интересных тезисов, и спонтанно заново придумывает четвёртое ужасающее значение Сингулярности:
Апокалиптизм: Люди, вы слышали? Там есть группа придурков, которые думают, что какая-то неопределённая гадость должна скоро случиться. Что за чудаки! Это же религия компьютерных фанатов.
Я слышал много других определений Сингулярности, но в большинстве случаев им не хватало разделения предпосылок и следствий. Например, в старом Extropian FAQ используется определение Сингулярности как Точки Заражения (Inflection Point) – как того времени, когда технологическое развитие достигнет максимальной скорости и непосредственно перед этим моментом начнёт замедляться. Но что делает это интересным местом в истории, кроме как это определение? Каковы последствия этого предположения? Чтобы стать школой мысли или хотя бы тезисом, требуется внутренняя структура аргумента, а не просто определение.
Если вам интересно, что из перечисленного было исходным значением термина Сингулярность, то это был «Горизонт событий» Вернора Винджа, который и ввёл этот термин.

Думается, приведенные ниже две цитаты это основное, о чем  нужно знать про ИИ. Этого вполне достаточно, чтобы иметь первичное о нем представление. Все остальное на этот счет - это обычные инсинуации, ставящие перед собой в превую очередь напугать обывателей, - любителей кухонных разговоров обо всем и ни о чем.  Ну, или наоборот, - обрадовать их тем, что, мол, наступит день, и какой-нибудь лабораторный ИИ по прозвищу Вася, приобретя внутри своей конструкции согласно известному диалектическому закону вследствии накопившейся в ней суммы количественных технико-программных  изменений человеческую душу,  влюбится в округлые формы ягодиц лаборантки Маши. Со всеми вытекающими, понятно, из этого последствиями в виде ахи-вздохов, сочинения стихов и прочих, как водится в таких случаях, проявлений соответствующих эмоций.

Нет, ну что вы. Конечно, продолжайте. И не так уж это очевидно и тривиально.
Не уверен, что ИИ лучше называть машинным - МИ, поскольку ИИ подразумевает больший объем понятия и, соответственно, МИ и ИИ это немножко разное.
Соглашусь с вами, что МИ, это бездушная машина, по крайней мере, так видится сейчас. И в этом залог её безопасности. Не хочет эта машина поработить человеков или отнять у них последнее просто потому, что вообще ничего не хочет. Нет у неё мотивации, а у человеков есть.
Откуда же у человека цели и в основе всех целей мотивации? От чуйств. Вот хочет чего-то человек, гормоны играют, ему неймется и беспокойно и что-то заставляет его действовать и добиваться. И так до тех пор, пока он не достигнет желаемого и не испытает чувство глубокого удовлетворения.
Сделаем вывод - чувства и эмоции источник мотивации человека.

Теперь немножко отклонимся в сторону. По данным 2018 года
The biomass distribution on Earth
в пересказе N+1
Суммарная биомасса Земли - 550 млрд т. углерода
Включает:
 Растения - 450 млрд т.
 бактерии - 70 млрд т.
 грибы - 12 млрд т.
 археи - 7 млрд т.
 простейшие - 4 млрд т.
 животные - 2 млрд т.
 из них Homo sapiens - 0,06 млрд т. (0,01% от всей биомассы).
Тут, конечно, есть интересные вопросы, например, кто есть вершина эволюции?
Человеки, в своей экспансии, расселившиеся по всей Земле или растения захватившие практически львиную долю углерода?
Не будем забывать и о зависимости человеков от растений. Грубо говоря, для существования одной тонны человеков необходимо существование 450/0,06=7500 тонн растений.

Но нас интересует другое. Часть живых организмов Земли имеют нервную систему - НС, а остальные не имеют.
Вспомним уже заезжанное определение - любой живой организм, это химическая фабрика. Его физиология, это химия и его поведение во внешней среде, это продолжение его физиологии и это тоже химия. Любой одноклеточный зверь обладает молекулярными механизмами поиска и потребления питательных веществ. А также реагирования и бегства от кислой среды.
Растения, это сообщества клеток организованных в химический насос всасывающий питательный раствор из почвы. Химическим же способом регулируется внешнее поведение этого насоса - распускание цветов и листьев, сброс листвы на зиму. И химические вещества вызывающие молекулярный механизм разворачивания или сброса листьев можно рассматривать, как сигналы вызывающие эти действия.

Но эволюции, в её сумасбродстве, этого оказалось мало и она попробовала нервную систему - НС. И вот, на Земле, с её уникальным соотношением гравитации, площади поверхности, разнообразием элементов и много ещё чего, эта НС организмов как-то прижилась и даже пользуется некоторым успехом.
Скажем прямо - 2 млрд т. животных, т.е. организмов обладающих НС, это не так уж много из 550 млрд. т. всех живых.
Недостаток простой и традиционный - организм с нервной регуляцией поведения сложнее. Но и достоинство существенно. Если выразить одним словом: высокая скорость реагирования на изменения внешних условий.
Очевидно, одноклеточным организмам НС совершенно не нужна, а вот многоклеточным, пожалуй, пойдёт.

Наличие НС имеет два важных следствия:
1- НС позволяет не только быстро реагировать на изменения среды, но и безболезненно менять эту среду. Появляется двигательная активность и новая стратегия поведения - поиск комфортных условий.
2- НС позволяет создать "информационно-управляющий центр" координирующий органы чувств и органы движения в организме. Место, где различные сигналы сводятся и вырабатываются решения.

Давайте ближе к человекам. Как всегда в эволюции, старое никуда не пропало, а совмещается с новым. У человека есть нервная система и есть гуморальная, по которой распространяются химические сигналы. Все эти адреналины и производные от них - мурашки по коже, сердцебиения, томления и элегическая грусть.
НС имеет свою логику, нейрогуморальная - свою, а их сочетание создает неповторимую душу человека. Появление некоего хим вещества в крови или в мозге необъяснимо для НС, но служит мотивирующим фактором для работы мозга.

И, наконец, ближе к ИИ. Пока у ИИ нет второй сигнальной системы, которая бы служила мотиватором, у него нет чувств и нет души. Нет и стремлений.