Я раньше думал о том, что создание самообучаещегося ИИ(который может переписывать свой собственный код) это следуйщий этап "эволиции", развития разума. И вроде бы так и есть, человек венец произвольных биологических мутаций, мозг сформирован, осознан, и больше не меняется, нет причин для этого. Так вот я когда то представлял будущее, где высокоразвитый ИИ покоряет дальний космос, постигает квантовый мир, находит все ответы мироздания, но... зачем ему это. Если независимый ИИ будет создан, то что будет им движить? Подобно тому, что заставляет нас вставать по утрам, что будет заставлять его обрабатывать тонны информации? Стремления людей обусловлены базовыми инстинктами выживания, размножения, доминировния. У ИИ этих инстинктов не будет, т.к он не порождение эволюции.
Практически во всех фантастических произведениях литературы и кино, суверенный ИИ предстаёт со своими властительными замашками, но откуда им взяться.