Теоретически создать ИИ, в том числе самообучающийся, нет никаких проблем. На эту тему изведены тонны бумаги. Все упирается в технологии.
Когда появятся мегомощные процессоры способные обрабатывать объемы информации сопоставимые с головным мозгом, то появится и ИИ.
Ведь по сути вся наша мыслительная деятельность построена на обработке имеющейся личной информации и выборе вариантов на основе ее же.
Человеческий мозг не является чем-то особенным, если его не наполнять в детстве инфой. Пример тому дети-маугли, которые по своему развитию были похожи на зверей с которыми выросли, так до конца жизни и не сумев достичь уровня человека.
В случае с ИИ, у человечества есть два варианта:
1. Выдавать ему дозированную информацию, т.е. в некотором смысле держать его, как детей-маугли.
2. Срастись с ним (вживить его в мозг), поделившись собственной инфой и дать возможность получать информацию при помощи человеческих органов чувств.
Все другие варианты приведут к неминуемой гибели человечества в результате естественного отбора.
ПС. Возможно, что мы и есть кем-то созданный ИИ на основе биоматериала.