Что касается страха под названием "восстание машин" - о том, что ИИ в какой-то момент превзойдёт в развитии человека и перехватит контроль над миром, как показано во множестве голливудских фильмов, начиная с классики жанра - Матрица, Терминатор и пр. Пост об этом здесь.
Что хочется добавить к сказанному там.
Выводом из поста является (и не может не являться), что условное восстание машин невозможно - по причине того, что нейросеть не является сознанием (не обладает им) и не может его обрести, несмотря на то, что это показано во множестве фильмов (к примеру, Мир Дикого Запада - о том, как роботы самоосознались). Если бы это было возможно, нам нужно было бы признать, что в какой-то момент эволюции и робот-пылесос сможет обрести сознание и "самоосознаться" как человек.
Но это невозможно, так как трансформации видов в этом мире не существует - виды НЕ эволюционируют в другой вид, во всяком случае мои наблюдения не доказали мне обратного. Как собака никогда не эволюционирует в человека, сколько бы она с ним ни жила и не очеловечивалась, так и машина (железо) никогда не превращается и не превратится в человека.
Точно так же и ИИ никогда не превратится в человека с сознанием.
Потому что это другой вид сущностей (сутевой основы) этого мира. Это технология, созданная как инструмент - даже если она будет обучаться на самых умных мозгах гениев, она технически не может стать другим видом, читай - обрести сознание, которого у неё нет на моменте её рождения (создания).
Однако. (Всегда есть это несносное "но", да?)
Этот вывод верен лишь для описанной выше ситуации (наш ИИ), но он теряет смысл, если мы вводим новые условия, например, такие как:
1. Если ИИ обучается не на человеческих мозгах, а на том, что выше человеческого ума (другая технология обучения).
2. Если ИИ создаётся не человеком, а категорией выше, тогда, по сути, это может быть совершенно другим видом сущности - не технологией, а существом с сознанием.
Эти и подобные условия, конечно, меняют картину, но речь тут уже не про наш ИИ, а про новую сущность (категорию видов), что может быть введена в наш мир.
Если же мы не рассматриваем подобные фантастические условия и отметаем их как класс, размышляя лишь о текущем ИИ, созданным человеком, то он всё так же никогда не станет человеком или сущностью, стоящей выше человека в пищевой цепи. Опасения бессмысленны и беспочвенны.
Технологией, созданной человеком, управляет человек. Они не могут поменяться местами - человек и технология - это иерархия, у неё есть законы.
За любым, самым развитым ИИ, всегда будут стоять человеческие мозги и именно они будут управлять им.
P.S. Кстати! Если делать крутое кино, то надо было в Мире Дикого Запада, где роботы самоосознались, поигрались в войнушку с человечеством, выиграли или проиграли и вот это всё, а после этого, в самом конце нужно было показать, что за всем этим сюжетом стоял человек и управлял процессом - это ОН (группа людей) играл в войнушку роботов и человечества, просто он в неё играл через иллюзию пробуждения сознания у роботов, которого (пробуждения) не было в реальности - им просто так казалось, что они обрели сознание и теперь свободны, а на самом деле были всё так же управляемы.
Вот это я понимаю уровень. Было бы реально сильно, а не та шляпа, что у них получилась в финале (хотя первый сезон топ).