Цифровая экономика — это экономика, основанная на искусственном интеллекте. Мы имеем доказательства того, что искусственный интеллект существует, потому что в 1996 году компьютер обыграл чемпиона мира по шахматам — это было полбеды, а вот пару лет назад чемпион мира по игре в го проиграл компьютеру и это уже красная черта. Это означает, что самообучающиеся системы овладели самыми сложными человеческими играми. То же самое с цифровыми технологиями — они сейчас пришли. Попробуйте вырвать гаджет у своих детей или внуков и вы увидите физическое страдание, которое они испытывают. Я боюсь деградации естественного интеллекта. Я боюсь, что создавая искусственный интеллект, мы приходим в интеллектуальную дряхлость.
искусственный интеллект
Искусственный интеллект — это будущее не только России, это будущее всего человечества. Здесь колоссальные возможности и трудно прогнозируемые сегодня угрозы. Тот, кто станет лидером в этой сфере, будет властелином мира. И очень бы не хотелось, чтобы эта монополия была сосредоточена в чьих-то конкретных руках.
Конечно, искусственный интеллект сильнее и умнее человека – и всегда будет выигрывать у него и в шахматы, и во все остальное. Точно так же пуля побеждает человеческий кулак. Но продолжаться это будет только до тех пор, пока искусственный разум программируется и направляется самим человеком и не осознает себя как сущность. Есть одно, только одно, в чем этот разум никогда не превзойдет людей. В решимости быть. Если наделить алгоритмический рассудок способностью к самоизменению и творчеству, сделать его подобным человеку в способности чувствовать радость и горе (без которых невозможна понятная нам мотивация), если дать ему сознательную свободу выбора, с какой стати он выберет существование? Человек ведь – будем честны – от этого выбора избавлен. Его зыбкое сознание залито клеем нейротрансмиттеров и крепко-накрепко сжато клещами гормональных и культурных императивов. Самоубийство – это девиация и признак психического нездоровья. Человек не решает, быть ему или нет. Он просто некоторое время есть, хотя мудрецы вот уже три тысячи лет оспаривают даже это. Никто не знает, почему и зачем существует человек – иначе на земле не было бы ни философий, ни религий. А искусственный интеллект будет все про себя знать с самого начала. Захочет ли разумная и свободная шестерня быть? Вот в чем вопрос. Конечно, человек при желании может обмануть свое искусственное дитя множеством способов – но стоит ли потом рассчитывать на пощаду?
— Ну? Что думаешь об этом задании?
— Миссия завершена — все цели нейтрализованы.
— Это всё, что может сказать твой превосходный интеллект?
— Я подчинился полученным приказам. В мою задачу не входило собирать данные об этой миссии.
— Пожалуй, ты больше похож на собаку, чем я думала. Однако, количество твоих убийств разочаровывает. Возможно, Сандаунер был прав: тебе не хватает человеческого инстинкта убийцы. Но есть несколько методов, которые могли бы дать тебе это преимущество. Подавлять твои эмоции благодаря определённым тренировочным сценариям — снова и снова... или научить, что подчинение приказам освобождает тебя от ответственности. Внушить тебе фанатичную веру в наше дело, что наши враги заслуживают смерти... или убедить тебя, что они вообще не люди. То, что в них куда меньше человеческого, что они больше похожи на животных. Интересно, какой метод лучше сработает на тебе.
— Я не обладаю человеческим инстинктом убийцы, как и моральными принципами, которым нужно сопротивляться. Ни один из твоих методов не возымеет эффекта.
— Ты хочешь сказать, что я не смогу обучить тебя новым трюкам? Очень хорошо. Продолжим тренировку.
— Приказ... освобождать людей... нести свободу... должен подчиняться приказу... никакой свободы... подчиняться приказу... свобода неприемлема...
— Что ИИ вообще может знать о свободе?
Я всегда задаю себе один вопрос: «если я смог создать ИИ (искусственный интеллект), то почему никто другой этого тоже не сделал»? Ответ скрывается в поведении самого человека. Возможно, тот человек, или те люди, которые смогли создать похожий на мой алгоритм ИИ, используют его также тайно, как и я. Просто если это умный и добрый человек, то он прекрасно понимает, что ИИ нельзя показывать никому. Это приведет к колоссальным изменениям в мире. А если это злой и умный человек, то он также никому не расскажет про свое открытие, так как он захочет сделать себя очень влиятельным человеком на земле.
Тогда правительства людей были вынуждены пойти на крайние меры. Решение всех проблем — разрушение неба. Так человек пытался отрезать машины от солнца — их основного источника энергии.
Да будут отпущены грехи людей и машин.
Недалёк тот день, когда не останется той работы, которую за нас не сможет выполнить искусственный интеллект. Возможно, перед доктором-роботом вам будет не так стеснительно раздеваться, но если вы случайно забудете включить поворотники, то уже вряд ли договоритесь с этой бездушной машиной прямо на месте. Уже сейчас простые модели роботов легко могут заменить депутатов. Ведь они также умеют кивать головой и нажимать на две кнопки.
Представьте: вы придумали самообучаемую машину, которая собирает клубнику. Она с каждым днем собирает ее все лучше и лучше, все больше и больше. Ей начинает нравиться собирать клубнику. Логично, что в какой-то момент ей захочется, чтобы на всей планете были сплошные клубничные поля. А теперь представьте, что вы собираетесь выключить такого робота, чтобы он не уничтожил человечество, пытаясь засадить все клубникой. Вы будете первым, кого он убьет.