Искусственный интеллект — это будущее не только России, это будущее всего человечества. Здесь колоссальные возможности и трудно прогнозируемые сегодня угрозы. Тот, кто станет лидером в этой сфере, будет властелином мира. И очень бы не хотелось, чтобы эта монополия была сосредоточена в чьих-то конкретных руках.
Наименее страшное будущее, о котором я могу думать, — это то, в котором мы по крайней мере демократизировали искусственный интеллект, потому что если одна компания или небольшая группа людей сумеют развить богоподобный цифровой суперинтеллект, они смогут захватить мир.
Приведу ещё один документ. Это доклад Международной комиссии по репарациям с Германии во главе с И. М. Майским, подготовленный в феврале 1945 года. В задачи комиссии входило определение формулы, согласно которой побеждённая Германия должна была возместить понесённый ущерб державам-победительницам. Комиссия пришла к следующему выводу: «количество затраченных Германией на советском фронте солдато-дней превосходит это же количество на всех других союзных фронтах по крайней мере в 10 раз. Советский фронт оттягивал также четыре пятых германских танков и около двух третей германских самолетов». В целом на долю СССР пришлось около 75 процентов всех военных усилий антигитлеровской коалиции. Красная армия за годы войны «перемолола» 626 дивизий стран «оси», из которых 508 — германские. 28 апреля 1942 года Рузвельт в своем обращении к американской нации заявил: «Русские войска уничтожили и продолжают уничтожать больше живой силы, самолетов, танков и пушек нашего общего неприятеля, чем все остальные Объединенные Нации вместе взятые». Черчилль в послании Сталину 27 сентября 1944 года писал, что «именно русская армия выпустила кишки из германской военной машины…».
Тем, кто на протяжении последних пятнадцати лет старается развивать свои вооружения, пытается получить от России одностороннее преимущество, выдать незаконные и сложные с международно-правовой точки зрения ограничения и санкции с целью сдержать развитие нашей страны, в том числе в военной области, скажу: всё то, чему вы пытались помешать, воспрепятствовать, проводя такую политику, уже свершилось. И сдержать Россию не удалось.
Цифровая экономика — это экономика, основанная на искусственном интеллекте. Мы имеем доказательства того, что искусственный интеллект существует, потому что в 1996 году компьютер обыграл чемпиона мира по шахматам — это было полбеды, а вот пару лет назад чемпион мира по игре в го проиграл компьютеру и это уже красная черта. Это означает, что самообучающиеся системы овладели самыми сложными человеческими играми. То же самое с цифровыми технологиями — они сейчас пришли. Попробуйте вырвать гаджет у своих детей или внуков и вы увидите физическое страдание, которое они испытывают. Я боюсь деградации естественного интеллекта. Я боюсь, что создавая искусственный интеллект, мы приходим в интеллектуальную дряхлость.
Искусственный интеллект — тот случай, когда нужно быть достаточно дальновидными в вопросах регулирования, иначе может оказаться слишком поздно.
Что происходит в некоторых странах, где они работают? Их закрывают. Это что значит? Боятся конкуренции. Мы же здесь никого не закрываем. А им создают условия, невозможных для осуществления их прямых функций как средств массовой информации. Это значит, мы выигрываем. У нас есть всего одна радиостанция. Мы же не являемся монополистами на этом поле информационном, у нас нет мировых средств массовой информации, таких как CNN, Fox News, BBC. У нас есть всего одно достаточно скромное СМИ.
Демон Максвелла следит за энергией частиц, Демон Лапласа предсказывает их движение, Демон Дарвина определяет что-то там в эволюции… Демон Пейна должен следить за соблюдением прав людей. Решать кто прав, а кто виноват.
Мы две тысячи лет восхищаемся Юлием Цезарем не за то, что он полководец (полководцев — как грязи, на самом деле), а за то, что он мог делать одновременно три дела. В новом поколении каждый второй на двух — трёх экранах может работать. Но замечательно сказал один из студентов, которому я как раз, обращая внимание на этот факт, сказал: «Вот вы якобы слушаете мою лекцию, при этом гуглите и общаетесь в сетях». Он сказал: «Да, мы это умеем, но мы это делаем как утка». Я говорю: «В каком смысле?» А он говорит: «Утка и плавает и ходит и летает, но все три дела делает плохо». И это так, потому что идёт деградация системного мышления, ужасная деградация памяти...
Искусство существует не для того, чтобы потакать низменным мотивам, низменным интересам и низкому профилю культуры. Сама культура существует для того, чтобы поднимать этот уровень.
Представьте: вы придумали самообучаемую машину, которая собирает клубнику. Она с каждым днем собирает ее все лучше и лучше, все больше и больше. Ей начинает нравиться собирать клубнику. Логично, что в какой-то момент ей захочется, чтобы на всей планете были сплошные клубничные поля. А теперь представьте, что вы собираетесь выключить такого робота, чтобы он не уничтожил человечество, пытаясь засадить все клубникой. Вы будете первым, кого он убьет.
Cлайд с цитатой