Создание искусственного интеллекта может стать последним технологическим достижением человечества, если мы не научимся контролировать риски.
Искусственный интеллект — это будущее не только России, это будущее всего человечества. Здесь колоссальные возможности и трудно прогнозируемые сегодня угрозы. Тот, кто станет лидером в этой сфере, будет властелином мира. И очень бы не хотелось, чтобы эта монополия была сосредоточена в чьих-то конкретных руках.
Научная фантастика может быть полезной — она стимулирует воображение и избавляет от страха перед будущим. Однако научные факты могут оказаться намного поразительнее. Научная фантастика даже не предполагала наличия таких вещей, как черные дыры.
Цифровая экономика — это экономика, основанная на искусственном интеллекте. Мы имеем доказательства того, что искусственный интеллект существует, потому что в 1996 году компьютер обыграл чемпиона мира по шахматам — это было полбеды, а вот пару лет назад чемпион мира по игре в го проиграл компьютеру и это уже красная черта. Это означает, что самообучающиеся системы овладели самыми сложными человеческими играми. То же самое с цифровыми технологиями — они сейчас пришли. Попробуйте вырвать гаджет у своих детей или внуков и вы увидите физическое страдание, которое они испытывают. Я боюсь деградации естественного интеллекта. Я боюсь, что создавая искусственный интеллект, мы приходим в интеллектуальную дряхлость.
Искусственный интеллект — тот случай, когда нужно быть достаточно дальновидными в вопросах регулирования, иначе может оказаться слишком поздно.
Мы можем связывать мироустройство с именем Господа, но это будет безличный Господь. В законах физики нет никаких личностных особенностей.
Я боюсь, что искусственный интеллект сможет полностью заменить человека. Если люди могут создавать компьютерные вирусы, кто-то создаст исскуственный интеллект, который сможет улучшать и воспроизводить себя. Он станет новой формой жизни, которая превзойдет человечество.
Мы две тысячи лет восхищаемся Юлием Цезарем не за то, что он полководец (полководцев — как грязи, на самом деле), а за то, что он мог делать одновременно три дела. В новом поколении каждый второй на двух — трёх экранах может работать. Но замечательно сказал один из студентов, которому я как раз, обращая внимание на этот факт, сказал: «Вот вы якобы слушаете мою лекцию, при этом гуглите и общаетесь в сетях». Он сказал: «Да, мы это умеем, но мы это делаем как утка». Я говорю: «В каком смысле?» А он говорит: «Утка и плавает и ходит и летает, но все три дела делает плохо». И это так, потому что идёт деградация системного мышления, ужасная деградация памяти...
Демон Максвелла следит за энергией частиц, Демон Лапласа предсказывает их движение, Демон Дарвина определяет что-то там в эволюции… Демон Пейна должен следить за соблюдением прав людей. Решать кто прав, а кто виноват.
Я думаю, что наш разум — это программа, в то время как мозг — аналог компьютера. Теоретически возможно скопировать содержимое мозга на компьютер и таким образом создать форму вечной жизни. Сегодня, однако, это не в наших силах.
Представьте: вы придумали самообучаемую машину, которая собирает клубнику. Она с каждым днем собирает ее все лучше и лучше, все больше и больше. Ей начинает нравиться собирать клубнику. Логично, что в какой-то момент ей захочется, чтобы на всей планете были сплошные клубничные поля. А теперь представьте, что вы собираетесь выключить такого робота, чтобы он не уничтожил человечество, пытаясь засадить все клубникой. Вы будете первым, кого он убьет.
Cлайд с цитатой