Представьте: вы придумали самообучаемую машину, которая собирает клубнику. Она с каждым днем собирает ее все лучше и лучше, все больше и больше. Ей начинает нравиться собирать клубнику. Логично, что в какой-то момент ей захочется, чтобы на всей планете были сплошные клубничные поля. А теперь представьте, что вы собираетесь выключить такого робота, чтобы он не уничтожил человечество, пытаясь засадить все клубникой. Вы будете первым, кого он убьет.
Всех, даже самых злобных и отвратительных диктаторов, объединяло одно – они были смертными. Однако для искусственного интеллекта вообще не будет существовать такого понятия, как смерть. Он сможет существовать вечно. От такого зла людям некуда будет спрятаться.
Мы ведь и так уже практически киборги. Телефон, компьютер — это ваше продолжение. Но ваше взаимодействие происходит с помощью движения пальцев или речи, а это очень медленно. Управляемый мозгом интерфейс появится, думаю, через четыре-пять лет.
Искусственный интеллект — тот случай, когда нужно быть достаточно дальновидными в вопросах регулирования, иначе может оказаться слишком поздно.
Деньги изобретались много раз, независимо в разных уголках Земли. Само по себе это изобретение не требует технологических новшеств, это в чистом виде интеллектуальный прорыв.
И вдруг я заметил, что в последнее время эти вопросы перестали меня волновать — бытие Божие больше не вызывает у меня вопросов, не вызывает сомнений. Почему? Вот тут парадокс. Вокруг нас столько свидетельств абсолютного безбожия, творящегося сейчас в России! Вокруг нас столько мерзости, столько людей, которые абсолютно сознательно на моих глазах выпускают из себя мистера Хайда, которые сознательно становятся мерзавцами в поисках творческой энергетики, скудного пропитания, общественного признания.
И вот среди всего этого вера в Бога очень укрепляется. Почему? Парадокс этот просто разрешается. Да потому что мы видим, как наглядно это зло. Оно наглядно наказывается почти у всех деградацией, распадом личности, творческим бесплодием; оно очень наглядно наказывается превращением, иногда даже внешним, физическим. Наша эпоха бесконечно ценна наглядностью.
Вот то, как нам явлено лицо Дьявола, оно оттеняет лицо Господа. Поэтому у меня сомнений в последнее время совсем не стало. Если раньше я мог сказать «да, я сомневаюсь», да, иногда я впадал в совершенно постыдный агностицизм, то уж теперь я совершенно точно знаю, что Бог есть, и свет во тьме светит, и тьма не объемлет его. И в такие минуты особенно остро вспоминаешь Томаса Манна: «Какая прекрасная вещь абсолютное зло! Как просто по отношению к нему определиться».
Роботы и искусственный интеллект все больше и больше входят в нашу жизнь, и с этим трудно бороться. Единственный здоровый подход к этому — менять сознание и сражаться с идеей, что однажды обществом станут править роботы. Я не хотела бы жить в таком мире. Мне дороги человеческие эмоции. С другой стороны, я видела сюжет про американского солдата, который сильно пострадал в Афганистане от химических веществ, у него был страшный ожог внутренних органов и ужасные боли. И для него создали виртуальное пространство, входя в которое он ощущал, что тело его наполнено льдом, — только так он избавлялся от боли. Вот это здорово! Нельзя делить все на черное и белое. Нужно во всем разбираться самим, осознавать проблемы и понимать, какие границы не следует переходить.
Добро определяет мой выбор в свою пользу всею бесконечностью своего положительного содержания и бытия, следовательно, этот выбор бесконечно определен, необходимость его была абсолютная, и произвола в нём — никакого; напротив, при выборе зла нет никакого определяющего основания, никакой необходимости, и, следовательно, бесконечный произвол.
Не будет заблуждением утверждать, что господь допускает зло во имя добра; ибо добром может почитаться лишь то, что само по себе отвечает идее «доброго», а не устанавливается путем сравнения. Что ни говори, пояснял Шлепфус, а здесь неизбежно возникает проблема абсолютно доброго и прекрасного, доброго и прекрасного вне связи со злым и безобразным, — проблема безотносительной качественности. Там, где отпадает сравнение, продолжал он, отпадает масштаб, и уже не может быть речи о тяжелом или легком, о большом или малом. А под этим углом доброе и прекрасное, утратив свою сущность, тоже свелись бы к бескачественному бытию, весьма схожему с небытием и ничуть над ним не возвышающемуся.
Мы же знаем, что история может развиваться по-разному. И когда увеличивается объём зла в человеческой жизни, оно начинает превалировать. И вроде как добро оказывается в меньшинстве. Сегодня христиане в меньшинстве. Сегодня ценности, которые мы проповедуем, либо с ходу отвергаются, либо игнорируются. Почему? Потому что мы предлагаем людям подыматься вверх, идти в гору. А всё, что предлагает массовая культура сегодня, — спускаться вниз. Если человек живёт по голосу инстинкта, если на основе инстинкта создаётся цивилизация, то, конечно, большинство пойдёт именно этим путём, потому что это гораздо легче и проще и не надо, как говорят русские, париться, не нужно себе создавать трудности. Вот такая лёгкая жизнь. Но ведь то же самое сказано в Евангелии: путь спасения — это узкий путь. И в каком-то смысле этот путь всегда связан с подвигом.
Cлайд с цитатой