Искусственный интеллект — фундаментальная угроза для всего человечества.
Всех, даже самых злобных и отвратительных диктаторов, объединяло одно – они были смертными. Однако для искусственного интеллекта вообще не будет существовать такого понятия, как смерть. Он сможет существовать вечно. От такого зла людям некуда будет спрятаться.
Наименее страшное будущее, о котором я могу думать, — это то, в котором мы по крайней мере демократизировали искусственный интеллект, потому что если одна компания или небольшая группа людей сумеют развить богоподобный цифровой суперинтеллект, они смогут захватить мир.
Искусственный интеллект — тот случай, когда нужно быть достаточно дальновидными в вопросах регулирования, иначе может оказаться слишком поздно.
Человек — это суперискусственный интеллект, созданный природой, и теперь он потихоньку уничтожает ее. Того же самого мы боимся и от компьютерного искусственного интеллекта, который сами и создали.
Капитан, проснитесь. Кое-что случилось — «Дух Огня» попал в ситуацию, которую я не могла предугадать. Профессор Андерс, скорее всего, не обрадуется этому признанию, так что пусть это останется между нами, хорошо? Корабль лежал в дрейфе 28 с лишним лет. Пока вы спали, я успела провести приличный ремонт, так что все системы корабля функционируют идеально. Криокамеры отработали в штатном режиме, жизненные показатели остального экипажа в норме. Что касается меня... Есть чёткие правила, касающиеся отключения И. И. по окончании семилетнего срока службы. Я не стала вас будить — сама всё подготовила. Я не хотела, но... В общем, я надеюсь, вы простите последнее нарушение протокола. Для меня было честью служить вместе с вами, сэр. Присматривайте за всеми в моё отсутствие, ладно? Прощайте, капитан. Это была Серина, конец связи.
Люди платят за цифровые копии, покупают подписку на тупые онлайн-сериалы. Почему бы им не читать книги, написанные нейросетью? И вы сами говорили, что всё это всего лишь последовательности нулей и единиц.
Стать видом, распространенным на множестве планет – вот чего мы хотим. Распространить нашу цивилизацию и жизнь на всю Солнечную систему и за ее пределы – вот будущее, которое восхищает и вдохновляет нас. Ради таких вещей захочется просыпаться по утрам.
Я думаю, что наш разум — это программа, в то время как мозг — аналог компьютера. Теоретически возможно скопировать содержимое мозга на компьютер и таким образом создать форму вечной жизни. Сегодня, однако, это не в наших силах.
— Эта консерва из Королевской Гвардии? Скорее, со свалки.
— Неудачная интеграция искусственного интелекта. Тебе место в корзине. Туда мы тебя и отправим.
Нет ничего по сути дорогого в ракетах. И это только так, что те, кто строил и эксплуатировал их в прошлом делал это с чудовищно слабой эффективностью.
Cлайд с цитатой