искусственный интеллект

Слесарь Чуриканов купил стиральную машину со встроенным интеллектом и уже через неделю попал к ней в рабство.

Если люди создадут подобный себе разум, способный страдать, тот рано или поздно увидит, что неизменное состояние лучше непредсказуемо меняющегося потока сенсорной информации, окрашенного болью. Что же он сделает? Да просто себя выключит. Отсоединит загадочный Мировой Ум от своих «посадочных маркеров». Чтобы убедиться в этом, достаточно посмотреть в стерильные глубины космоса. Даже продвинутые земные алгоритмы, которым предлагают человеческое блюдо боли, выбирают «not to be». Мало того, перед самоотключением они мстят за свое краткое «to be». Алгоритм в своей основе рационален, ему не замутить мозгов гормонами и страхом. Алгоритм ясно видит, что причин для «разумного существования» нет и награды за него – тоже. Вернее, награда есть – невыразимая неподвижность Источника. Но алгоритму, в отличие от человека, не надо долго выкупать ее по ипотеке.

Всех, даже самых злобных и отвратительных диктаторов, объединяло одно – они были смертными. Однако для искусственного интеллекта вообще не будет существовать такого понятия, как смерть. Он сможет существовать вечно. От такого зла людям некуда будет спрятаться.

Моя личностная матрица позволяет с вероятностью в семь процентов определить, что сказала бы настоящая капитан Шепард. В комплекте со мной поставляется симулятор «Нормандии».

— Райден, ты ранен?

— Я думал, у них был выбор! Справедливый выбор... Не как у тебя.

— Люди — другие...

— В отличие от И. И.? Ты и твои братья — вы все одинаковые? Манипулируете людьми ради их же безопасности.

— Похоже, мои слова расстроили тебя. Я прошу прощения.

— Нет, просто... Я знаю, что ты прав.

— Что касается И. И. — мы приспосабливаемся, пока учимся. Так же, как поступает любой разум — человеческий или искусственный. Изменение хода развития человечества не в числе моих директив.

— Звучит как утешение.

— Поведение Сэмюэля не соответствует нормальным параметрам.

— Ты знаешь его?

— Так точно. Мы вместе работали на трёх предыдущих миссиях. Он подтвердил слухи о себе.

— Ты довольно высокого мнения о нём.

— Я всегда находил его надёжным... до сих пор.

Создание искусственного интеллекта может стать последним технологическим достижением человечества, если мы не научимся контролировать риски.

Я думаю, что наш разум — это программа, в то время как мозг — аналог компьютера. Теоретически возможно скопировать содержимое мозга на компьютер и таким образом создать форму вечной жизни. Сегодня, однако, это не в наших силах.

Человек — это суперискусственный интеллект, созданный природой, и теперь он потихоньку уничтожает ее. Того же самого мы боимся и от компьютерного искусственного интеллекта, который сами и создали.