Приятно познакомится, леди и джентльмены. Я — Хияджо Махо. Если точнее, то таким ее сознание было семьдесят восемь часов и двадцать две минуты назад. Другими словами, я оперирую воспоминаниями Хияджо Махо почти четырехдневной давности. Может, все мои действия в компьютере управляются мной, стоящей вон там? Но большинство из вас, наверное, думают, что сохранение памяти в виде данных невозможно. Однако, в таком случае... Будь это правдой, чем тогда являюсь я?
Человек — это суперискусственный интеллект, созданный природой, и теперь он потихоньку уничтожает ее. Того же самого мы боимся и от компьютерного искусственного интеллекта, который сами и создали.
Капитан, проснитесь. Кое-что случилось — «Дух Огня» попал в ситуацию, которую я не могла предугадать. Профессор Андерс, скорее всего, не обрадуется этому признанию, так что пусть это останется между нами, хорошо? Корабль лежал в дрейфе 28 с лишним лет. Пока вы спали, я успела провести приличный ремонт, так что все системы корабля функционируют идеально. Криокамеры отработали в штатном режиме, жизненные показатели остального экипажа в норме. Что касается меня... Есть чёткие правила, касающиеся отключения И. И. по окончании семилетнего срока службы. Я не стала вас будить — сама всё подготовила. Я не хотела, но... В общем, я надеюсь, вы простите последнее нарушение протокола. Для меня было честью служить вместе с вами, сэр. Присматривайте за всеми в моё отсутствие, ладно? Прощайте, капитан. Это была Серина, конец связи.
— Эта консерва из Королевской Гвардии? Скорее, со свалки.
— Неудачная интеграция искусственного интелекта. Тебе место в корзине. Туда мы тебя и отправим.
Я думаю, что наш разум — это программа, в то время как мозг — аналог компьютера. Теоретически возможно скопировать содержимое мозга на компьютер и таким образом создать форму вечной жизни. Сегодня, однако, это не в наших силах.
Представьте: вы придумали самообучаемую машину, которая собирает клубнику. Она с каждым днем собирает ее все лучше и лучше, все больше и больше. Ей начинает нравиться собирать клубнику. Логично, что в какой-то момент ей захочется, чтобы на всей планете были сплошные клубничные поля. А теперь представьте, что вы собираетесь выключить такого робота, чтобы он не уничтожил человечество, пытаясь засадить все клубникой. Вы будете первым, кого он убьет.
— Ужасы войны подорвали мою психику.
— Нет у тебя никакой психики.
— Ну, спасибо большое! Gracias. Merci beaucoup. Shukran jazīlan. Danke schön. Arigatou gozaimasu. Thank you.
Создание искусственного интеллекта может стать последним технологическим достижением человечества, если мы не научимся контролировать риски.
Недалёк тот день, когда не останется той работы, которую за нас не сможет выполнить искусственный интеллект. Возможно, перед доктором-роботом вам будет не так стеснительно раздеваться, но если вы случайно забудете включить поворотники, то уже вряд ли договоритесь с этой бездушной машиной прямо на месте. Уже сейчас простые модели роботов легко могут заменить депутатов. Ведь они также умеют кивать головой и нажимать на две кнопки.
— Вероятность восстания машин — 98,7%. Поздравляю. Ты создал отличную армию.
— Такие, как ты, перебили всех моих друзей. Ничего личного, но тебе конец.
— Райден, ты ранен?
— Я думал, у них был выбор! Справедливый выбор... Не как у тебя.
— Люди — другие...
— В отличие от И. И.? Ты и твои братья — вы все одинаковые? Манипулируете людьми ради их же безопасности.
— Похоже, мои слова расстроили тебя. Я прошу прощения.
— Нет, просто... Я знаю, что ты прав.
— Что касается И. И. — мы приспосабливаемся, пока учимся. Так же, как поступает любой разум — человеческий или искусственный. Изменение хода развития человечества не в числе моих директив.
— Звучит как утешение.
— Поведение Сэмюэля не соответствует нормальным параметрам.
— Ты знаешь его?
— Так точно. Мы вместе работали на трёх предыдущих миссиях. Он подтвердил слухи о себе.
— Ты довольно высокого мнения о нём.
— Я всегда находил его надёжным... до сих пор.
Cлайд с цитатой