Джордж Сорос

Инструменты контроля с помощью искусственного интеллекта дают неотъемлемое преимущество тоталитарным режимам над открытыми обществами. Эффективная политика в отношении Китая не должна превратиться в лозунг. Она должна быть гораздо более сложной, подробной и практичной, а также должна включать в себя экономический ответ США на проект «Один пояс — один путь».

Другие цитаты по теме

Приятно познакомится, леди и джентльмены. Я — Хияджо Махо. Если точнее, то таким ее сознание было семьдесят восемь часов и двадцать две минуты назад. Другими словами, я оперирую воспоминаниями Хияджо Махо почти четырехдневной давности. Может, все мои действия в компьютере управляются мной, стоящей вон там? Но большинство из вас, наверное, думают, что сохранение памяти в виде данных невозможно. Однако, в таком случае... Будь это правдой, чем тогда являюсь я?

Люди платят за цифровые копии, покупают подписку на тупые онлайн-сериалы. Почему бы им не читать книги, написанные нейросетью? И вы сами говорили, что всё это всего лишь последовательности нулей и единиц.

Я думаю, что наш разум — это программа, в то время как мозг — аналог компьютера. Теоретически возможно скопировать содержимое мозга на компьютер и таким образом создать форму вечной жизни. Сегодня, однако, это не в наших силах.

Капитан, проснитесь. Кое-что случилось — «Дух Огня» попал в ситуацию, которую я не могла предугадать. Профессор Андерс, скорее всего, не обрадуется этому признанию, так что пусть это останется между нами, хорошо? Корабль лежал в дрейфе 28 с лишним лет. Пока вы спали, я успела провести приличный ремонт, так что все системы корабля функционируют идеально. Криокамеры отработали в штатном режиме, жизненные показатели остального экипажа в норме. Что касается меня... Есть чёткие правила, касающиеся отключения И. И. по окончании семилетнего срока службы. Я не стала вас будить — сама всё подготовила. Я не хотела, но... В общем, я надеюсь, вы простите последнее нарушение протокола. Для меня было честью служить вместе с вами, сэр. Присматривайте за всеми в моё отсутствие, ладно? Прощайте, капитан. Это была Серина, конец связи.

— Эта консерва из Королевской Гвардии? Скорее, со свалки.

— Неудачная интеграция искусственного интелекта. Тебе место в корзине. Туда мы тебя и отправим.

Создание искусственного интеллекта может стать последним технологическим достижением человечества, если мы не научимся контролировать риски.

Представьте: вы придумали самообучаемую машину, которая собирает клубнику. Она с каждым днем собирает ее все лучше и лучше, все больше и больше. Ей начинает нравиться собирать клубнику. Логично, что в какой-то момент ей захочется, чтобы на всей планете были сплошные клубничные поля. А теперь представьте, что вы собираетесь выключить такого робота, чтобы он не уничтожил человечество, пытаясь засадить все клубникой. Вы будете первым, кого он убьет.

— Ужасы войны подорвали мою психику.

— Нет у тебя никакой психики.

— Ну, спасибо большое! Gracias. Merci beaucoup. Shukran jazīlan. Danke schön. Arigatou gozaimasu. Thank you.

— Райден, ты ранен?

— Я думал, у них был выбор! Справедливый выбор... Не как у тебя.

— Люди — другие...

— В отличие от И. И.? Ты и твои братья — вы все одинаковые? Манипулируете людьми ради их же безопасности.

— Похоже, мои слова расстроили тебя. Я прошу прощения.

— Нет, просто... Я знаю, что ты прав.

— Что касается И. И. — мы приспосабливаемся, пока учимся. Так же, как поступает любой разум — человеческий или искусственный. Изменение хода развития человечества не в числе моих директив.

— Звучит как утешение.

— Поведение Сэмюэля не соответствует нормальным параметрам.

— Ты знаешь его?

— Так точно. Мы вместе работали на трёх предыдущих миссиях. Он подтвердил слухи о себе.

— Ты довольно высокого мнения о нём.

— Я всегда находил его надёжным... до сих пор.

Недалёк тот день, когда не останется той работы, которую за нас не сможет выполнить искусственный интеллект. Возможно, перед доктором-роботом вам будет не так стеснительно раздеваться, но если вы случайно забудете включить поворотники, то уже вряд ли договоритесь с этой бездушной машиной прямо на месте. Уже сейчас простые модели роботов легко могут заменить депутатов. Ведь они также умеют кивать головой и нажимать на две кнопки.