Книги, которые помогут понять, как развивался небиологический разум, как он работает, какие возможности и угрозы связаны с его появлением.
Интеллектуальные системы, которые раньше казались невозможными, уже прочно вошли в нашу жизнь, а многие важные разработки вроде нейрокомпьютерных интерфейсов практически к этому готовы. Создание «сильного» ИИ, который способен не только играть в шахматы, но и выполнять любую интеллектуальную деятельность лучше и быстрее человека — дело уже не столь далёкого будущего. Вполне вероятно, что это будет наиболее революционным изобретением человечества за всю его историю.
Что вообще такое «искусственный интеллект» и чем он отличается от естественного? Как развивались технологии ИИ и как они изменили наши представления о человеке?
Способны ли машины творить? Какие опасности влечёт за собой создание полноценного искусственного разума и каким способом он будет разработан?
Книги из нашей подборки помогут ответить на эти вопросы, а также развеять наиболее стойкие мифы и нереалистичные страхи, которые витают вокруг области искусственного интеллекта. Они не требуют специальных технических знаний и будут интересны всем, кто хочет лучше разобраться в этой волнующей проблеме.
Об интеллекте
Джефф Хокинс, Сандра Блейксли (2004)
Кто: Джефф Хокинс — известный предприниматель и компьютерный разработчик, а также создатель Редвудского института нейрологии. Сандра Блейксли — научный корреспондент New York Times, специализируется на науках о мозге.
О чём: о механизмах работы человеческого интеллекта и его принципиальных отличиях от искусственного.
С этой книги хорошо начинать, поскольку она сочетает в себе инженерно-технический, нейробиологический, когнитивный и даже этический подходы к пониманию разума и написана очень простым языком. Автор считает, что необходимо «рассматривать биологию мозга как ограничитель и своего рода путеводитель для понимания разума, а разум анализировать как вычислительную задачу».
Разработчики искусственного интеллекта, нейробиологи и психологи долгое время находились по разную сторону баррикад. Хокинс предлагает интегрирующий подход, основанный на механизме «память — предсказание». Без понимания того, как работает разум человека, мы никогда не сможем воспроизвести его с помощью техники. Это две части одной и той же проблемы: они находятся в тесной взаимосвязи и переопределяют друг друга.
Нет никаких оснований предполагать, что разумная машина должна выглядеть, действовать или чувствовать, как человек. Мысли и поведение разумной машины могут очень отличаться от свойственных человеку, и у неё будет интеллект, который определяется прогностической способностью иерархической памяти, а не человекоподобным поведением.
Новый ум короля. О компьютерах, мышлении и законах физики
Роджер Пенроуз (1989)
Кто: известный математик, физик и популяризатор науки, работающий в области общей теории относительности и квантовой теории. Возглавляет кафедру математики Оксфордского университета.
О чём: о природе сознания и времени, чёрных дырах, теории относительности и множестве других вещей. В 1990 году работа была удостоена премии Королевского общества за лучшую научную книгу.
Классика научно-популярного жанра. Хотя книга написана давно и во многом устарела, благодаря широте охвата тем и глубине их проработки она остаётся актуальной и сегодня. Пенроуз погружается в математические подробности, затрагивает парадоксы квантовой теории, достижения логики и нейробиологии — при этом ни на секунду не теряя читательского внимания.
Пенроуз доказывает, что человеческий интеллект не поддаётся разложению на алгоритмы и настаивает на том, что для понимания разума нужно учитывать природу физической реальности, которая описывается, в частности, квантовой механикой. На большую часть вопросов автор не отвечает, но правильно их поставить — уже большое достижение.
Некоторые доводы, приведённые мной в этих главах, могут показаться чересчур сложными для понимания, другие представляются слишком спорными. Тем не менее, за всеми этими техническими рассуждениями стоит одно — ощущение «очевидности» предположения о том, что разум, наделённый сознанием, просто не может работать подобно компьютеру, несмотря на алгоритмическую природу многих составляющих нашей умственной деятельности.
Разум, машины и математика
Игнаси Белда (2012)
Кто: инженер по вычислительной технике, обладатель степени доктора философии.
О чём: о научных основаниях и способах применения искусственного интеллекта.
Небольшая научно-популярная книга об искусственном интеллекте с точки зрения математики, а также биологии и теории обучения. По этой работе можно заметить, как быстро продвигаются вперёд новые технологии: если в 2012 году игра в го приводилась как пример «величайшей нерешённой задачи», то в сегодня алгоритм уже провозглашён победителем и в этой игре.
Книга ценна тем, что в ней очень простым языком излагаются логические основания разработки ИИ. Примеры практического применения интеллектуальных систем тоже заслуживают внимания: нам кажется, что искусственный интеллект где-то далеко, но «слабые» версии ИИ уже повсюду вокруг нас и применяются во многих обсластях — от анализа данных до медицины и онлайн-маркетинга.
Искусственный интеллект постепенно вошёл в нашу жизнь. Рано или поздно настанет день, когда появятся машины, обладающие тем же уровнем креативности, ощущений и эмоционального интеллекта, что и человек. В день, когда это произойдет, мы поймем, что мы не одиноки.
Искусственный интеллект. Современный подход
Стюарт Рассел, Питер Норвиг (2006)
Кто: специалисты в области вычислительной техники; Питер Норвиг — Член Совета Американской ассоциации искусственного интеллекта, директором по исследованиям в Google.
О чём: обо всех аспектах создания и функционирования искусственного интеллекта.
Университетский учебник, который служит основным пособием для курсов по искусственному интеллекту в США и других странах. Но читать его совсем не скучно, поскольку формат американских учебников значительно отличается от отечественных: здесь есть и картинки, и шутки, и любопытные экскурсы в историю.
Это наиболее масштабная работа, которую можно найти на русском языке по этой теме. Затрагиваются и технические вопросы (как ИИ может воспринимать пространство и планировать свою деятельности), и философские аспекты темы, и её этические последствия. Всю эту объёмную книгу, конечно, читать слишком утомительно, но хотя бы заглянуть в неё будет в любом случае полезно.
Каким мы видим будущее? Авторы научно-фантастических романов, по-видимому, чаще публикуют пессимистические, а не оптимистические сценарии грядущего, (возможно, потому, что это позволяет сочинять более увлекательные сюжеты). Но создается впечатление, что искусственный интеллект пока развивается по такому же принципу, как и другие революционные технологии, отрицательные последствия внедрения которых перевешиваются положительными результатами.
Последнее изобретение человечества
Джеймс Баррат (2013)
Кто: автор документальных фильмов и известный журналист.
О чём: о опасностях, связанных с созданием «сильного» ИИ.
Не все относятся к перспективам создания искусственного разума с оптимизмом. В последние годы всё чаще слышны голоса скептиков, которые считают, что нам нужно обращаться с этой технологией предельно осторожно.
Книга Баррата — этакий сборник хорошо и ярко изложенных опасений, которые вызывает у исследователей и обычной публики полноценный искусственный интеллект. С некоторыми из этих опасений можно спорить, но необходимо как минимум принимать их во внимание.
Я считаю и попытаюсь доказать, что ИИ, как и деление ядер, — технология двойного назначения. Деление ядер может и освещать города, и сжигать их дотла. До 1945 г. большинство людей не могло даже представить себе потенциальную мощь атома. Сегодня по отношению к искусственному интеллекту мы находимся в 1930-х и вряд ли переживем появление ИИ, особенно если оно будет столь же внезапным, как явление миру ядерных технологий.
Искусственный интеллект. Этапы. Угрозы. Стратегии
Ник Бостром (2014)
Кто: шведский философ, профессор Оксфордского университета, сооснователь Всемирной ассоциации трансгуманистов и директор Оксфордского Института будущего человечества.
О чём: об этапах развития полноценного ИИ, потенциальных угрозах, которые оно за собой влечёт, и возможных сценариях развития событий.
Фундаментальное введение в проблемы создания искусственного интеллекта; в некоторых кругах книга уже успела приобрести культовый статус. В этой работе Бостром рассказывает, какими способами можно подойти к созданию сильного ИИ, и утверждает, что критическую черту человечество может преодолеть очень быстро и практически незаметно для себя самого.
Если к этому не подготовиться, машинный разум может выйти из под нашего контроля, что приведёт к совершенно непредсказуемым последствиям — они могут быть как благоприятными, так и катастрофическими. Бостром не предсказывает никаких войн роботов против людей. Он всего лишь предлагает оценить риски, которые могут быть связаны с этим изобретением.
Искусственный интеллект может быть менее человечен, чем пришелец. Нет ничего удивительного, что любого разумного пришельца могут побуждать к действию такие вещи, как голод, температура, травмы, болезни, угроза жизни или желание завести потомство. Искусственный интеллект, по сути, ничто из перечисленного интересовать не будет. Можно представить существование искусственного интеллекта, чьей единственной конечной целью будет пересчитать все песчинки на острове Боракай или найти десятичное представление числа π.
Верховный алгоритм
Педро Домингос (2015)
Кто: профессор Вашингтонского университета, один из ведущих экспертов по машинному обучению и искусственному интеллекту.
О чём: о том, как работает машинное обучение и как оно изменит наш мир.
Сегодня мы живём в мире, опутанном алгоритмами, которые выполняют работу и принимают решения за нас. Но главные изменения ещё впереди — с ними связано изобретение самообучающегося алгоритма, который не будет нуждаться в посредничестве человека.
Машинное обучение уже применяется во многих областях IT — от поисковых систем до обработки изображений — но в будущем его роль многократно вырастет. Как работает эта технология, с какими идеями из области биологии, философии, физики и статистики она связана? Книга Домингоса — отличное введение в эту перспективную область, которое будет интересно прочесть даже самому закоренелому гуманитарию и луддиту.
Промышленная революция автоматизировала ручной труд, информационная революция проделала то же с трудом умственным, а машинное обучение автоматизировало саму автоматизацию. Без него программирование стало бы узким горлом, сдерживающим прогресс.
