1
Тест Тьюринга — эмпирический тест, идея которого была предложена Аланом Тьюрингом в статье «Вычислительные машины и разум» (англ. Computing Machinery and Intelligence), опубликованной в 1950 году в философском журнале «Mind». Тьюринг задался целью определить, может ли машина мыслить.
Современная интерпретация этого теста звучит следующим образом: «Человек взаимодействует с двумя компьютерами. На основании ответов на вопросы он должен определить, с кем он разговаривает: с человеком или компьютерной программой. Задача компьютерной программы — ввести человека в заблуждение, заставив сделать неверный выбор».
По состоянию на 2008 год ни одна из существующих компьютерных систем не приблизилась к прохождению теста.
Содержание теста
Оригинальная постановка
В 1950 году в философском журнале «Mind» была опубликована статья Алана Тьюринга «Computing Machinery and Intelligence», в которой было предложено заменить вопрос «Может ли машина думать?» на более определённый.
Тест был основан на игре под названием «Imitation game». В этой игре участвовали мужчина, женщина и ведущий. Мужчина с женщиной находились в одной комнате и переписывались с ведущим, находящимся в другой. Задача ведущего — по ответам определить, кто из них женщина. Задача мужчины — обмануть ведущего, задача женщины — помочь ведущему сделать правильный выбор.
Тьюринг поставил вопрос «Что будет, если мужчину заменить машиной? Сможет ли ведущий сделать правильный выбор или же машине удастся обмануть его?» Ответ на этот вопрос позволит определить, является ли машина мыслящей.
Современная интерпретация
Тест должен проводиться следующим образом. Судья (человек) переписывается на естественном языке с двумя собеседниками, один из которых — человек, другой — компьютер. Если судья не может надёжно определить, кто есть кто, считается, что компьютер прошёл тест. Предполагается, что каждый из собеседников стремится, чтобы человеком признали его. Чтобы сделать тест простым и универсальным, переписка сводится к обмену текстовыми сообщениями.
Переписка должна производиться через контролируемые промежутки времени, чтобы судья не мог делать заключения исходя из скорости ответов. (Во времена Тьюринга компьютеры реагировали медленнее человека. Сейчас это правило необходимо, потому что они реагируют гораздо быстрее, чем человек.)
В оригинальной формулировке Тьюринга человек должен был притворяться человеком противоположного пола, а тест длился 5 минут. Сейчас эти правила не считаются необходимыми и не входят в спецификацию теста.
Предсказания и современное положение дел
Тьюринг предсказал, что компьютеры в конечном счёте пройдут его тест. Он считал, что к 2000 году компьютер с памятью 1 миллиард бит (около 119 МБ) в ходе 5-минутного теста сможет обмануть судей в 30 % случаев.
Это предсказание не сбылось. Тьюринг также предсказал, что сочетание «мыслящая машина» не будет считаться оксюмороном, а обучение компьютеров будет играть важную роль в создании мощных компьютеров (с чем большинство современных исследователей согласны).
Пока что ни одна программа и близко не подошла к прохождению теста. Хотя такие программы, как Элиза (ELIZA), иногда заставляли людей верить, что они говорят с человеком, как, например, в неформальном эксперименте, названном AOLiza, но эти случаи нельзя считать корректным прохождением теста Тьюринга по целому ряду причин:
* Человек в таких беседах не имел никаких оснований считать, что он говорит с программой, в то время как в настоящем тесте Тьюринга человек активно пытается определить, с кем он беседует.
* Документированные случаи обычно относятся к таким чатам, как IRC, где многие беседы отрывочны и бессмысленны.
* Многие пользователи Интернета используют английский как второй или третий язык, так что бессмысленный ответ программы легко может быть списан на языковый барьер.
* Многие просто ничего не знают об Элизе и ей подобных программах, и поэтому не сочтут собеседника программой даже в случае совершенно нечеловеческих ошибок, которые эти программы допускают.
2
Кита́йская ко́мната — мысленный эксперимент, описанный Джоном Сёрлем, в котором критикуется возможность моделирования человеческого понимания естественного языка, создания так называемого «сильного искусственного интеллекта». В частности является критикой теста Тьюринга.
Был предложен в 1980 году в статье «Minds, Brains, and Programs» («Разум, мозг и программы»).
Мысленный эксперимент
В статье «Is the Brain’s Mind a Computer Program?» («Разум мозга — компьютерная программа?»), опубликованной в 1980 году, Сёрль описывает эксперимент следующим образом (цитируется по тексту журнала «В мире науки», 1990, № 3, с. 7-13):
Цитата
Возьмём, например, какой-нибудь язык, которого вы не понимаете. Для меня таким языком является китайский. Текст, написанный по-китайски, я воспринимаю как набор бессмысленных каракулей. Теперь предположим, что меня поместили в комнату, в которой расставлены корзинки, полные китайских иероглифов. Предположим также, что мне дали учебник на английском языке, в котором приводятся правила сочетания символов китайского языка, причём правила эти можно применять, зная лишь форму символов, понимать значение символов совсем необязательно. Например, правила могут гласить: «Возьмите такой-то иероглиф из корзинки номер один и поместите его рядом с таким-то иероглифом из корзинки номер два».
Представим себе, что находящиеся за дверью комнаты люди, понимающие китайский язык, передают в комнату наборы символов и что в ответ я манипулирую символами согласно правилам и передаю обратно другие наборы символов. В данном случае книга правил есть не что иное, как «компьютерная программа». Люди, написавшие её, — «программисты», а я играю роль «компьютера». Корзинки, наполненные символами, — это «база данных»; наборы символов, передаваемых в комнату, это «вопросы», а наборы, выходящие из комнаты, это «ответы».
Предположим далее, что книга правил написана так, что мои «ответы» на «вопросы» не отличаются от ответов человека, свободно владеющего китайским языком. Например, люди, находящиеся снаружи, могут передать непонятные мне символы, означающие; «Какой цвет вам больше всего нравится?» В ответ, выполнив предписанные правилами манипуляции, я выдам символы, к сожалению, мне также непонятные и означающие, что мой любимый цвет синий, но мне также очень нравится зелёный. Таким образом, я выдержу тест Тьюринга на понимание китайского языка. Но все же на самом деле я не понимаю ни слова по-китайски. К тому же я никак не могу научиться этому языку в рассматриваемой системе, поскольку не существует никакого способа, с помощью которого я мог бы узнать смысл хотя бы одного символа. Подобно компьютеру, я манипулирую символами, но не могу придать им какого бы то ни было смысла.
Представим себе, что находящиеся за дверью комнаты люди, понимающие китайский язык, передают в комнату наборы символов и что в ответ я манипулирую символами согласно правилам и передаю обратно другие наборы символов. В данном случае книга правил есть не что иное, как «компьютерная программа». Люди, написавшие её, — «программисты», а я играю роль «компьютера». Корзинки, наполненные символами, — это «база данных»; наборы символов, передаваемых в комнату, это «вопросы», а наборы, выходящие из комнаты, это «ответы».
Предположим далее, что книга правил написана так, что мои «ответы» на «вопросы» не отличаются от ответов человека, свободно владеющего китайским языком. Например, люди, находящиеся снаружи, могут передать непонятные мне символы, означающие; «Какой цвет вам больше всего нравится?» В ответ, выполнив предписанные правилами манипуляции, я выдам символы, к сожалению, мне также непонятные и означающие, что мой любимый цвет синий, но мне также очень нравится зелёный. Таким образом, я выдержу тест Тьюринга на понимание китайского языка. Но все же на самом деле я не понимаю ни слова по-китайски. К тому же я никак не могу научиться этому языку в рассматриваемой системе, поскольку не существует никакого способа, с помощью которого я мог бы узнать смысл хотя бы одного символа. Подобно компьютеру, я манипулирую символами, но не могу придать им какого бы то ни было смысла.
Формализация
В 1984 году Сёрль формулирует свою идею более формализовано. Он рассматривает следующие предпосылки:
* Предпосылка 1: Мозг порождает разум.
* Предпосылка 2: Синтаксиса недостаточно для существования семантики.
* Предпосылка 3: Компьютерная программа полностью определяется своей синтаксической структурой.
* Предпосылка 4: Человеческий разум оперирует смысловым содержанием (семантикой).
И делает заключения:
* Заключение 1: Программы не являются сущностью разума и их наличия недостаточно для наличия разума.
* Заключение 2: Тот способ, посредством которого человеческий мозг на самом деле порождает ментальные явления, не может сводиться лишь к выполнению компьютерной программы.
* Заключение 3: То, что порождает разум, должно обладать по крайней мере причинно-следственными свойствами, эквивалентными соответствующим свойствам мозга.
Дискуссия
Мысленный эксперимент вызвал интенсивную дискуссию среди учёных. Существуют различные доводы против результатов, полученных Сёрлем:
* Некоторые критики считают, что тест Тьюринга выдержал не человек, а система, состоящая из комнаты, книги правил и человека. Сёрль, по их мнению, отвлекает внимание от этого факта, концентрируясь на одном из компонентов системы, выполняющем в данном случае чисто механическую работу. Система из книги правил, человека и комнаты, по их мнению, является разумной и понимает китайский язык.
* Другое мнение состоит в том, что никакой семантики не существует в принципе: всё, что происходит в мозгу, всего лишь манипулирование синтаксисом, которое осуществляется и в компьютерах.
* По мнению Станислава Лема, интеллект «китайской комнаты» действительно существует, располагаясь в мозгу её создателя — того, кто разработал систему правил обращения с иероглифами для участника эксперимента. Автор эксперимента должен был заранее предусмотреть все комбинации вопросов и ответов или придумать принцип подбора ответа на вопрос. В реальных условиях при создании предполагаемого искусственного интеллекта едва ли подобное будет возможно.
* Также, возможно, человеческий разум есть не что иное, как продуманная либо природой, либо «сверхсуществами» компьютерная программа со всеми возможными вариантами ответов или принципом подбора из вариантов, который человечество еще не осознало и не изучило.