Newsgroups: relcom.sci.philosophy
Subject: Тест Тьюринга и заблуждения связанные с ним
From: "Alexandr Semеnоv"
Date: Thu, 11 Jul 2002 01:47:53 +0300
--------
Здравствуйте!
Прошу прощения, но я позволю себе обратиться к уважаемому собранию с рядом
совершенно частных замечаний. Я полагаю, что за пол века в связи с тестом
Тьюринга возник ряд заблуждений, на которые я осмелюсь попробовать указать.
Прежде всего, я рискну предложить уважаемым ознакомиться с самой работой
Тьюринга, вернее с ее русским переводом. Целых три обстоятельства
благоприятствуют этому:
1. Первоисточник давно и широко доступен в Интернете. Например здесь:
http://archive.1september.ru/inf/2000/2/art/alan1.htm
2. Работа "Может ли машина мыслить?" не столь уж велика, и я думаю, даже
избалованный интернетом человек сможет ее осилить.
3. Работа Тьюринга не столь уж сложна. Это фактически популярная статья "для
широких масс", и не требует какой-либо предварительной подготовки для
понимания ключевых идей.
Однако замечу следующее. Статья "Может ли машина мыслить?" (на самом деле
"Компьютерные машины и интеллект"), по всей видимости, написана автором на
одном дыхании, "на злобу дня", как этакий беглый взгляд на проблему. И хотя
работа имеет стройный план, многие ключевые идее в ней присутствуют в
достаточно размытой форме. Поэтому, наверное, именно плохое понимание
контекста данной статьи и привело в конечном итоге к массовому и неверному
пониманию идеи Тьюринга.
Давайте восстановим этот контекст.
Прежде всего, как построена статья?
Тьюринг сходу предлагает идею своего теста, жестко и бескомпромиссно занимая
крайне бихейвиаристическую позицию по поводу того, что такое мысль.
Кстати, в начале статьи есть очень интересное место. Описав идею теста,
Тьюринг приводит пример возможного диалога между экспертом и кандидатом на
интеллект. Очень интересный пример! Я вернусь к этому примеру, когда буду
рассматривать миф номер 2. Прка же вернемся к структуре работы.
Описав идею теста, Тьюринг рассказывает о машинах, которые он намерен
допустить к участию в тестировании и здесь он настаивает на том, что это
должна быть универсальная цифровая машина, объясняя "на пальцах" что это
такое.
Далее Тьюринг систематизирует и последовательно анализирует все возражения
против машинного интеллекта. Здесь он выделяет девять пунктов:
1. Теологическое возражение
2. Возражение со "страусиной" точки зрения
3. Математическое возражение
4. Возражение с точки зрения сознания
5. Возражения, исходящие из того, что машина не все может выполнить
6. Возражение леди Лавлейс
7. Возражение, основанное на непрерывности действия нервной системы
8. Возражение с точки зрения неформальности повеления человека
9. Возражение с точки зрения сверхчувственного восприятия
Некоторые из возражений Тьюринг анализирует очень серьезно, над другими
откровенно издевается (с очень серьезной миной). Но с каждым из этих
возражений он разделывается одним и тем же приемом (в конце концов это даже
становиться скучным):
Всякий раз он как бы заявляет: хорошо, допустим, что это так как вы
говорите, но давайте подойдем к данному вопросу с позиции моего теста...
смотрите, тест не выявляет различий в поведении человека и машины с этой,
вашей, стороны (даже если они, эти различия, есть), значит, данная сторона
несущественна или надумана...
Особенно четко видно как Тьюринг иронизирует на последнем примере. Он
очень серьезно рассматривает экстросенсорное восприятие (как это может
делать только опытный врач-психиатр) и показывает, что если оное
восприятие существует, значит эксперт-экстросенс сможет отличить машину,
спрятанную за стеной от человека в другой комноте (и тогда он, Тьюринг,
готов сдаться) но если не сможет:
Что меня поразило при первом чтении работы Тьюринга, так это то, что список
из 9 пунктов содержит все существенные возражения, которые выдвигались и
продолжают выдвигаться против машинного интеллекта. Он не пропустил ничего
существенного! Удивляет и другое. С тех пор, за 50 лет, ничего существенно
нового "против" и не было предложено!
Совершив этот кропотливый "разбор полетов" Тьюринг не без доли иронии
резюмирует:
"Читатель, вероятно, уже почувствовал, что у меня нет особенно убедительных
аргументов позитивного характера в пользу своей собственной точки зрения.
Если бы у меня были такие аргументы, я не стал бы так мучиться, разбирая
ошибки, содержащиеся в мнениях, противоположных моему собственному."
Это очень важная фраза.
Существует миф (назовем его мифом номер 1) о том, что тест Тьюринга может
разрешить спор между теми кто верит, что машина может мыслить и теми, кто в
этом глубоко сомневается. Не знаю, понимал ли это сам Тьюринг до конца, но
вышеприведенная фраза пророческая. Я думаю ни у Тьюринга и ни у кого
другого нет и скорее всего никогда и не будет четких аргументов в пользу
той или иной точки зрения. Даже если предположить что искусственный
интеллект будет создан и он действительно станет неотличим в смысле
Тьюринга от интеллекта естественного, все равно никто, никому не сможет
это показать и доказать в полном объеме. "Может ли машина мыслить?"
- всегда останется открытым вопросом, как бы мы не спорили.
В этом нет ничего необычного. Никакие эксперименты не заставят противников
Теории Относительности в нее верить, как шары Галилея не убеждали уважаемых
отцов науки расстаться со своими убеждениями. В новых научных идеях люди не
столько убеждаюстя сколько к ним привыкают. Главное что бы они не сильно
противоречили реальности.
Почему в такой экспериментальной науке как искусственный интеллект должно
быть иначе, чем в физике? Любая теория объясняет реальность с некоторой
степенью точности и всегда остается элемент веры, что данная теория с
необходимой точностью моделирует реальность. Всегда остается ма-а-аленькая
вера, что наша реальность именно такая как мы себе ее описываем.
Тьюринг закладывает фундамент новой естестеннонаучной теории. И прежде
всего он провозглашает главным в интеллекте поведение, поведение и еще раз
поведение.
Чистейший, выхолощенный бихейвиаризм. Всякие там домыслы о самосознании,
понимании, ощущении, страдании не должны прокрасться в изыскания (аргументы
типа "китайской комнаты Сила" в этом смысле ненаучны). То, что мы не можем
померить, увидеть и оценить, находясь СНАРУЖИ моделируемого объекта, для нас
как специалистов в ИИ не существует. Не потому что этого там нет, а потому
что с этим нельзя работать на инженерном, строго научному уровне.
Провозглашая чистый бихейвиаризм и ничего кроме бизхейвиаризма Тьюринг
просто возводит ИИ в статут нормальной естественной науки, которая сначала
"измышляет" теории, а после всесторонне проверяет их экспериментом (осмелюсь
предположить что, тот кто думает, что в науке все происходит наоборот
глубоко заблуждается). Эксперимент это наблюдение ПОВЕДЕНИЯ моделируемой
системы. Теория же - инструмент ПРЕДСКАЗАНИЯ этого поведения. Хорошо
"измышленная" теория хорошо предсказывает поведение. Все остальное -
шаманство.
Однако что "измыслил" Тьюринг, прежде чем предлагать свой эксперимент с
машинным поведением? Идея Тьюринга, проста до идиотизма: интеллект - это
огромная и сложная компьютерная ПРОГРАММА, некая вычислимая функция. То
есть на вопрос: "Чем качественно отличается человеческий интеллект от
компьютера с программой?" у Тьюринга существует однозначный ответ - НИЧЕМ!
Обратите внимание. Это не факт. Это базовая гипотеза, от которой Тьюринг и
все после него в ИИ сознательно или бессознательно отталкиваются.
Для того чтобы понять, что привело Тьюринга к этой его гипотезе, следует
вникнуть в теорию алгоритмов, отцом которой он является. Но в двух словах
речь идет о следующем. Знаменитый тезис Черча-Тьюринга гласит, что всякая
вычислимая функция вычислима на универсальной машине с помощью некоторой
программы. То есть множество разрешимых задач и множество вычислимых
программ совпадают (существует биекция). Теперь, если мы станем
рассматривать человеческий мозг как некоторое устройство преобразовывающее
некоторое число на своем входе в некоторое число на своем выходе (к чему
еще надо прийти!), то мы неизбежно придем к выводу, что существует некоторая
программа, которая это устройство эмулирует (эмуляция - точная симуляция не
позволяющая отличить модель от оригинала, возможна только для цифровых
объектов и дискретных автоматов). Если же для чего-то можно доказать что
такой программы не существует (например знаменитая "программа" которая бы
определяла зациклиться ли ЛЮБАЯ другая программа или нет) то такого объекта
и в любом другом виде существовать не может.
Но интеллект реально существует! В виде нас. Мы его экспериментально
наблюдаем в одной из возможных форм. Значит, полагаем мы вместе с Тьюрингом,
должна существовать и программа, эквивалентная ему.
На вопрос чем же КАЧЕСТЕННО отличается наш ум от любой известной нам
программы, гипотеза Тьюринга дает ответ: качественно - ничем. Только
количественно. Качественное же отличие - иллюзия. И механизм возникновения
такого "диалектического" перехода количества в качество ярок иллюстрируется
на примере ядерного реактора. При этом скромный Тьюринг ничего прямо не
утверждает, он только забрасывает камешек- вопрос:
"Другое сравнение: атомный реактор, размеры которого не превышают
критических. Идея, вводимая человеком в машину, соответствует здесь
нейтрону, влетающему в реактор извне. Каждый такой нейтрон вызывает
некоторое возмущение, которое в конце концов замирает. Но если величина
реактора превосходит критические размеры, то весьма вероятно, что
возмущение, вызванное влетевшим нейтроном, будет нарастать и приведет в
конце концов к разрушению реактора. Имеют ли место аналогичные явления в
случае человеческого разума и существует ли нечто подобное в случае машин?"
Программа должна превзойти некоторый критический размер, чтобы заблестеть
разумом (при этом она останется все же программой)!
Другая важная фраза (с тех пор являющаяся "скрижалью Моисеевой" в ИИ)
следует тут же в следующем абзаце:
"Для уяснения поставленного вопроса имеет смысл прибегнуть еще к одной
аналогии, именно - уподобить человеческий разум луковице. Рассматривая
функции ума или мозга, мы обнаруживаем определенные операции, которые
возможно полностью объяснить в терминах чисто механического процесса. Можно
сказать, что они не соответствуют подлинному разуму: это своего рода
"кожица", которую следует удалить, для того чтобы обнаружить настоящий
разум. Однако, рассматривая оставшуюся часть, мы снова найдем "кожицу",
которую следует удалить, и т.д. Возникает вопрос: если мы будем продолжать
этот процесс, удастся ли нам прийти когда-нибудь к "настоящему" разуму или
же в конце концов мы снимем кожицу, под которой ничего не останется ? В
последнем случае мы считаем, что разум имеет механический характер."
С этих пор в ИИ доминирует уверенность, что интеллект явление комплексное.
То есть это так называемый эпифеномен, возникающий как сумма отдельных
не-феноменов. Конечно Тьюринг не настаивает на своей точке зрения:
"Два последних абзаца вовсе не претендуют на роль убедительных
доказательств. Их скорее следовало бы считать аргументами риторического
характера."
Но именно они и лежат в основании того, что можно назвать "гипотезой
Тьюринга", которая царствует в ИИ вот уже 50 лет.
Вы можете с ней не соглашаться, но вы должны ее понять. И только поняв ее,
вы можете вернуться назад, к началу статьи и уже в ее контексте взглянуть на
идею теста.
Главный миф этого теста (миф номер 1)в том, что тест Тьюринга, якобы, может
ДОКАЗАТЬ наличие или отсутствие интеллекта у тестируемого САМ ПО СЕБЕ.
Вне контекста той или иной теории.
Но, как я понимаю, первоначальная задачи теста куда скромнее. Придумывая
условия своего теста, Тьюринг просто предлагает сторонникам своих
"аргументов" некий способ, конструирует для них своеобразный "датчик" или
"прибор" по которому они и смогут определить что "их реактор вышел на за
критический режим".
Ведь, действительно, если разум это эпифеномен, значит нельзя по какому-то
одному четкому параметру понять, что процесс пошел. С настоящим реактором
все обстоит проще. Там есть такой четкий критерий - поток нейтронов. Но у
разума как эпифеномена такой четкий критерий (согласно гипотезе Тьюринга)
отсутствует. Вот тут Тьюринг и предлагает свой тест. Он предлагает
сравнивать один эпифеномен с другим эпифеноменом.
В споре же со "свидетелями Иеговы", как и в споре со сторонниками
Пенроуза-Сирла тест бесполезен. Он работает только в паре с гипотезой
Тьюринга.
Давайте на секунду откажемся от гипотезы Тьюринга.
Допустим, что человеческий разум это не компьютерная программа. Допустим,
что
неверно, мол человечески разум это эпифеномен состоящий из суммы простейших
не-феноменов. Значит все же существует простейший, элементарный феномен,
лежащий в основе феномена разума.
А это значит, что раздевая "луковицу Тьюригна" мы сможем добраться до
такой простой "сердцевины", которая позволит отличить сколь угодно сложную
программу от разума.
Обнаружив этот феномен, мы будем иметь беспроигрышную стратегию -
разрешающую процедуру, позволяющую отличить программу от интеллекта. Это
приведет нас уже к тесту анти-Тьюринга на отсутствие интеллекта.
Уловите. Тест Тьюринга должен разделить все программы на разумные и
неразумные (при условии, что и те и другие все же программы). Но
предположив,
что данное допущение неверно мы неизбежно должны прийти к идее, что
существует
способ всегда экспериментально отличить ЛЮБУБ сколь угодно сложную
программу
от разума. Тогда "игра в имитацию" теряет всякий смысл.
Обратите внимание. Я не утверждаю, что такой критерий непременно существует.
Это только неизбежное следствие из чисто умозрительного отрицания
Тьюринговских "аргументов риторического характера". Это отрицание само
является аргументом чисто риторического характера. Оно столь же
"неполноценно" (неполно?) как и его противоположность.
Здесь мы попадаем в ситуацию, чем-то напоминающую ту в которую попадает
математика после возникновения Геделевой конструкции "меня нельзя доказать в
ТNT"
И тест Тьюринга и гипотетический тест анти-Тьюринга не являются и не могут
являться полноценной разрешающей процедурой сами по себе, реализуемой на
практике. Каждый из них полноценен только в рамках своей гипотезы.
Если некая машина прошла тест на разумность по Тьюрингу, противники Тьюринга
всегда могут сказать, что она просто не нарвался на настоящего эксперта, или
что в этот раз ей просто повезло. Эпизод с Каспаровым-Дипп-Блу тому
красноречивое подтверждение. Одни говорят о надувательстве, другие мол,
"первые нейтроны пошли". Все открывают шампанское.
(некоторые материалы об этом можно посмотреть здесь:
КАСПАРОВ ВЕРИТ В ИНТУИЦИЮ
http://www.ropnet.ru/ogonyok/win/199714/14-58-59.html
МАТ XX ВЕКУ
http://www.ropnet.ru/ogonyok/win/199720/20-18-25.html
)
Действительно, четкого критерия для того чтобы отличить разум от не-разума
нет и по гипотезе Тьюринга быть не может! ("меня нельзя доказать в TNT"
действительно нельзя!)
С другой стороны, допустим, я могу предложить тест анти-Тьюринга с четким,
ТЕОРЕТИЧЕСКИ корректным критерием, который теоретически позволяет отличить
программу от "настоящего разума". ( неверно что "меня нельзя доказать в
TNT" )
Но "теоретически" не значит "практически". Сторонники Тьюринга признают
этот анти-тест ЭКСПЕРЕМЕНТАЛЬНО пригодным, только если признают, что разум
действительно не компьютерная программа (что принимается на веру). Всякая,
забракованная этим тестом программа, будет восприниматься ими как не
достаточно совершенная, а вот следующая...
И они будут абсолютно правы.
В случае, если наш разум это программа, мы, люди, просто не сможем
пользоваться этим теоретически существующим критерием "до конца" (до
бесконечности), хотя он, критерий, теоретически, все же кому-то это делать
позволяет. Но не нам. Для нас, людей-программ, он однажды станет практически
столь же недоступен, как и прочим программам, участвующим с нами в этом
состязании на равных.
Даже если мы покажем, что существуют устройства, которые могут пользоваться
этим критерием бесконечно долго (например, вероятностные автоматы) то это не
доказывает, что мы таковыми вероятностными автоматами являемся. Это будет
очень весомый аргумент в пользу гипотезы, но это всего лишь "весомый
аргумент", а истина ... "по прежнему где-то там:"
Как ни прискорбно, но это так. Ни одна умозрительная теория не может быть
так замкнута на эксперимент, что ее построения станут доказаны однозначно.
Я полагаю, что невозможность однозначно и безапелляционно доказать
справедливость той или иной теории - признак ее теоретической...
доброкачественности.
Напротив, если вы выстроили теорию, которая однозначно что-то там доказывает
и противоположной интерпретации не допускает, значит у вас что-то не совсем
в порядке с теорией.
Однако я позволю себе вернутся к самому тесту.
У нас остался один самый распространенный, самый глупый и самый простой
миф.
Миф номер 2.
Принято считать, что в тесте Тьюринга эксперт С ведет РАЗГОВОР с обоими
кандидатами (А и В). Но я подозреваю, что Тьюринг имел в виду нечто более
обширное. Мне кажется он имел ввиду ОБМЕН СООБЩЕНИЯМИ.
Вот как Тьюринг представлял себе такой обмен сообщениями:
"Например:
С: Напишите, пожалуйста, сонет на тему о мосте через реку Форт
А: Увольте меня от этого. Мне никогда не приходилось писать стихи.
С: Прибавьте 34 957 к 70 764.
А (молчит около 30 секунд, затем дает ответ): 105 621.
С: Вы играете в шахматы?
А: Да.
С: У меня только король на е8 и других фигур нет. У вас только король на е6
и ладья на h1. Как вы сыграете?
А (после 15 секунд молчания): Лh8. Мат."
Как видите это мало похоже на треп в конференциях типа Talk .
Это больше смахивает на экзамен. Единственное отличие, что идя на экзамен по
математике вы вправе надеется, что вас там не станут спрашивать о
ферментации белка или о роли идей стоицизма в этике христианства.
В тесте Тьюринга у вас такой уверенности нет и быть не может. Здесь
разрешено задавать любые вопросы на любую тему. И в конце концов качество
теста зависти от качества участвующего в нем эксперта С и эталона А
Тест Тьюринга вас ни в чем не ограничивает. Только подумайте. Ведь пользуясь
доступным вам каналом связи, вы можете не только играть с испытуемым в
шахматы, крестики-нолики, морской бой и "козла". Вы можете играть с ним в
ЛЮБУЮ логическую игру, даже только что ПРИДУМАННУЮ вами. В конце концов,
если тот, на том конце не разбирается в тензерном исчислении или в
особенностях учения Дзен-буддизма, то кто вам мешает ему это растолковать
(во времени вы не ограничены) и попытаться понять как он эти идеи понимает?
Я полагаю, что всякие ограничения "присущие" тесту, на самом деле это
ограниченность ума того, кто пытается стать на место эксперта С.
Разумеется, не так уж и сложно написать программу, которая бы трепалась на
любую общепринятую тему и имитировала среднего человека со средним запасом
знаний. Эта программа блестяще будет имитировать большую часть населения
планеты с абсолютно ленивыми мозгами. Именно такова цель знаменитого и
скандально известного конкурса Лебрена: Написать программу, которую нельзя
отличить по трепу от среднестатистического потребителя гамбургеров пива и
телевизионной рекламы. Но кто сказал, что последний обладает интеллектом или
хотя бы пользуется этим даром?
Не так уж и сложно создать эрудита "разбирающегося" во всем. Но мы-то знаем
чего стоят энциклопедические знания на практике! Кто вам мешает такую
практику "эрудиту" организовать в рамках теста?
В конце концов, дабы выявить интеллект на том конце провода, его для начала
надо проявить на этом.
Не надо думать, что сам фат присутствия человека уже привносит в тест
Тьюринга свет разума. Если вы, как экзаменатор, положите перед собой
листик, на котором будет написана не ВАМИ (сметливым, оригинальным,
искрометным и одаренным), а КЕМ-ТО другим четкая ПРОГРАММА ваших действий
как эксперта, то где гарантия, что с той стороны некая программа написанная
тем же КЕМ-ТО не выполнит "вашу" ПРОГАММУ на пятерку?
В общем, позволю себе заметить, нечего на тест Тьюринга пенять коль,
извините,
сам дурак...
:)
А. Семенов
Built by Text2Html