From: "Eugeny Kornienko"
Newsgroups: relcom.sci.philosophy
Subject: Re: тест на наличие сознания
Date: Thu, 11 Mar 1999 16:20:29 +0300

On Thursday, March 11, 1999, Pavel R. Andreev пишет

>> То, что действия не являются автоматическими, требуется доказывать.

> всю жизнь... Ведь после каждого испытания можно будет
> усовершенствовать робота, чтобы он его проходил. А затем придумать
> новое испытание и подвергнуть ему робота.

Верно. Если только этим и заниматься, то так незаметно жизнь и
пройдёт. :)

> большое ограничение: "всякий, кто ведет себя так, сознателен", но не
> "всякий, кто сознателен, ведет себя таким образом".

Верно, можно симулировать глупость, но не разум.

> Это все к тому, что "откуда управляется человек", тоже ведь никто не
> знает.

Я повторю свою прошлогоднюю заметку на эту тему.
===

Однажды вы встречаете робота, который утверждает, что он видит как вы,
чувствует боль, имеет желания, любит природу. Хотя это и не человек,
но оказалось, что с ним можно поговорить. И вы решаете подружиться с
этим роботом, чтобы выяснить, действительно наука создала чувствующее
искусственное существо, или это просто искусно сделанный механизм.

Вы не знаете, как на самом деле устроен этот робот. Он тоже этим
интересуется. Но вам не удаётся заглянуть внутрь, так как ваш друг
робот говорит, что ему больно.

Однажды он вспомнил, что когда он впервые увидел свет, это, кажется,
произошло в каком-то компьютерном сборочном цеху. Но этой информации
маловато.

Вскоре вы становитесь искренними друзьями. Обсуждаете философские
проблемы и политические новости, ходите на рыбалку и играете в шахматы
с переменным успехом. Теперь вы понимаете, что ваш друг не имитирует
разум. Можно симулировать глупость, но не живой ум. Вы понимаете, что
вы интеллектуально равны.

После десяти лет этой необычной дружбы вы случайно находите на спине
вашего друга маленькую этикетку "Windows 95 compatible". И вы
понимаете, что надо разведать истину где-то в империи Microsoft.

После некоторых усилий вы находите там лабораторию искусственного
интеллекта. Там вам объясняют, что цифровой компьютер не может
обладать сознанием, и что они все эти десять лет управляли вашим
другом-роботом по радио.

Что вы станете делать? Вы прекратите вашу дружбу? Теперь вы думаете,
что это кусок железа, а не разумное существо?

Вы рассказываете всю правду вашему другу роботу. В отчаянии он желает
покончить с собой и разрезает себе живот. Вы видите колёсики, трубки,
проводки, микросхемы. О чём это говорит?

А может, эти микрософтовские программисты над вами посмеялись?
И ваш друг на самом деле думал, чувствовал и любил вас без всякого
постороннего управления.

Eugeny Kornienko
http://www.glasnet.ru/~korn/index.HTM