95.Удалено написавшим. 2011/07/06 09:36
94. 2011/07/04 11:53
[ответить]
>>93.Захарченко Андрей Викторович
Как показывает история развития цивилизации, все новое рано или поздно унифицируется, нерешаемое - решается и т.п.
От корабля и экипажа в вашем рассказе у меня нет такого ощущения, а от принимающей их стороны - есть.
Законы физики, конечно, отменяют редко, но и такое бывает. Чаще же их модернизируют, и невероятное оказывается возможным.
93. * (mc@elserv.msk.su) 2011/07/04 11:28
[ответить]
Полёт вполне может быть далеко не первым, но менее энергозатратным он от этого не становится. Законы физики - вещь упрямая, от номера старта они зависят слабо. ;)
92. *2011/07/02 21:25
[ответить]
>>91.Захарченко Андрей Викторович
Спасибо, ваша позиция понятна.
Единственное, пожалуй, что хотелось бы добавить: с самого начала у меня сложилось впечатление, что действие происходит в более отдаленном будущем, нежели первые пилотируемые разведочные полеты к звездам.
91. * (mc@elserv.msk.su) 2011/06/27 13:26
[ответить]
>>90.Кузнецов Иван
>Речь ведь не о верности теоремы, а о ее применимости.
Кажется, до меня дошла одна из причин наших разногласий. Озвучиваю свою логику, которая осталась за кадром рассказа.
Чтобы разогнать массу в один килограмм до скромной скорости 0,8c, понадобится вся энергия, выработанная ядерным реактором чернобыльского типа в течение двадцати восьми с половиной месяцев. Это при КПД двигателя 100% (три ха-ха).
Компьютер имеет массу значительно меньше человеческой. Кроме того, человека нужно снабдить воздухом, водой, пищей, предусмотреть (и запитать) СЖО, да продублировать её на всякий случай. А ещё на многомесячный полёт нельзя забывать о психологической разгрузке - хотя бы ту же кошку в кабину посадить, чтобы космонавт от одиночества не спятил. Изолированный коллектив из двух человек (командир и дублёр) психологически неустойчив, а троих мы не потянем.
Автоматический зонд можно "забыть" в исследованной области - главное, чтобы отчёт о выполненной работе дошёл по назначению. Человека, кровь из носу, надо возвращать домой - значит, необходимая масса корабля вырастает ещё. Как по-Вашему, сколько автоматов можно отправить на те гроши, кои потребует один пилотируемый полёт?
Вывод. Если человечество не взбесилось с жиру, то при описанной в рассказе технической ситуации пилотируемая разведка ведётся в единственном случае: есть серьёзные основания полагать, что автомат не справится, как хитро его ни программируй.
И что, снарядив с такими бешеными затратами пилотируемую экспедицию, вся цель которой - доставить до места исследований человека и предоставить ему свободу действий, мы этого человека посадим под жёсткий контроль автомата? Это значит, что мы сохраним все недостатки пилотируемой разведки, но лишимся её единственного преимущества - шанса разрулить нестандартные, непредусмотренные ситуации. То бишь с хорошей вероятностью провалим задание. И на хрена козе баян?
>Вы, похоже, предполагаете область вариантов - неограниченной.
Да. По указанным выше причинам. Если есть возможность предусмотреть основные варианты, надо посылать беспилотный зонд и не маяться дурью с котами. А на пилотируемом разведчике вычислитель должен быть не контролёром, а помощником пилота. И жёстко программировать его на перехват управления нельзя. То есть для компа остаётся два варианта: или он просто тупая железяка, которая выполняет все приказы человека без размышлений и обсуждений (а это плохо, пропадёт возможность подстраховать командира), или ему нужен эмулятор интеллекта. Причём совместимого с человеческим, поскольку два принципиально различных разума могут и не договориться, а в одном экипаже это чревато.
Что же касается компьютерного инфантилизма и слишком человеческого разговора... Я не психолог, не берусь судить, какому возрасту соответствует разговор компа. А ещё в рассказе нет сведений, сколько на самом деле лет кораблю и его бортовому вычислителю и какие именно из книг бортовой библиотеки ему больше нравились. Насчёт же того, сможет ли он управлять кораблём, не беспокойтесь: для него это уровень рефлексов, как дыхание для человека. Довёл же корабль до дома блок автопилота, даже после учинённого разгрома.
>Дальнейшее обсуждение у нас идет вокруг конкретного случая. Было бы достаточно или нет жесткой системы для того, чтобы разобраться с ситуацией, описанной в рассказе. Я полагаю, да. Вы полагаете, нет. Вот и все:).
Не-а. Я полагаю, что жёсткой системы вообще не должно быть на пилотируемом разведчике. И тот факт, что она способна справиться с конкретным случаем, ни о чём не говорит: с любым конкретным случаем может справиться какая-то жёсткая система, но ни одна из них не сможет справиться со всем классом задач пилотируемой разведки. Хотя бы потому, что эти задачи неизвестны до момента их появления. А для известных, повторюсь, есть беспилотники.
90. 2011/06/23 17:15
[ответить]
>>89.Захарченко Андрей Викторович
>>>88.Кузнецов Иван
>Согласно упомянутой выше теореме - есть.
Речь ведь не о верности теоремы, а о ее применимости. Вы, похоже, предполагаете область вариантов - неограниченной. Я же допускаю возможность типизации основных ситуаций, обычно встречающихся или предполагаемых на звездных трассах (уже освоенных, по всей видимости, к времени действия вашего рассказа, иначе странно было бы видеть корабль с человеком, кошкой, птицей и рыбками, а не, хотя бы, с дублером-человеком).
Так ли велика область неизвестного по отношению к известному? Действительно ли автопилот не доведет корабль до порта, учитывая обычные ситуации в море?
Основной смысл моих аргументов в том, что:
1. Большинство ситуаций типизированы и запрограммированы. Критерии соответствия ситуациям, разумеется, тоже указаны в программе. Грамотная типизация - работа человеческого ума.
2. Встреча с инопланетным объектом обязательно будет одной из рассмотренных типов ситуаций. Где возможны несколько основных ветвей развития сюжета. Ваша ветвь - попытка воздействия на экипаж против воли экипажа с, предположим, неидентифицированными целями. Реакция - аварийный старт.
3. На случай ситуации, которая не попадает ни в один из известных типов, программируется "аварийная реакция". Ситуация при этом заносится в память и впоследствии анализируется на предмет типизации (компьютером или человеком, а скорее - совместно). Программа обновляется.
Тип ситуаций - это не одна ситуация. Это группа, ограниченная некоторыми краевыми условиями. Совершенно убежден, что подавляющее большинство прецедентов будут легко разложены по типам, если программу писали грамотно, а малая доля, не попадающая в типизацию, автоматически отметается в "аварийная реакция" и потом идет на уточнение опыта.
>Не помешало бы в единственном случае: если подобная ситуация в явном виде описана в программе.
Тип ситуации. Не сама ситуация. Опишу признаки:
1. Контакт с внеземным кораблем.
2. Попытка внеземного корабля прямо воздействовать на капитана в обход воли последнего.
Этого достаточно для тестирования капитана и, если его поведение не соответствует критериям и настройкам (капитан, конечно, изучен вдоль и поперек), запуск "аварийной реакции".
При этом совершенно не существенно, оказано воздействие видеосигналом, звуком, запахом или чем-то еще. Не важны размеры инопланетного корабля, место встречи в пространстве и прочее, прочее. Ситуация типизируется прекрасно.
>Согласен, она могла быть описана. И другая могла быть. И пятнадцатая. Но вот четыреста сорок восьмой могло и не быть - память не резиновая. Именно поэтому жёсткая программа в разведке недопустима. Повторяю: это доказано формально в рамках точной науки (точная в данном случае не эпитет, а свойство области знания), то есть сомнению не подлежит. За подробностями могу посоветовать обратиться к Шеннону, Колмогорову и их коллегам.
Они занимались доказательством того, какой разум надо использовать в борткомпьютерах кораблей? Повторяю, я не спорю с самой теоремой. Даже не утверждаю, что компьютеры не будут самообучающимися:). Всего лишь речь о том, что в вашей схеме нет необходимости использовать компьютер, который самодообучался до того, что чуть не заговорил языком Гоголя.
>Предусмотреть все варианты не более реально, чем построить вечный двигатель первого рода. Предусмотреть только часть вариантов - получить высокую вероятность срыва задания при встрече с чем-нибудь непредусмотренным. Единственный выход - нежёсткая программа, ведущая себя как разумное существо. Способная не только ошибиться, но и признать и исправить ошибку, а главное - принять новое, нетривиальное, неизвестное ранее решение.
См.выше. Случаи делятся на типизированные и неожиданные. Неожиданных меньшинство (при наличии опыта или хотя бы возможности грамотно прогнозировать). При неожиданных в случае невозможности связаться с компетентными людьми из Центра управления полетом - аварийный режим. И вся недолга, накрыт весь спектр.
>Только в стандартных, заранее известных условиях. А в другом месте и в другое время от того же человека на тот же вопрос можно получить совсем другой ответ (или даже по морде). Ну нету у нас в разведке стандартных условий по определению!
Не согласен. Большинство условий поддается типизации. Что касается разведки (хотя речь не о ней), неизвестен заранее состав получаемой информации, но обычно известен тип ожидаемой информации и процесс получения, передачи, хранения информации. Уходя от лишней конкретики прекрасно типизируем. Нужно лишь верно назначить уровень абстракции и не плодить лишние сущности.
О человеческом факторе и варианте "по морде". Космонавт - тренированный специалист. Их готовят долго и упорно в различных условиях. Их показатели известны до мельчайших подробностей. Люди, отвечающие на тестовые вопросы неадекватно, едва ли попадают в число космонавтов, слишком велик риск отправлять таких в небо:)
>И которая может совершать ошибки как первого, так и второго рода. Причём чаще, чем это сделает грамотный эксперт с использованием того же прибора, и чаще, чем хорошо обученная недетерминированная программа. А уж в случае многократных тестирований одной и той же группы людей (тем более одного человека) жёсткий алгоритм продувает самообучающемуся с разгромным счётом.
Разумеется, самообучающаяся система лучше жестко запрограммированной, и будущее за самообучающимися системами. Собственно, в вашем рассказе меня смутило не это, а то, до чего дообучалась система. Компьютер демонстрировал экзальтированность, напоминая эмоционально неустойчивого подростка. Если это следствие его самообучения, то безопаснее, на мой взгляд, было бы послать что-нибудь попроще.
Дальнейшее обсуждение у нас идет вокруг конкретного случая. Было бы достаточно или нет жесткой системы для того, чтобы разобраться с ситуацией, описанной в рассказе. Я полагаю, да. Вы полагаете, нет. Вот и все:).
>>...принятия решения при недостатке данных,
>...Можно подумать, что у жёсткого алгоритма этих данных будет избыток...
Вопрос в том, кто лучше справится с заданием при дефиците данных. Жесткий алгоритм проверит критерий, найдет, что не может определиться и выдаст аварийный вариант. Возможно, это будет выглядеть глупо. Например, экстренный старт посередине переговоров.
Человек (или самообучающийся ИИ), возможно, начнет фантазировать, принимать одно за другое, притягивая к тому или иному решению, возможно, будет пытаться действовать эмпирически, и может угробить экспедицию или также поступить глупо.
>Информация к размышлению. Жёстко запрограммированная природой бактерия не ошибается никогда - и на Земле процветает. Но в космос она почему-то летает только прицепом за человеком, у которого особенности мышления, нерешительность, ошибки... И способность к творчеству, которая неотделима от способности ошибаться.
В космос она полететь не может, у нее крылышков нету:). У человека тоже не было (до недавнего времени). И, кстати, бактерия, оказавшись в условиях космоса, выживает куда лучше, нежели человек, если лишить их привычной среды обитания. Правда, это имеет отношение не к самообучению, а к колоссальной разнице в устройстве и сложности этих организмов, несопоставимой и непригодной для сравнения в выбранном контексте.
>Прошу извинить за нескромный вопрос, нет ли у Вас случайно ощущения, что я не слышу и не анализирую Ваши аргументы? Если это действительно так, то мы не только не сойдёмся во мнениях, но даже толком не поймём позиции друг друга, а это было бы печально.
У меня есть ощущение, что мы спорим не о том, с чего начали:).
Разумеется, будут самообучающиеся ИИ, потому что они потенциально намного эффективнее. Но язык борткомпьютера в вашем рассказе таков, что у меня возникает тревога, способен ли он управлять кораблем. Самообучение не должно приводить к инфантилизации психики, если можно так ее назвать, ИИ. Если приводит, то они должны сначала пережить процесс взросления, и только потом вылетать на серьезные задания. Все дело в том, как он говорит в финале. То есть, в том, "слишком" или "не слишком" по-человечески. Хотя бы вот это:
"Наверное, настоящий человек так бы не поступил, но я отчаянный трус. Простите меня."
И я думаю, если бы читатель понимал, почему компьютер вот такой и так себя ведет, это можно было бы воспринять. Я не понял, простите меня:).
89. * (mc@elserv.msk.su) 2011/06/23 15:55
[ответить]
>>88.Кузнецов Иван
>В моей модели, разумеется, присутствует человеческий разум. Это разум программиста и специалистов, ставящих ему задание при написании программы. В момент принятия решений их разум "вне зоны доступа":), но есть ли в этом такая уж большая проблема?
Согласно упомянутой выше теореме - есть.
>Действительно ли это помешало бы жестко, но весьма хитро запрограммированному, чрезвычайно эрудированному компьютеру принять верное решение в случае, который описан у вас?
Не помешало бы в единственном случае: если подобная ситуация в явном виде описана в программе.
Согласен, она могла быть описана. И другая могла быть. И пятнадцатая. Но вот четыреста сорок восьмой могло и не быть - память не резиновая. Именно поэтому жёсткая программа в разведке недопустима. Повторяю: это доказано формально в рамках точной науки (точная в данном случае не эпитет, а свойство области знания), то есть сомнению не подлежит. За подробностями могу посоветовать обратиться к Шеннону, Колмогорову и их коллегам.
>Различные варианты реакций на контакт с внеземным разумом и наблюдение за состоянием экипажа - штука, которая, не сомневаюсь, занимает значительную часть программы космического корабля землян, путешествующего среди звезд.
Предусмотреть все варианты не более реально, чем построить вечный двигатель первого рода. Предусмотреть только часть вариантов - получить высокую вероятность срыва задания при встрече с чем-нибудь непредусмотренным. Единственный выход - нежёсткая программа, ведущая себя как разумное существо. Способная не только ошибиться, но и признать и исправить ошибку, а главное - принять новое, нетривиальное, неизвестное ранее решение.
>Если же вернуться к решению задач анализа, вспомним следующее. В психологии, как и в образовании, при оценке состояний и уровня знаний человека используются тесты, составленные людьми, но, меж тем, жестко запрограммированные. Эти тесты, при всех их недостатках, позволяют более или менее оценить основные показатели испытуемого.
Только в стандартных, заранее известных условиях. А в другом месте и в другое время от того же человека на тот же вопрос можно получить совсем другой ответ (или даже по морде). Ну нету у нас в разведке стандартных условий по определению!
>Для определения обмана в некоторых странах в некоторых случаях используется "детектор лжи". Жестко запрограммированная вещь с набором вопросов и датчиков, показания которых можно интерпретировать программой.
И которая может совершать ошибки как первого, так и второго рода. Причём чаще, чем это сделает грамотный эксперт с использованием того же прибора, и чаще, чем хорошо обученная недетерминированная программа. А уж в случае многократных тестирований одной и той же группы людей (тем более одного человека) жёсткий алгоритм продувает самообучающемуся с разгромным счётом.
>Самый прекрасный специалист-человек, работая в столь зыбкой области, как психология или медицина, неизбежно делает ошибки. Это связано как с объективными проблемами принятия решения при недостатке данных,
...Можно подумать, что у жёсткого алгоритма этих данных будет избыток...
>...так и с особенностями человеческого мышления. Всегда ли это лучше хорошего автомата?
Не всегда. Повторяю: однозначный жёсткий алгоритм идеален для движения по накатанной дороге, где практически все возможные случайности уже случились, были проанализированы, задокументированы и внесены в справочник. Но он совершенно не годится для полёта в неизвестность.
Информация к размышлению. Жёстко запрограммированная природой бактерия не ошибается никогда - и на Земле процветает. Но в космос она почему-то летает только прицепом за человеком, у которого особенности мышления, нерешительность, ошибки... И способность к творчеству, которая неотделима от способности ошибаться.
>В общем, наверное, нет смысла продолжать дальше наш спор, поскольку мы остаемся на старых позициях.
Прошу извинить за нескромный вопрос, нет ли у Вас случайно ощущения, что я не слышу и не анализирую Ваши аргументы? Если это действительно так, то мы не только не сойдёмся во мнениях, но даже толком не поймём позиции друг друга, а это было бы печально.
>Рассказ, на мой взгляд, достаточно интересен, чтобы быть в полуфинале даже при всех моих замечаниях.
Ну, после драки кулаками не машут. На золотую медаль я всё равно не рассчитывал (хотя и не отказался бы :), а парочка интересных обсуждений возникла - значит, высказанные мысли не пропали впустую.
88. 2011/06/23 09:58
[ответить]
>>87.Захарченко Андрей Викторович
>>>83.Кузнецов Иван
>>Борткомпьютер может действовать в рамках запрограммированного цикла, если упростить, такого:
>>1. При получении команды проверить уровень доступа (в том числе психофизическое состояние пользователя).
>Согласно упомянутой выше теореме условие в скобках алгоритмической проверке не подлежит. Проверено может быть только эвристически, с возможностью совершить ошибку как первого, так и второго рода. Так что извините, Ваш алгоритм внутри жёсткого цикла неявно подразумевает использование психолога, то бишь человеческого разума или его адекватной модели.
В моей модели, разумеется, присутствует человеческий разум. Это разум программиста и специалистов, ставящих ему задание при написании программы. В момент принятия решений их разум "вне зоны доступа":), но есть ли в этом такая уж большая проблема? Действительно ли это помешало бы жестко, но весьма хитро запрограммированному, чрезвычайно эрудированному компьютеру принять верное решение в случае, который описан у вас? Различные варианты реакций на контакт с внеземным разумом и наблюдение за состоянием экипажа - штука, которая, не сомневаюсь, занимает значительную часть программы космического корабля землян, путешествующего среди звезд.
Если же вернуться к решению задач анализа, вспомним следующее. В психологии, как и в образовании, при оценке состояний и уровня знаний человека используются тесты, составленные людьми, но, меж тем, жестко запрограммированные. Эти тесты, при всех их недостатках, позволяют более или менее оценить основные показатели испытуемого.
Для определения обмана в некоторых странах в некоторых случаях используется "детектор лжи". Жестко запрограммированная вещь с набором вопросов и датчиков, показания которых можно интерпретировать программой. Детектор можно обмануть, он иногда ошибается, но в большинстве случаев все же правильно отделяет зерна от плевел.
Самый прекрасный специалист-человек, работая в столь зыбкой области, как психология или медицина, неизбежно делает ошибки. Это связано как с объективными проблемами принятия решения при недостатке данных, так и с особенностями человеческого мышления. Всегда ли это лучше хорошего автомата?
Понятно, что для полноценного моделирования сложной системы необходима более сложная система, но для оценки уровня тестостерона, адреналина или алкоголя в крови достаточно простого анализа. Оценку остроты зрения можно провести в два счета (и сравнить с прежней). Уровень возбуждения, а если копать дальше, адекватность ответов на стандартные вопросы и пр. позволят жестко запрограммированному автомату достаточно точно оценить способность капитана управлять транспортным средством. А уж такая очевидная штука, как контакт с внеземным разумом, определенно, будет прописан в компьютере очень подробно, ведь об этом думали даже запуская "Пионер".
В общем, наверное, нет смысла продолжать дальше наш спор, поскольку мы остаемся на старых позициях.
Рассказ, на мой взгляд, достаточно интересен, чтобы быть в полуфинале даже при всех моих замечаниях. Жаль, что он туда не попал.
-----------------------------------------------------------
>>86. Кам Бек
> Спасибо
Пожалуйста.
> Жаль, что рассказ вам не понравился.
Жаль. Но у других судей, как вижу, другие мнения:). Вы в полуфинале, причем не в хвосте, а в середине подгруппы. Этот факт, конечно, не повысит моей оценки, но дает вам, как автору, надежду, что возобладает иная точка зрения.
87. * (mc@elserv.msk.su) 2011/06/22 21:07
[ответить]
>>83.Кузнецов Иван
>Борткомпьютер может действовать в рамках запрограммированного цикла, если упростить, такого:
>1. При получении команды проверить уровень доступа (в том числе психофизическое состояние пользователя).
Согласно упомянутой выше теореме условие в скобках алгоритмической проверке не подлежит. Проверено может быть только эвристически, с возможностью совершить ошибку как первого, так и второго рода. Так что извините, Ваш алгоритм внутри жёсткого цикла неявно подразумевает использование психолога, то бишь человеческого разума или его адекватной модели.
86. Кам Бек2011/06/22 00:07
[ответить]
Спасибо огромное, что выделили время для обзорчика моего рассказа, хоть он и в чужой группе. Замечания учту. В будущем постараюсь исправиться. Жаль, что рассказ вам не понравился.