Почему не было результатов отладки в игре разума, в которую играл Эндер?

В «Игре Эндера» Орсона Скотта Карда Эндер играет в особую компьютерную игру широко и одержимо.

Заявленная цель игры - проанализировать ум учащихся.

Тем не менее, школьный персонал (Андерсон?) Довольно открыто признается, что не знает, почему игра показывает определенные вещи Эндеру .

Почему в мире нет такого важного программного обеспечения, как подробные журналы отладки?

Гейб Уиллард

Интеллектуальная игра не дает журналов отладки, потому что она специально запрограммирована не делать этого. Из игры Эндера , глава 9 «Демосфен и Локк»:

«Хорошо, это для его же блага. Но почему . Его брат опасен, его брату отказали в этой программе, потому что он один из самых безжалостных и ненадежных людей, на которых мы возложили руки. Почему он так важен для Эндера? Почему, после всего этого времени? "

«Честно говоря, сэр, я не знаю. И программа интеллектуальных игр разработана таким образом, что она не может сказать нам . На самом деле она может не знать себя. Это неизведанная территория».

Ранее в том же разговоре полковник Графф и майор Имбу обсуждали цель и значение игры. Строго говоря, игра не предназначена для тех, кто смотрит. Это разработано для психологической пользы детей, играющих в нее.

«Конец света в игре не обязательно является концом человечества в войнах с жуками. Он имеет личное значение для Эндера ».

«Игра разума - это отношения между ребенком и компьютером. Вместе они создают истории . Истории правдивы в том смысле, что они отражают реальность жизни ребенка. Это все, что я знаю».

Разумная игра предназначена для того, чтобы помочь учащимся Школы битвы неразрушающим образом разрешать свои личные конфликты. Никто другой не смог преодолеть их внутреннюю борьбу со скоростью и решительностью, которыми обладал Эндер. Гигант ранее победил всех, кто пересек его путь, но Эндер преодолел его. Полковник никогда не видел, чтобы кто-то делал это раньше, но он не до конца понимал, что он видит после Великана. Игра могла сказать, что следующая главная борьба Эндера была с его темным прошлым: Питер. Узнав об этом, они знали, что Эндеру придется пересмотреть свое счастливое прошлое с Валентином, чтобы преодолеть конец своего мира. Только тогда Эндер будет готов встретиться с последними вызовами, которые возникнут перед ним.

Арамис

[T] Игра - это ИИ, следуя сложному алгоритму, а не простому подходу «если это то потом». Даже для простого алгоритма распознавания образов нейронной сети подробный журнал отладки просто не говорит вам о том, почему что-то произошло. - Тайнам

Журналы отладки и протоколы отладки не всегда детально рассматривают причины произошедшего. В типичной небольшой программе (1000 строк кода плюс библиотечный код - всего менее 5 тыс. Строк кода) в журнале отладки отображаются данные только для тех точек останова, которые были установлены, и для места, где обнаружена ошибка .

Даже когда программа имеет полезные точки останова, большинство нефатальных ошибок происходит без исключения (вызывая код сообщения об ошибке). Вы знаете, что это ошибка, потому что результат неожиданный - и затем вы возвращаетесь, устанавливаете больше точек останова, перекомпилируете в режиме отладки и затем смотрите переменные в этих точках останова.

И, как указывает Тайнан, нейронные сети являются сложными. Простое моделирование нейронной сети выполняется до 500 строк кода для сети из 3-4 узлов. Полезно большая сеть должна была бы быть аппаратной, чтобы быть достаточно быстрой, работать с несколькими десятками тысяч узлов и отладкой, которая требовала бы больших объемов данных, специальных интерфейсов и специальных групп, работающих над созданием даже небольших частей кода. , Кроме того, ИИ будет управлять крупными банками процессоров, выполняющих вспомогательный код на ненейронном оборудовании. Кроме того, чтобы получить уровень сложности, система должна иметь адаптивную эвристическую модель в дополнение к нейронной сети.

Кроме того, если вы полностью не сбросите аппаратные средства, адаптивная эвристическая нейронная сеть после использования не будет такой же, как раньше. Природа эвристики заключается в том, что эвристическая программа самостоятельно настраивается на основе встроенного цикла обратной связи. Eurisko был адаптивным эвристиком без ИИ. Программист Д.Ленат утверждает, что понятия не имел, почему Евриско выбрал стратегии, которые он использовал, кроме того, что они работали. Итеративно, он стал лучшим игроком Trillion Credit Squadron в мире . достаточно хорошим, чтобы его появление угрожало закрытию турнира игровым дизайнером.

В случае Ender и AI у вас нет контроля над входами - неожиданный вывод заслуживает внимания, но не может быть воспроизведен, так как им не хватало как дублирующего оборудования, так и журналов ввода. Регистрация входа была ограничена; большая часть записи Эндера была записана, но этого недостаточно. Чтобы реплицировать состояние адаптивной эвристической программы, вам нужно либо сделать моментальный снимок всего коллективного ввода по мере его поступления, чтобы вы могли сослаться на него, либо сделать снимок до интересной ошибки и записать все входные данные с этого момента.

Даже имея возможность копировать с модификациями, у вас все еще нет всей картины; Нейронные сети подвержены случайным воздействиям различных излучений, изменяющих проводимость матриц их соединений. На орбите это еще более потенциально глубоко. Поскольку Школа Битвы находилась на орбите, космическое излучение и солнечное излучение обеспечивают ограниченные случайные входы, которые невозможно воспроизвести.

Добавьте к этому упоминание о том, что ИИ Боевой школы был единственной наиболее сложной программой, которая была развернута. Большие программы имеют другие проблемы, особенно потому, что они выполняются в виде модулей, при этом различные модули разрабатываются независимо, а затем объединяются другой командой, иногда в 3-4 слоях комбинаций. Скрытая ошибка в модуле не может вызывать само исключение, но может вызывать исключение в другом модуле. Это тот случай, который произошел с USS Yorktown в 1997 году - программист не смог реализовать проверку деления на 0 в поле вычисления; неверные данные были переданы перед расчетом, что привело к каскаду компьютерных сбоев. Аналогичная проблема с аппаратным обеспечением возникла у некоторых процессоров AMD в 1990-х годах - конкретная ошибка приводила к отключению данного подпроцессора (r-блока) - при тестировании она игнорировалась, поскольку процессор был настолько отказоустойчивым, что не появлялся аппаратный сбой; после того, как устройство попало в поле использования, сбои стали более заметными.

Теперь, учитывая заявленную сложность программы Battle School Game, журналы отладки будут либо огромными (и, следовательно, делаться нечасто), либо практически бесполезными, показывая только сгенерированные исключения. В сочетании с адаптивной эвристикой и нейронной сетью отладка становится почти невозможной задачей. Даже репликация невозможна из-за отсутствия полных бревен и случайного запуска нейронных связей от космического и солнечного излучения.

И это до того, как учесть, по-видимому, случайную серию внешних входов - филотические входы пробрались сквозь ANSIBLE Квинс Квинс. Эти входы, первоначальная искра, ведущая к Джейн, не были записаны. Они остались незамеченными только из-за явной сложности и огромных допусков ввода данных компьютерных систем Battle School . но включение их в эвристику означает, что программа не может быть реплицирована отдельно, так как некоторые входные данные будут отсутствовать.