4. Интерпретаторы
ВВЕДЕНИЕ
В трех первых частях этой серии
мы рассмотрели синтаксический анализ и компиляцию математических выражений,
постепенно и методично пройдя от очень простых односимвольных "выражений",
состоящих из одного терма, через выражения в более общей форме и закончив
достаточно полным синтаксическим анализатором, способным анализировать
и транслировать операции присваивания с многосимвольными токенами, вложенными
пробелами и вызовами функций. Сейчас я собираюсь провести вас сквозь этот
процесс еще раз, но уже с целью интерпретации а не компиляции объектного
кода.
Если эта серия о компиляторах,
то почему мы должны беспокоиться об интерпретаторах? Просто я хочу чтобы
вы увидели как изменяется характер синтаксического анализатора при изменении
целей. Я также хочу объединить понятия этих двух типов трансляторов, чтобы
вы могли видеть не только различия но и сходства.
Рассмотрим следующее присваивание:
x = 2 * y + 3
В компиляторе мы хотим заставить центральный процессор
выполнить это присваивание во время выполнения. Сам транслятор не выполняет
никаких арифметических операций┘ он только выдает объектный код, который
заставит процессор сделать это когда код выполнится. В примере выше компилятор
выдал бы код для вычисления значения выражения и сохранения результата
в переменной x.
Для интерпретатора, напротив,
никакого объектного кода не генерируется. Вместо этого арифметические операции
выполняются немедленно как только происходит синтаксический анализ. К примеру,
когда синтаксический анализ присваивания завершен, x будет содержать новое
значение.
Метод, который мы применяем
во всей этой серии, называется "синтаксически-управляемым переводом". Как
вы знаете к настоящему времен, структура синтаксического анализатора очень
близко привязана к синтаксису анализируемых нами конструкций. Мы создали
процедуры на Pascal, которые распознают каждую конструкцию языка. Каждая
из этих конструкций (и процедур) связана с соответствующим "действием",
которое выполняет все необходимое как только конструкция распознана.
В нашем компиляторе каждое действие включает выдачу объектного кода для
выполнения позднее во время исполнения. В интерпретаторе каждое действие
включает что-то для немедленного выполнения.
Что я хотел бы, чтобы вы увидели,
это то, что план┘ структура┘ синтаксического анализатора не меняется. Изменяются
только действия. Так что, если вы можете написать интерпретатор для данного
языка, то вы можете также написать и компилятор, и наоборот. Однако, как
вы увидите, имеются и отличия, и значительные. Поскольку действия различны,
процедуры, завершающие распознавание, пишутся по-разному. Характерно, что
в интерпретаторе завершающие подпрограммы распознавания написаны как функции,
возвращающие числовое значение вызвавшей их программе. Ни одна из подпрограмм
анализа нашего компилятора не делает этого.
Наш компилятор, фактически,
это то, что мы могли бы назвать "чистым" компилятором. Как только конструкция
распознана, объектный код выдается немедленно. (Это одна из причин, по
которым код не очень эффективный.) Интерпретатор, который мы собираемся
построить, является чистым интерпретаторов в том смысле, что здесь нет
никакой трансляции типа "токенизации", выполняемой над исходным текстом.
Это две крайности трансляции. В реальном мире трансляторы не являются такими
чистыми, но стремятся использовать часть каждой методики.
Я могу привести несколько примеров.
Я уже упомянул один: большинство интерпретаторов, типа Microsoft BASIC,
к примеру, транслируют исходный текст (токенизируют его) в промежуточную
форму, чтобы было легче выполнять синтаксический анализ в реальном режиме
времени.
Другой пример √ ассемблер. Целью
ассемблера, конечно, является получение объектного кода и он обычно
выполняет это по однозначному принципу: одна инструкция на строку исходного
кода. Но почти все ассемблеры также разрешают использовать выражения как
параметры. В этом случае выражения всегда являются константами, и ассемблер
не предназначен выдавать для них объектный код. Скорее он "интерпретирует"
выражение и вычисляет соответствующее значение, которое фактически и выдается
с объектным кодом.
Фактически, мы могли бы использовать
часть этого сами. Транслятор, который мы создали в предыдущей главе, будет
покорно выплевывать объектный код для сложных выражений, даже если каждый
терм в выражении будет константой. В этом случае было бы гораздо лучше,
если бы транслятор вел себя немного как интерпретатор и просто вычислял
соответствующее значение константы.
В теории компиляции существует
понятие, называемое "ленивой" трансляцией. Идея состоит в том, что вы не
просто выдаете код при каждом действии. Фактически, в крайнем случае вы
не выдаете что-либо вообще до тех пор, пока это не будет абсолютно необходимо.
Для выполнения этого, действия, связанные с подпрограммами анализа, обычно
не просто выдают код. Иногда они это делают, но часто они просто возвращают
информацию обратно вызвавшей программе. Вооружившись этой информацией,
вызывающая программа может затем сделать лучший выбор того, что делать.
К примеру, для данного выражения
x = x + 3 - 2 - (5 - 4)
наш компилятор будет покорно выплевывать поток из 18 инструкций
для загрузки каждого параметра в регистры, выполнения арифметических действий
и сохранения результата. Ленивая оценка распознала бы, что выражение, содержащее
константы, может быть рассчитано во время компиляции и уменьшила бы выражение
до
x = x + 0
Даже ленивая оценка была бы затем
достаточно умной, чтобы понять, что это эквивалентно
x = x,
что совсем не требует никаких действий. Мы смогли уменьшить
18 инструкций до нуля!
Обратите внимание, что нет никакой
возможности оптимизировать таким способом наш компилятор, потому что каждое
действие выполняется в нем немедленно.
Ленивая оценка выражений может
произвести значительно лучший объектный код чем тот который мы могли произвести.
Я, тем не менее, предупреждаю вас: это значительно усложняет код синтаксического
анализатора, потому что каждая подпрограмма теперь должна принять решение
относительно того, выдать объектный код или нет. Ленивая оценка конечно
же названа так не потому, что она проще для создателей компиляторов!
Так как мы действуем в основном
по принципу KISS, я не буду более углубляться в эту тему. Я только хочу,
чтобы вы знали, что вы можете получить некоторую оптимизацию кода,
объединяя методы компиляции и интерпретации. В частности Вы должны знать,
что подпрограммы синтаксического анализа в более интеллектуальном трансляторе
обычно что-то возвращают вызвавшей их программе и иногда сами ожидают этого.
Эта главная причина обсуждения интерпретаторов в этой главе.
ИНТЕРПРЕТАТОР
Итак, теперь, когда вы знаете
почему мы принялись за все это, давайте начнем. Просто для того,
чтобы дать вам практику, мы начнем с пустого Сradle и создадим транслятор
заново. На этот раз, конечно, мы сможем двигаться немного быстрее.
Так как сейчас мы собираемся
выполнять арифметические действия, то первое, что мы должны сделать √ изменить
функцию GetNum, которая до настоящего момента всегда возвращала символ
(или строку). Лучше если сейчас она будет возвращать целое число. Сделайте
копию Cradle (на всякий случай не изменяйте сам Cradle!!) и модифицируйте
GetNum следующим образом:
{--------------------------------------------------------------}
{ Get a Number }
function GetNum: integer;
begin
if not IsDigit(Look) then Expected('Integer');
GetNum := Ord(Look) - Ord('0');
GetChar;
end;
{--------------------------------------------------------------}
Затем напишите следующую версию Expression:
{---------------------------------------------------------------}
{ Parse and Translate an Expression }
function Expression: integer;
begin
Expression := GetNum;
end;
{--------------------------------------------------------------}
И, наконец, вставьте
Writeln(Expression);
в конец основной программы. Теперь откомпилируйте и протестируйте.
Все, что эта программа делает
- это "анализ" и трансляция "выражения", состоящего из одиночного целого
числа. Как обычно, вы должны удостовериться, что она обрабатывает числа
от 0 до 9 и выдает сообщение об ошибке для чего-либо другого. Это не должно
занять у вас много времени!
Теперь давайте расширим ее,
включив поддержку операций сложения. Измените Expression так:
{---------------------------------------------------------------}
{ Parse and Translate an Expression }
function Expression: integer;
var Value: integer;
begin
if IsAddop(Look) then
Value := 0
else
Value := GetNum;
while IsAddop(Look) do begin
case Look of
'+': begin
Match('+');
Value := Value + GetNum;
end;
'-': begin
Match('-');
Value := Value - GetNum;
end;
end;
end;
Expression := Value;
end;
{--------------------------------------------------------------}
Структура Expression, конечно,
схожа с тем, что мы делали ранее, так что мы не будем иметь слишком много
проблем при ее отладке. Тем не менее это была серьезная разработка, не
так ли? Процедуры Add и Subtract исчезли! Причина в том, что для выполнения
необходимых действий нужны оба аргумента операции. Я мог бы сохранить эти
процедуры и передавать в них значение выражения на данный момент, содержащееся
в Value. Но мне показалось более правильным оставить Value как строго локальную
переменную, что означает, что код для Add и Subtract должен быть помещен
вместе. Этот результат наводит на мысль, что хотя разработанная нами структура
была хорошей и проверенной для нашей бесхитростной схемы трансляции, она
возможно не могла бы использоваться с ленивой оценкой. Эту небольшую интересную
новость нам возможно необходимо иметь в виду в будущем.
Итак, транслятор работает? Тогда
давайте сделаем следующий шаг. Несложно понять, что процедура Term должна
выглядеть также. Замените каждый вызов GetNum в функции Expression на вызов
Term и затем наберите следующую версию Term:
{---------------------------------------------------------------}
{ Parse and Translate a Math Term }
function Term: integer;
var Value: integer;
begin
Value := GetNum;
while Look in ['*', '/'] do begin
case Look of
'*': begin
Match('*');
Value := Value * GetNum;
end;
'/': begin
Match('/');
Value := Value div GetNum;
end;
end;
end;
Term := Value;
end;
{--------------------------------------------------------------}
Теперь испробуйте. Не забудьте
двух вещей: во-первых мы имеем дело с целочисленным делением, поэтому,
например, 1/3 выдаст ноль. Во-вторых, даже если мы можем получать на выходе
многозначные числа, входные числа все еще ограничены одиночной цифрой.
Сейчас это выглядит как глупое
ограничение, так как мы уже видели как легко может быть расширена функция
GetNum. Так что давайте исправим ее прямо сейчас. Вот новая версия:
{--------------------------------------------------------------}
{ Get a Number }
function GetNum: integer;
var Value: integer;
begin
Value := 0;
if not IsDigit(Look) then Expected('Integer');
while IsDigit(Look) do begin
Value := 10 * Value +
Ord(Look) - Ord('0');
GetChar;
end;
GetNum := Value;
end;
{--------------------------------------------------------------}
Если вы откомпилировали и протестировали
эту версию интерпретатора, следующим шагом должна быть установка функции
Factor, поддерживающей выражения в скобках. Мы задержимся немного дольше
на именах переменных. Сначала измените ссылку на GetNum в функции Term,
чтобы вместо нее вызывалась функция Factor. Теперь наберите следующую версию
Factor:
{---------------------------------------------------------------}
{ Parse and Translate a Math Factor }
function Expression: integer; Forward;
function Factor: integer;
begin
if Look = '(' then begin
Match('(');
Factor := Expression;
Match(')');
end
else
Factor := GetNum;
end;
{---------------------------------------------------------------}
Это было довольно легко, а? Мы
быстро пришли к полезному интерпретатору.
НЕМНОГО ФИЛОСОФИИ
Прежде чем двинуться дальше,
я бы хотел обратить ваше внимание на кое-что. Я говорю о концепции, которую
мы использовали на всех этих уроках, но которую я явно не упомянул до сих
пор. Я думаю, что пришло время сделать это, так как эта концепция настолько
полезная и настолько мощная, что она стирает все различия между тривиально
простым синтаксическим анализатором и тем, который слишком сложен для того,
чтобы иметь с ним дело.
В ранние дни технологии компиляции
люди тратили ужасно много времени на выяснение того, как работать с такими
вещами как приоритет операторов┘ способа, который определяет приоритет
операторов умножения и деления над сложением и вычитанием и т.п. Я помню
одного своего коллегу лет тридцать назад и как возбужденно он выяснял как
это делается. Используемый им метод предусматривал создание двух стеков,
в которые вы помещали оператор или операнд. С каждым оператором был связан
уровень приоритета и правила требовали, чтобы вы фактически выполняли операцию
("уменьшающую" стек) если уровень приоритета на вершине стека был корректным.
Чтобы сделать жизнь более интересной оператор типа ")" имел различные приоритеты
в зависимости от того, был он уже в стеке или нет. Вы должны были дать
ему одно значение перед тем как поместите в стек и другое, когда решите
извлечь из стека. Просто для эксперимента я самостоятельно поработал
со всем этим несколько лет назад и могу сказать вам, что это очень сложно.
Мы не делали что-либо подобное.
Фактически, к настоящему времени синтаксический анализ арифметических выражений
должен походить на детскую игру. Как мы оказались настолько удачными? И
куда делся стек приоритетов?
Подобная вещь происходит в нашем
интерпретаторе выше. Вы просто знаете, что для того, чтобы выполнить вычисления
арифметических выражений (в противоположность их анализу), должны иметься
числа, помещенные в стек. Но где стек?
Наконец, в учебниках по компиляторам
имеются разделы, где обсуждены стеки и другие структуры. В другом передовом
методе синтаксического анализа (LR) используется явный стек. Фактически
этот метод очень похож на старый способ вычисления арифметических выражений.
Другая концепция √ это синтаксическое дерево. Авторы любят рисовать диаграммы
из токенов в выражении объединенные в дерево с операторами во внутренних
узлах. И снова, где в нашем методе деревья и стеки? Мы не видели ничего
такого. Во всех случаях ответ в том, что эти структуры не явные а неявные.
В любом машинном языке имеется стек, используемый каждый раз, когда вы
вызываете подпрограмму. Каждый раз, когда вызывается подпрограмма, адрес
возврата помещается в стек ЦПУ. В конце подпрограммы адрес выталкивается
из стека и управление передается на этот адрес. В рекурсивном языке, таком
как Pascal, могут также иметься локальные данные, помещенные в стек, и
они также возвращаются когда это необходимо.
Например функция Expression
содержит локальный параметр, названный Value, которому присваивается значение
при вызове Term. Предположим, при следующем вызове Term для второго аргумента,
что Term вызывает Factor, который рекурсивно вызывает Expression снова.
Этот "экземпляр" Expression получает другое значение для его копии Value.
Что случится с первым значением Value? Ответ: он все еще в стеке и будет
здесь снова, когда мы возвратимся из нашей последовательности вызовов.
Другими словами, причина, по
которой это выглядит так просто в том, что мы максимально использовали
ресурсы языка. Уровни иерархии и синтаксические деревья присутствуют здесь,
все правильно, но они скрыты внутри структуры синтаксического анализатора
и о них заботится порядок в котором вызываются различные процедуры. Теперь,
когда вы увидели, как мы делаем это, возможно трудно будет придумать
как сделать это каким-либо другим способом. Но я могу сказать вам, что
это заняло много лет для создателей компиляторов. Первые компиляторы были
слишком сложными. Забавно, как работа становится легче с небольшой практикой.
Вывод из всего того, что я привел
здесь, служит и уроком и предупреждением. Урок: дела могут быть простыми
если вы приметесь за них с правильной стороны. Предупреждение: смотрите,
что делаете. Если вы делаете что-либо самостоятельно и начинаете испытывать
потребность в отдельном стеке или дереве, возможно это время спросить себя,
правильно ли вы смотрите на вещи. Возможно вы просто не используете возможно |