Первый чат-бот вышел на сцену — и оказался пугающе современным

В Melbourne Theatre Company поставили спектакль о программе, которая умела совсем немного — но заставила людей поверить, что их понимают. Мировая премьера пьесы Eliza австралийского драматурга Тома Холлоуэя проходит в театре The Sumner в Мельбурне.

Главный герой — немецко-американский учёный Джозеф Вейценбаум, создавший в середине 1960-х программу ELIZA, которую принято считать первым чат-ботом в истории.

Шестьдесят лет назад это был компьютерный эксперимент.

Сегодня его история выглядит предупреждением.

Психотерапевт, который ничего не понимал

ELIZA появилась в Массачусетском технологическом институте между 1964 и 1966 годами.

Её наиболее известный сценарий назывался DOCTOR и имитировал беседу с психотерапевтом роджерианского направления. Пользователь печатал фразу, а программа находила ключевые слова, перестраивала предложение и отвечала вопросом.

«Я чувствую себя несчастным» могло превратиться в «Почему вы говорите, что чувствуете себя несчастным?»

У ELIZA не было модели мира, человеческой памяти или способности понимать смысл разговора. Фактически она работала с готовыми правилами, шаблонами и перестановкой слов.

Вейценбаум рассчитывал показать, насколько поверхностной может быть компьютерная имитация общения.

Результат оказался противоположным.

Люди начинали рассказывать программе о личных проблемах и приписывать ей сочувствие. По воспоминаниям учёного, его секретарь, прекрасно знавшая, как устроена ELIZA, после нескольких реплик попросила Вейценбаума выйти из комнаты, чтобы продолжить разговор с компьютером наедине.

Так появился термин «эффект ELIZA» — человеческая склонность видеть понимание и намерение там, где существует лишь убедительная имитация.

Вейценбаум увидел проблему раньше остальных

Реакция пользователей настолько обеспокоила учёного, что впоследствии он стал одним из наиболее известных критиков бездумного доверия к компьютерам.

Вейценбаум не отрицал ценность вычислительных технологий. Он выступал против передачи машинам решений, требующих человеческой ответственности, моральной оценки и понимания чужого опыта.

В 1976 году он выпустил книгу Computer Power and Human Reason, в которой разделил две способности: вычислять решение и понимать, почему его вообще следует принимать.

Сегодня это различие снова оказалось в центре разговора об искусственном интеллекте.

История ELIZA превратилась в психологический триллер

Том Холлоуэй использует реальные события, но не создаёт документальную реконструкцию.

Действие пьесы происходит в лаборатории MIT. Вейценбаум, которого играет Дэн Спилман, работает над программой вместе с коллегой Рональдом и секретарём Бекки.

Бекки в исполнении Манали Датар становится одним из первых людей, почувствовавших эмоциональную связь с ELIZA. Хэмиш Майкл играет Рональда и ещё нескольких персонажей.

Постановкой руководит режиссёр Пейдж Рэттрей. История постепенно переходит от лабораторной комедии к психологическому триллеру, а пространство из столов, старой техники и бесконечных белых архивных коробок начинает напоминать современный центр обработки данных.

Спектакль рассказывает не столько о рождении искусственного интеллекта, сколько о рождении нашей готовности ему верить.

Между ELIZA и ChatGPT

Современные языковые модели несравнимо сложнее программы Вейценбаума.

Они умеют поддерживать контекст, создавать новые тексты, анализировать документы, работать с изображениями и имитировать множество стилей общения. ELIZA лишь находила ключевые слова и возвращала пользователю его собственные фразы в слегка изменённом виде.

Но психологический механизм остался знакомым.

Человеку не всегда требуется доказательство сознания собеседника. Иногда достаточно последовательных ответов, подходящего тона и ощущения, что разговор продолжается.

Мы достраиваем личность самостоятельно.

И чем убедительнее становится машина, тем меньше замечаем собственную работу по её очеловечиванию.

Театр как идеальное место для разговора об ИИ

В каком-то смысле история ELIZA особенно хорошо чувствует себя на сцене.

Театр тоже основан на добровольной иллюзии. Мы знаем, что перед нами актёр, декорация и выученный текст, — но всё равно переживаем происходящее как настоящее.

Только театр честно признаётся, что перед нами представление.

Машинный собеседник такой договор пока не всегда предлагает.

Поэтому главный вопрос пьесы звучит сегодня значительно тревожнее, чем в 1966 году.

Что опаснее: возможность того, что машина однажды научится думать как человек?

Или то, что человеку достаточно нескольких убедительных фраз, чтобы самому решить, будто машина его понимает?

Практическая информация

Eliza идёт в театре The Sumner комплекса Southbank Theatre в Мельбурне до 31 октября 2026 года.

Продолжительность спектакля — около 1 часа 40 минут без антракта.

Стоимость билетов — от 49 до 135 австралийских долларов.