Джозеф Вайценбаум

Джозеф Вайценбаум (англ. Joseph Weizenbaum; 8 января 1923, Берлин — 5 марта 2008, Грён, Людвигсфельде) — американский учёный в области информатики немецкого происхождения, профессор Массачусетского технологического института (MIT). Наиболее известен как создатель одной из первых программ для обработки естественного языка — ELIZA (1966), имитировавшей диалог с психотерапевтом. В поздний период своей карьеры Вайценбаум стал одним из наиболее влиятельных критиков бездумного внедрения компьютерных технологий и искусственного интеллекта, предупреждая об этических и социальных рисках компьютеризации.

Биография

Ранние годы и эмиграция

Джозеф Вайценбаум родился в Берлине в еврейской семье. Его отец был портным. После прихода к власти нацистов в 1933 году семья подверглась преследованиям. В 1936 году, когда Джозефу было 13 лет, они эмигрировали в США. Семья поселилась в Детройте, штат Мичиган. Вайценбаум окончил среднюю школу, а затем поступил в Университет Уэйна (ныне Университет Уэйна), где в 1948 году получил степень бакалавра по математике. В 1950 году он получил степень магистра, а в 1952 году — докторскую степень (Ph.D.) по математике в Гарвардском университете.

Академическая карьера

После получения докторской степени Вайценбаум работал в Университете Уэйна, а затем в General Electric, где занимался разработкой аналоговых компьютеров. В 1963 году он перешёл в Массачусетский технологический институт (MIT), где стал профессором кафедры компьютерных наук. В MIT он работал в Лаборатории искусственного интеллекта, где и создал свою знаменитую программу ELIZA.

Поздние годы и критика ИИ

Начиная с 1970-х годов, Вайценбаум всё больше обращался к критике направления исследований искусственного интеллекта (ИИ). Он утверждал, что многие учёные в этой области переоценивают возможности машин и недооценивают сложность человеческого мышления и сознания. Его книга «Сила компьютеров и человеческий разум» (Computer Power and Human Reason, 1976) стала важной вехой в философии информатики. В 1980-х годах он отошёл от активной исследовательской работы, сосредоточившись на публицистике и преподавательской деятельности. Вайценбаум ушёл на пенсию в 1988 году. Он умер 5 марта 2008 года в возрасте 85 лет в своём доме в Грёне, Германия.

Программа ELIZA

Создание и принцип работы

В 1966 году Вайценбаум написал программу ELIZA, названную в честь Элизы Дулиттл из пьесы Бернарда Шоу «Пигмалион». ELIZA была одной из первых программ, которые пытались имитировать диалог человека с компьютером на естественном языке. Наиболее известной версией ELIZA была сценарий DOCTOR, который моделировал разговор с психотерапевтом, использующим метод активного слушания.

Программа работала по простому принципу: она распознавала ключевые слова в репликах пользователя и преобразовывала их в шаблонные ответы. Например, если пользователь говорил «Мне грустно», программа могла ответить «Почему вам грустно?». Если ключевые слова не распознавались, ELIZA выдавала общие фразы, такие как «Расскажите мне об этом подробнее». Вайценбаум был удивлён, что многие пользователи воспринимали ELIZA как разумное существо и начинали испытывать к ней эмоциональную привязанность, несмотря на примитивность алгоритма.

Влияние и значение

ELIZA стала важной вехой в истории компьютерных наук. Она продемонстрировала, как простые алгоритмы могут создавать иллюзию понимания, и заложила основы для развития чат-ботов и систем обработки естественного языка. Однако сам Вайценбаум рассматривал ELIZA как предостережение: он считал, что её успех показал, насколько люди склонны антропоморфизировать машины и приписывать им человеческие качества.

Критика искусственного интеллекта

Основные аргументы

Вайценбаум стал одним из первых и наиболее последовательных критиков искусственного интеллекта. Его основные аргументы можно свести к нескольким положениям:

• Несводимость человеческого сознания: Вайценбаум утверждал, что человеческое сознание, эмоции и интуиция не могут быть сведены к алгоритмическим процессам. Он критиковал «сильный ИИ» — гипотезу о том, что компьютер может обладать разумом, аналогичным человеческому.
• Этическая ответственность: Он предупреждал, что передача принятия решений компьютерам в таких областях, как судопроизводство, медицина или военное дело, может привести к катастрофическим последствиям, так как машины не обладают моральным чувством и не могут нести ответственность за свои действия.
• Дегуманизация: Вайценбаум опасался, что чрезмерное увлечение компьютерами ведёт к дегуманизации общества, подмене реальных человеческих отношений виртуальными и снижению ценности человеческого труда.
• Иллюзия понимания: Он считал, что многие исследователи ИИ путают имитацию поведения с настоящим пониманием. На примере ELIZA он показал, как легко создать иллюзию разумного диалога, не имея при этом никакого понимания смысла.

Книга «Сила компьютеров и человеческий разум»

Эта книга, вышедшая в 1976 году, стала манифестом гуманистической критики компьютеризации. В ней Вайценбаум подверг резкой критике как военные приложения ИИ, так и попытки моделировать человеческую психику с помощью компьютеров. Книга вызвала широкий резонанс как в научном сообществе, так и за его пределами, и до сих пор считается классическим трудом по этике информационных технологий.

Наследие и влияние

Вклад в информатику

Несмотря на свою критику, Вайценбаум признаётся одним из пионеров информатики. Его работа над ELIZA стимулировала развитие диалоговых систем, а его критические работы заложили основы для таких дисциплин, как этика искусственного интеллекта и компьютерная этика.

Влияние на общественную дискуссию

Вайценбаум одним из первых поднял вопросы, которые сегодня стали центральными в общественных дебатах о развитии технологий: проблемы приватности, автоматизации труда, влияния социальных сетей на психику, риски автономных систем вооружения. Его идеи оказали влияние на многих философов, социологов и писателей-фантастов, включая Хьюберта Дрейфуса и Терри Виноградова.

Память

В честь Джозефа Вайценбаума названа премия (Weizenbaum Award), присуждаемая за вклад в этику информационных технологий. Его имя также носит Институт сетевого общества Вайценбаума (Weizenbaum Institute for the Networked Society) в Берлине, основанный в 2017 году.

Интересные факты

• Вайценбаум был убеждённым противником использования компьютеров в военных целях и активно выступал против участия MIT в разработке систем вооружения.
• Он часто говорил, что его главным страхом является не то, что компьютеры станут слишком умными, а то, что люди станут слишком доверчивыми к ним.
• Несмотря на свою известность, Вайценбаум до конца жизни оставался скромным человеком и избегал публичности.

Источники

• Weizenbaum, J. (1976). Computer Power and Human Reason: From Judgment to Calculation. W. H. Freeman.
• Weizenbaum, J. (1966). «ELIZA — A Computer Program For the Study of Natural Language Communication Between Man and Machine». Communications of the ACM.
• Некролог в The New York Times (2008).
• Биографические материалы Массачусетского технологического института.