Проблемы со сверхперспективными возможностями

Часть проблемы со сверхперспективными возможностями в том, что первые сторонники искусственного интеллекта полагали, что весь процесс человеческого мышления может быть формализован в алгоритмы. Фактически это идея китайских, индииских и греческих философов. Формализованными могут быть лишь некоторые компоненты человеческого интеллекта. В наилучшем случае получится выяснить механизмы математического и логического мышления человека. Но даже в этом случае Давид Гильберт (David Hilbert) бросил в 1920- и 1930-х годах вызов математикам, попытавшись доказать, что все математические рассуждения могут быть формализованы. Ответ на этот вызов поступил из доказательства неполноты Курта Гёделя, машины, использованной Тьюрингом, и лямбда-исчислений Алонзо Чёрча. Появились два результата: формализация всего математического рассуждения невозможна; а в областях, в которых формализация возможна, вы можете механизировать рассуждение, которое является основанием для искусственного интеллекта.

Другая часть проблемы сверхобещаний — в чрезмерном оптимизме. На заре искусственного интеллекта компьютеры решали алгебраические задачи, доказывали геометрические теоремы и учились говорить на английском языке. Первые два вывода вполне разумны, когда вы полагаете, что компьютер просто анализирует ввод и приводит его в форму, которой может манипулировать компьютер. Проблема с третьим выводом. В действительности компьютер не умел говорить на английском; он проверял оригинальность текста антиплагиат и преобразовывал текстовые данные в цифровые шаблоны, которые, в свою очередь, преобразовывались в аналоговые шаблоны, а результат весьма походил на речь, но это было не так. Компьютер ничего не понимал в английском языке, как, впрочем, и в любом другом языке. Да, ученые действительно слышали английскую речь, но компьютер видел просто нули и единицы в определенном шаблоне, который компьютер вообще не воспринимал как язык.

Даже исследователи зачастую заблуждаются, пологая что компьютер делает больше, чем на самом деле. Например, ELIZA Джозефа Вейценбаума казалась слышащей сказанное и отвечавшей осмысленно. К сожалению, ответы были заданы заранее, и приложение не слышало ничего, не понимало и не высказывало. Но все же ELIZA была первым виртуальным собеседником и действительно шагом вперед, хотя и невероятно маленьким. Просто заблуждение было значительно более великим, чем фактическая технология — в этом и проблема, перед которой стоит сегодня искусственный интеллект.