Может Ли Компьютер Обмануть Вас, Думая, Что Это Человек?

Может Ли Компьютер Обмануть Вас, Думая, Что Это Человек?

Роберт Эпштейн искал любовь. Год 2006, он искал онлайн.

Как он рассказал в журнале Scientific American Mind, он начал многообещающий обмен электронной почтой с симпатичной брюнеткой в ​​России.

Эпштейн был разочарован - он хотел больше, чем просто друг по переписке, давайте будем откровенны - но она была теплой и дружелюбной. Вскоре она призналась, что влюбилась в него.

"У меня к тебе особые чувства. Так же, как красивый цветок, расцветающий в моей душе ... Я не могу объяснить ... Я буду ждать твоего ответа, скрестив пальцы ... "

Переписка расцвела, но ему потребовалось много времени, чтобы заметить, что Ивана никогда не отвечала прямо на его вопросы.

Она писала о прогулке в парке, беседах с матерью и рассказывала о том, как сильно он ей нравился.

Подозрительно, он в конце концов послал Иване целую чепуху. Она ответила еще одним письмом о своей матери.

Наконец, Эпштейн понял правду: Ивана была чат-ботом.

Удивляет история не то, что русскому чат-боту удалось обмануть одинокого калифорнийского мужчину средних лет.

Дело в том, что обманутый человек был одним из основателей премии Лёбнера, ежегодного теста искусственного общения, в ходе которого компьютеры пытаются обмануть людей, заставляя их думать, что они тоже люди.

Другими словами, один из лучших в мире экспертов по чат-ботам потратил два месяца, пытаясь соблазнить компьютерную программу.

50 вещей, которые сделали современную экономику, выдвигает на первый план изобретения, идеи и инновации, которые помогли создать экономический мир.

Это транслируется на Всемирной службе BBC. Вы можете найти больше информации об источниках программы и прослушать все эпизоды онлайн или подписаться на подкаст программы.

Ежегодно приз Лебнера заставляет чат-ботов пройти тест Тьюринга, предложенный в 1950 году британским математиком, взломщиком кодов и компьютерным пионером Аланом Тьюрингом.

В «игре-имитации» Тьюринга судья связывался с помощью телесуфлера с человеком и компьютером. Задача компьютера состояла в том, чтобы достаточно убедительно имитировать человеческий разговор, чтобы убедить судью.

Тьюринг думал, что через 50 лет компьютеры смогут обмануть 30% судей после пяти минут разговора.

Он был недалеко. На самом деле это заняло 64 года, хотя эксперты продолжают спорить о том, действительно ли «Юджин Густман» - компьютерная программа, прошедшая трубу как проходящую тест Тьюринга в 2014 году - действительно имеет значение.

Как и Ивана, Густман оправдал ожидания, заявив, что не является носителем английского языка. Он сказал, что он был 13-летним ребенком из Одессы в Украине.

Один из первых и самых известных ранних чат-ботов, Элиза, не прошел бы тест Тьюринга - но с помощью всего лишь нескольких строк кода успешно имитировал человека-ненаправленного терапевта.

Названный в честь Элизы Дулиттл, бессмертной героини Пигмалиона Джорджа Бернарда Шоу, она - это? - был запрограммирован в середине 1960-х годов Джозефом Вейзенбаумом.

Если вы наберете «мой муж заставил меня прийти сюда», Элиза может просто ответить: «ваш муж заставил вас прийти сюда». Если вы упомянули, что злитесь, Элиза может спросить: «Как вы думаете, приезд сюда поможет вам не злиться?». Или она может просто сказать: «Пожалуйста, продолжайте».

Людям было все равно, что Элиза не человек: они казались довольными, что кто-то выслушает их без осуждения или попыток спать с ними. Секретарь Вайзенбаума просил его выйти из комнаты, чтобы она могла поговорить с Элизой наедине.

Психотерапевты были очарованы.

В современной статье в «Журнале нервных и психических заболеваний» говорится, что «несколько сотен пациентов в час могут обрабатываться компьютерной системой». Наблюдая за армией ботов, человек-терапевт был бы гораздо эффективнее.

И действительно, когнитивно-поведенческая терапия в настоящее время проводится чатботами, такими как Woebot, разработанными клиническим психологом Алисон Дарси. Нет претензий, что они люди.

Сам Вайзенбаум был в ужасе от мысли, что люди будут соглашаться на столь бедных, заменяющих человеческое взаимодействие. Но, как и доктор Франкенштейн Мэри Шелли, он создал что-то вне его контроля.

Chatbots теперь повсеместно распространяются, обрабатывая все большее количество жалоб и запросов.

Babylon Health - чат-робот, который спрашивает людей об их медицинских симптомах и решает, следует ли им обратиться к врачу.

Амелия общается напрямую с клиентами некоторых банков, но используется американской компанией Allstate Insurance для предоставления информации работникам колл-центра, которую они используют во время разговора с клиентами.

И программы с голосовым управлением, такие как Amazon Alexa, Apple Siri и Google Assistant, интерпретируют наши запросы и отвечают, с простой целью избавить нас от неуклюжего удара в крошечные экраны.

Брайан Кристиан, автор книги «Самый человеческий человек», посвященной тесту Тьюринга, отмечает, что большинство современных чат-ботов даже не пытаются его пройти.

Существуют исключения: чатли-роботы в стиле Ивана использовались Эшли Мэдисон, веб-сайтом, предназначенным для облегчения внебрачных связей, чтобы скрыть тот факт, что очень немногие человеческие женщины использовали сайт.

Похоже, мы с меньшей вероятностью заметим, что чатбот не человек, когда он подключается непосредственно к нашему либидо.

Еще одна тактика состоит в том, чтобы заводить нас. Чатбот MGonz обманывает людей, начав обмен оскорблениями. Политика - возможно, самая известная кампания по выборам в США в 2016 году - хорошо приправлена ​​чат-ботами в социальных сетях, которые притворяются оскорбленными гражданами, пишут в Твиттере ложь и оскорбляют мемов.

Но, как правило, чат-боты рады представить как чат-боты. Казаться человеком сложно.

Коммерческие боты в значительной степени проигнорировали эту задачу и вместо этого специализируются на том, чтобы хорошо выполнять небольшие задачи - решать простые задачи и передавать сложные случаи реальному человеку.

Экономист Адам Смит объяснил в конце 1700-х годов, что производительность строится на процессе разделения труда на небольшие специализированные задачи.Современные чатботы работают по тому же принципу.

Эта логика заставляет экономистов сегодня утверждать, что автоматизация изменяет рабочие места, а не разрушает их. Рабочие места нарезаны на задачи. Компьютеры берут на себя рутинные задачи, а люди обеспечивают креативность и адаптивность.

Это то, что мы наблюдаем, например, с помощью электронной таблицы, банкомата или киоска самообслуживания. Чатботы дают нам другой пример.

Но мы должны остерегаться риска того, что как потребители или производители - и, возможно, даже как обычные граждане - мы искажаем себя, чтобы подогнать компьютеры.

Мы используем систему самообслуживания, хотя беседа с продавцом может поднять нам настроение.

Мы публикуем обновления статуса - или просто нажимаем смайлики - которые фильтруются алгоритмами социальных сетей; как и в случае с Элизой, мы соглашаемся с ощущением, что кто-то слушает.

Кристиан утверждает, что мы, люди, должны рассматривать это как вызов для поднятия нашей игры. Пусть компьютеры возьмут на себя колл-центры. Разве это не лучше, чем заставлять робота из плоти и крови придерживаться сценария, расстраивающего всех участников?

Мы могли бы надеяться, что вместо того, чтобы пытаться или не обманывать людей, лучшие чат-боты сэкономят время для всех - освободив нас для более конструктивного общения друг с другом по-настоящему.

Автор пишет колонку «Тайный экономист» в Financial Times. 50 вещей, которые сделали современную экономику, транслируются на Всемирной службе Би-би-си. Вы можете найти больше информации об источниках программы и прослушать все эпизоды онлайн или подписаться на подкаст программы.

.