Вы могли общаться с разговорным ИИ-ботом и даже не знать об этом.

Lifehacker представил шесть различных типов медиа, созданных ИИ, и выделим общие особенности, побочные продукты и отличительные черты, которые помогут вам отличить искусственный контент от созданного человеком.

В наши дни большая часть общения происходит посредством текстовых сообщений. Вы можете переписываться с подходящим человеком в приложении для знакомств или отправлять сообщение представителю компании, когда вам нужна помощь с клиентом, вместо того, чтобы поговорить по телефону с кем-либо из них. Проблема в том, что вы никогда не знаете, с кем разговариваете, когда разговор полностью основан на текстовых сообщениях. Фактически, вы можете вообще не общаться с человеком.

Разговорный ИИ прошел долгий путь за последние годы, и появление чат-ботов, таких как ChatGPT , только усугубило ситуацию. Этих ботов уже было трудно обнаружить, пока интеллектуальный ИИ не сделал возможным имитировать человеческий язык в пугающей степени. Но даже несмотря на то, что эта технология быстро развивается, она далека от совершенства. Есть некоторые отличительные черты чат-ботов ИИ, на которые вы можете обратить внимание, чтобы определить, действительно ли «человек» на другом конце чата тот, за кого себя выдает.

Как работают чат-боты?

Современные чат-боты работают на основе больших языковых моделей (LLM). Эти модели обучаются на наборах данных, содержащих огромное количество текста: со временем модель изучает связи между словами и фразами, которые она использует для информирования своих ответов. Когда вы задаете чат-боту вопрос, он разбивает ваш ввод на то, что, по его мнению, является наиболее важными частями, а затем использует свое обучение, чтобы угадать, какие слова имеют смысл для ответа. Он не понимает, что говорит, а понимает только то, что эта серия слов имеет смысл на основе его набора данных.

Основываясь на этом, разработчики могут давать своим чат-ботам конкретные инструкции о том, как отвечать на запросы, чтобы лучше контролировать опыт конечного пользователя. Это особенно полезно, если разработчик хочет, чтобы их чат-бот взял на себя определенную роль, например, представителя службы поддержки клиентов: вы можете не захотеть, чтобы ваш представитель разглагольствовал на темы, не имеющие отношения к компании, и не хотите, чтобы он вступал в споры с пользователем. Поэтому его инструкции могут затруднить определение того, является ли человек на другом конце хорошо обученным сотрудником или роботом.

С другой стороны, возможно, разработчик создаст чат-бота для знакомств, в инструкциях которого говорится, что нельзя писать первое слово ответа заглавными буквами, часто использовать «лол» и подмигивать, а также использовать непринужденный тон. Внезапно вы общаетесь не с клоном ChatGPT, а с ботом, который не звучит так роботизированно.

Хотя становится все труднее вычислять личность чат-ботов, это не невозможно. Напротив, есть много признаков, на которые стоит обратить внимание, продолжая переписываться с людьми в Интернете:

Остерегайтесь странного выбора слов

В предыдущей версии этой статьи читателям рекомендовалось обращать внимание на неуклюжие фразы, поскольку лучшие разговорные боты того времени были подвержены странным сложностям английского языка. Однако с тех пор большие языковые модели быстро развивались и теперь хорошо владеют английским языком. Нечасто чат-бот выплевывает что-то, что заставляет думать, что он не понимает язык, который использует: он, на самом деле, не понимает, но он изучил достаточно связей между словами, чтобы знать, как расположить их так, чтобы это имело смысл для людей.

Тем не менее, некоторые слова, которые эти модели решают использовать, 
странные . Как я объясняю в этой статье об обнаружении текста ИИ , модели OpenAI часто используют ряд слов, которые не обязательно так уж распространены в повседневном разговоре. Вы увидите такие вещи, как «углубиться», «подчеркнуть», «новаторский» и «гобелен», когда описываете концепции, и хотя ни одно из них само по себе не является осуждающим, постоянное использование таких слов может быть признаком того, что ваш «друг» на самом деле работает на основе большой языковой модели.

Ищите повторение

Боты такого рода также, как правило, чрезвычайно однобоки. Человеческий разговор, как правило, текучий — темы вводятся, опускаются, а затем снова подхватываются позже. Но специализированные чат-боты обычно создаются для определенных целей, и они будут упорно преследовать эти цели, независимо от того, что вы делаете. Это всего лишь часть их базовых инструкций. Если вы замечаете, что «человек», с которым вы разговариваете или общаетесь, продолжает возвращаться к одной и той же рекомендации или решению, независимо от того, что вы говорите, вы можете иметь дело с ботом. Если они буквально повторяют точную формулировку каждый раз, это еще более сильный признак, потому что люди склонны менять то, как они формулируют вещи, особенно если они чувствуют, что не доходят до вас.

Еще одна форма повторения, на которую стоит обратить внимание? Повторение вашего вопроса. Если вы спросите «Какова столица Соединенных Штатов?», бот может ответить «Столица Соединенных Штатов — Вашингтон, округ Колумбия», а не просто сказать «Вашингтон, округ Колумбия» или «Округ Колумбия, конечно». Чат-боты любят включать часть вашего предыдущего сообщения в свой ответ, тогда как наши ответы в неформальных разговорах, как правило, кратки.

Обратите внимание на неопределенные ответы

Хотя боты прошли долгий путь, они все еще могут давать расплывчатые, бессмысленные ответы на ваши запросы, особенно если вы пытаетесь говорить о тяжелых или серьезных темах. Опять же, они будут повторять то, что вы только что сказали, чтобы создать иллюзию внимания. На самом деле это старый трюк. «Чатбот-терапевт» ELIZA, разработанный в 1960-х годах, постоянно использует его. Если вы скажете ей: «Мне грустно», она ответит: «Как давно ты грустишь?» Это простая алгоритмическая конструкция, но она дает иллюзию разумности. Чат-боты теперь основаны на LLM и не обязательно запрограммированы в этом традиционном смысле, но их ответы все еще могут быть немного бесполезными в зависимости от обсуждаемой темы.

Если ваш друг постоянно отвечает на ваши сообщения «советами», которые звучат так, будто их написал некто по имени Мистер Роджерс, то это может быть просто бот.

Обратите внимание на скорость отклика

Еще одним признаком того, что вы имеете дело с ИИ, является скорость их ответов. Боты могут генерировать ответы гораздо быстрее людей. Если вы когда-либо просили ChatGPT написать вам эссе, вы могли видеть, как быстро эти модели способны генерировать текст. Если чаты возвращаются к вам мгновенно или другая сторона может мгновенно предоставить вам информацию, на поиск которой человеку, по идее, должно быть, потребуется некоторое время, вы имеете дело либо с ботом, либо с самым талантливым представителем службы поддержки клиентов во вселенной.

Они всегда доступны?

Дело не только в скорости ответа. В отличие от людей, боты всегда доступны для общения — утром, днем ​​и вечером. Если «человек», которому вы пишете, всегда кажется не против поболтать, независимо от дня или времени, это большой красный флаг. Конечно, есть люди, которые постоянно сидят в своих телефонах, но все мы в какой-то момент делаем перерыв. Обратите внимание, заставляет ли вас ваш собеседник ждать или на каждое отправленное им сообщение следует быстрый ответ.

Другой «человек» слишком восторжен?

Чат-боты созданы, чтобы быть полезными в любой задаче, которую им поручено выполнить. По какой-то причине они часто интерпретируют эту задачу как чрезмерное дружелюбие и стремление угодить, что выглядит странно. Эти боты всегда «рады помочь с чем угодно», сочувствуют вам каждый раз, когда что-то не так, и хотят, чтобы вы знали, что «они понимают». Хотя быть эмпатом — это здорово, большинство людей не падают на пол, чтобы доказать вам свою состоятельность почти в каждом сообщении. Когда дело доходит до обмена сообщениями по тексту, примите цинизм.

Они совершают неправильные ошибки

Современные чат-боты не делают орфографических или грамматических ошибок: их просто не обучают этому. Опять же, они выбирают слова на основе того порядка, который имеет смысл из их обучения, что будет грамматически точным. Эти слова также все написаны правильно, поэтому они не обучены делать опечатки. С другой стороны, люди-машинистки постоянно ошибаются . Как часто вы ведете разговор по тексту, в котором другой человек не делает хотя бы одну опечатку? Признаете вы это или нет, идеальное правописание и грамматика все время — это красный флаг.

Однако это не значит, что боты идеальны. Хотя их синтаксис может быть превосходным, они могут просто выдумывать. Это называется галлюцинациями , и все ИИ время от времени это делают. Если вы заметили, что ваш партнер выдумывает факты и придерживается их, он может быть либо ботом, либо просто очень упрямым в своем невежестве.

Покажите «Безумного Ивана»

Если вы подозреваете, что имеете дело с ботом, но не уверены, есть тест, который вы можете попробовать. В фильме « Охота за «Красным Октябрем» капитан российской подводной лодки, которого играет Шон Коннери, известен тем, что использует «Безумных Иванов» во время плавания под водой — внезапно поворачивая лодку, чтобы посмотреть, не скрывается ли за ним вражеская подлодка. Такой неожиданный ход также может нарушить работу ИИ.

Хотя разговорный ИИ стал чрезвычайно сложным, и может быть трудно сказать по краткому взаимодействию, что вы не разговариваете с человеком, у ботов все еще есть трудности с нелогичными выводами. Это особенно верно в отношении эмоций и человеческих отношений. В середине разговора спросите предполагаемого бота о его семье или скажите ему, что вы чувствуете себя подавленным, просто чтобы посмотреть на реакцию. Раньше такой тип прерывания мог сломать всю личность бота, но сегодня чат-боты достаточно умны, чтобы, по крайней мере, включить вопрос не по теме в свой ответ. Тем не менее, это все еще может раскрыть их природу LLM: бот может сказать: «О нет! Мне жаль слышать, что вы в депрессии. Но давайте останемся по теме…» или погрузиться в длинную серию предложений о том, как справиться с вашей предполагаемой депрессией, ответы, которые не совсем такие, как вы ожидаете от собеседника-человека.

Здесь есть несколько приемов Crazy Ivan, которые вы можете использовать. Мой личный фаворит? Смена языка разговора. Скажите своему «другу», что вы бы предпочли продолжить разговор на другом языке. Вы даже можете предположить, что друг упомянул, что свободно говорит на этом языке, даже если он никогда этого не делал. Реальный человек отреагирует с недоумением, в то время как бот может ухватиться за возможность помочь вам. «Конечно, давайте перейдем на исландский! Hvað vilt þú ræða um?» Я даже обнаружил, что даже если бот сопротивляется смене языка, он все равно может отвечать на вопросы на другом языке, как если бы вы задали их на английском.

Конечно, если вы действительно общаетесь с реальным человеком, эти трюки Crazy Ivan действительно его напугают. Изучите эту реакцию: правильное “чувак… чё за фигня” может быть всем, что вам нужно, чтобы понять, что он на 100% человек.