Неограниченная рациональность: как роботы будут заключать сделки
Собственно, все уже началось. Сделки, заключаемые роботами на финансовых рынках, не новость, как и штрафы, автоматически выставляемые системой, подключенной к дорожным камерам. При этом быстро стали привычными массовые ошибочные штрафы. Зампред ЦБ Сергей Швецов предупреждает, что, если роботы-консультанты вдруг начнут давать одинаковые советы множеству инвесторов, это вызовет нестабильность на рынке и может привести к катастрофе.
Уникальность ситуации в том, что современные роботы становятся полноценными экономическими субъектами и от их решений скоро будет зависеть ситуация не только в отдельном домохозяйстве или на предприятии, но и в мировой экономике.
Современная экономическая теория исходит из ограниченной рациональности человека, которая заставляет его совершать ошибки при формировании спроса, предоставлении информации, оценке рисков и непосредственно при заключении сделок. Важную роль в экономической активности играет доверие, формируемое с помощью специфических и достаточно древних нейронных схем. Поэтому человек, как правило, не уволит своего старого друга ради экономии 1 тыс. руб. в месяц за счет передачи его работы на аутсорсинг. А вот робот, скорее всего, решит иначе. И подобных примеров очень много.
Как же будет происходить замена ограниченной рациональности неограниченной?
Роботы-агенты
Вероятно, первым классом роботов, заключающих сделки в интересах своего владельца, станут роботы-агенты. Действуя автономно, агенты уже сейчас имеют возможности для базовой коммуникации, позволяющей приходить к соглашению, регистрируя его либо на специализированном ресурсе, либо посредством смарт-контракта. Пока смарт-контракты уязвимы и мало подходят для крупных сделок, но это вопрос времени. Для повседневных покупок физических лиц они уже применимы.
Агенты будут заключать сделки самых разных форм, например объединяясь для увеличения спроса. Сегодня в Сети существует масса площадок для совместных покупок, где желающие, если им нужны похожие товары от одного поставщика, могут покупать их по оптовой цене с небольшой комиссией для организатора. Роботы позволят упростить эту схему, участникам таких покупок уже необязательно будет знать друг о друге.
Ясно, что изменятся платформы для пиринговых сделок. Работая по своему протоколу, агенты смогут искать друг друга непосредственно и сразу заключать сделки, например по вызову такси или эвакуатора. Вполне возможно, что из-за агентов перевернется рынок интернет-рекламы и за ее просмотр будет получать комиссию сам потенциальный клиент. Действительно, если агент продавца получит запрос на просмотр предложения от агента лица, соответствующего критериям целевой аудитории, почему бы им не заключить сделку на просмотр рекламы?
Для роботов появится своя инфраструктура. Сегодня сайты пытаются «отфильтровать» роботов с помощью, например, captcha-подтверждений. Но если речь идет о покупках, где важно каждое мгновение, например о бронировании билета на рейс лоукостера, то людям это неудобно. Выход — создание специальных шлюзов для роботов, в которых происходит управление очередью. Кроме того, возникнет большое количество аукционных площадок для самых разных рынков, где агенты будут вести поиск в режиме 24/7 и устраивать аукционы до тех пор, пока не достигнут нужных условий.
Степень свободы
Поначалу роботы будут действовать только по прямому поручению человека, но в дальнейшем степень их автономности возрастет. Видимо, она будет определяться способностью алгоритма обеспечить себя ресурсами, перед тем как их расходовать, то есть от его способности удерживать в равновесии экономическую систему.
Поэтому над роботом-агентом будет стоять робот-управляющий, которому делегированы возможности изменения правил сбыта, смены контрагента или тарифа, по которому осуществляются закупки. Сначала, скорее всего, роботы-управляющие будут отвечать за микропредприятия вроде небольшой вендинговой сети, где специфика переговоров незначительна. Но важен будет факт появления автономного бизнеса.
Здесь самое время вспомнить основоположника неоинституционализма Рональда Коуза с его знаменитым определением: «Фирма — это совокупность контрактов». В результате решений роботов постоянные контракты, скорее всего, будут активно замещаться срочными, предполагающими разовую, часовую занятость. Сегодня этого не происходит, поскольку работодатель не успеет с ходу рассчитать новую экономическую модель на ближайшую неделю или месяц — та самая ограниченная рациональность. Но робот успеет. А значит, постоянная занятость будет уходить в прошлое все быстрее. Трудовые отношения постепенно станут подобны биржевым, когда агенты работодателей находятся в постоянном поиске исполнителей, и цена контракта каждый раз может быть новой. Поэтому неизвестно, что ударит больнее: роботы, которые отнимают у человека работу по решению другого человека, или робот, сам расторгающий договор с человеком.
Экономические последствия повышения автономности роботов на рынках трудно прогнозировать. Их неограниченные рациональность и работоспособность станут причиной постоянных изменений, которые будут накапливаться с возрастающей скоростью, и в конце концов роботы смогут перехватить у людей инициативу. Да, они будут действовать в соответствии с целями, критериями и ограничениями, заданными людьми. Но это отнюдь не гарантия безопасности.
Превосходство машин
Нужно иметь мужество признать, что машины (некоторые уже, а некоторые вот-вот) субъекты и обратного хода нет. Перестройка отношений между людьми и роботами — ключевой момент современности.
Сложность организации машин сильно выросла. Уже сегодня мы не можем объяснить, как работают каскады нейронных сетей, где они начинают обучать друг друга. Важен результат: совсем недавно пал последний бастион превосходства человека над компьютером в области настольных игр — игра го, число ходов в которой больше числа атомов во Вселенной.
В 1999 году Билл Гейтс опубликовал свою знаменитую книгу «Бизнес со скоростью мысли», отстаивая в ней идею быстрой адаптации предприятия к изменениям бизнес-среды. Учитывая, что роботы будут вести бизнес со скоростью в несколько раз выше скорости мысли, человек уже не сможет адаптироваться к переменам.
Проблемы регулирования
Многие исследователи и предприниматели уже обращали внимание на неготовность человечества предложить для искусственного интеллекта (ИИ) четкий этический кодекс, который стал бы, в частности, основой и для безопасного развития цифровой экономики.
Вспоминается, например, настройка одного из американских интернет-магазинов, где цена на товар менялась в зависимости от того, из какого района города поступал запрос. Для запросов из центра цена ставилась выше. В данном случае машина никого не обманывала: субъектом решения оставался человек, задавший четкий алгоритм. Но в том-то и дело, что с ИИ мы не будем задавать алгоритмы, а только цели и критерии. И если мы хотим купить вещь как можно дешевле, вероятно, можно будет установить критерий законности, а можно будет не устанавливать. И куда зайдут алгоритмы, выискивая оптимальное решение, предсказать невозможно.
В человеческом обществе существует институт совершеннолетия, при наступлении которого права и обязанности личности существенно меняются. При этом важную роль играют личные данные человека и подтверждающие их документы. Если продолжить эту аналогию, то в целях безопасности сделок роботу тоже потребуется собственный уникальный идентификатор.
Доверие к роботу начинается с доверия к его коду. И здесь идеальное решение, чтобы этический кодекс создали и воплотили все крупнейшие разработчики. Проблема в том, что пока не существует организации, которой была бы посильна подобная задача. Такая организация должна иметь возможность влиять на крупнейшие ИТ-корпорации. Возможно, это некий аналог ООН, только не для стран, а для разработчиков. Но опять-таки вмешивается ограниченная рациональность. Люди подвержены оппортунизму — они готовы жертвовать большим для достижения сиюминутных целей. Поэтому на скорое решение этой проблемы рассчитывать не приходится.
Впрочем, главным вопросом регулирования сделок, совершенных роботами, является, по всей видимости, оспаривание совершенной сделки или анализ сделанной роботом ошибки.
Уже не первую сотню лет проблемы доверия так или иначе решаются путем сертификации, и в данном случае это остается наиболее вероятным способом. Если появляются смарт-контракты, почему не появиться смарт-сертификатам? Здесь сегодня просматриваются как минимум два актуальных аспекта: аспект выгодоприобретателя и аспект технологического наследования. Получив от пользователя цели, критерии и ограничения, а также доступ к данным о своих предпочтениях, типовой робот-агент становится уникальным и может быть сертифицирован как дееспособный субъект: «Я, уникальный алгоритм SR-VA71, действуя от имени такого-то выгодоприобретателя и на основании гарантий таких-то алгоритмов, выступаю покупателем (продавцом) …» Подобно цепочке блокчейна, записи о сделках могли бы иметь более сложную структуру, позволяющую при необходимости не только найти ответственного, но и источник произошедшей ошибки.
В случае с подобными сертификатами возможно было бы правовое, таможенное и иное регулирование, за которое будут бороться национальные правительства. Впрочем, само это регулирование тоже, по всей видимости, будет совсем не тем, к которому мы привыкли.
