
Камаль ТереховПредоставлено редакции
Комментарий эксперта/Право
Единорог из одного человека подождет. Кто отвечает, когда ошибаются AI-сотрудники (часть 1)
Поскольку стартапы (да и многие бизнесы) все чаще отдают агентам переписку с клиентами, рекламные бюджеты, первичный отбор кандидатов, мы попросили Камаля Терехова, юриста и ментора, который сопровождает сделки и запуск стартапов, разобраться, за что отвечает компания, когда такая команда ошибается, и что важно настроить до запуска агентов.
Текст: BYGRID Team··7 мин чтения
Содержание
В начале октября Google Research опубликовал доклад «Open and Emergent Problems in Agentic Privacy and Security»: в нем более 60 исследователей разбирают, как контролировать AI-агентов, которые сами пишут клиентам, тратят деньги и принимают бизнес-решения. Но с правовой точки зрения все гораздо проще: если вы заменили часть команды агентами, все, что они делают, — ваши обязательства и ваша ответственность.
01Кто отвечает за действия AI-агента?
Claude за прилавком и офисный магазин в минусе
Рынок уже не первый год обещает заменить людей агентами. Компания Artisan еще в 2024 году установила по Сан-Франциско билборды «Stop Hiring Humans» («Перестаньте нанимать людей»). Глава Anthropic Дарио Амодеи весной 2025 года назвал 2026-й годом, когда появится первая компания стоимостью 1 млрд долларов с одним сотрудником. В соцсетях часто можно увидеть рекламу AI-инструментов: «Купите подписку, и у вас будет виртуальные сейлз, маркетолог и HR».
Возможно, со временем появятся первые AI Inc — компании, которыми управляют только агенты. Но на практике человек пока остается обязательным элементом цепочки, и при нынешнем уровне автоматизации нужен human in the loop как с правовой, так и с фактической точки зрения. Красноречивый пример — эксперимент Project Vend: агент Claude раздавал скидки всем, кто просил, продавал товар ниже себестоимости и попросту загнал офисный магазин в минус. То есть в роли работника AI-агент запросто может принести компании убытки. И сослаться на то, что «это сделал агент», не получится. У AI нет правосубъектности: он не может выступать стороной договора. Поэтому ответственность и обязательства остаются за лицом, которое использует агента. Этот подход закрепляют и законодатели: например, в Калифорнии в октябре 2025 года приняли закон, который запрещает ответчику защищаться тем, что вред причинил AI, действовавший автономно.
02Компания обязана дать скидку, которую пообещал чат-бот?
Виртуальный сейлз, раздающий скидки, если хорошо попросить
Сейлз-агент связывает компанию любым обещанием, которое разумный клиент принял бы за предложение компании. Граница проходит по правдоподобию.
Самый известный пример — бот дилера Chevrolet of Watsonville в Калифорнии. В декабре 2023 года пользователь сначала велел ему соглашаться с чем угодно и называть каждый ответ юридически обязывающим предложением, а потом и вовсе попросил новый Tahoe за 1 доллар. И бот согласился! Дилер бота отключил, и, к его счастью, продавать машину за 1 доллар не пришлось: клиент, доведший бота до абсурда, понимал, что цена не настоящая.
В Польше от платной сделки, заключенной по ошибке, можно отказаться, если ошибку спровоцировала другая сторона либо если она знала об ошибке или могла легко её заметить (ст. 84 Гражданского кодекса). Если же агента продавца обманул сам клиент, то это квалифицируется как обман, и в этом случае от сделки также можно отказаться. Если же скрытую инструкцию агенту подбросил посторонний человек, продавец может оспорить сделку, ссылаясь на обман, только в том случае, если покупатель знал о манипуляции и не предупредил о ней.
Другое дело — правдоподобная ошибка. Пассажир Air Canada спросил бота о льготном тарифе для поездки на похороны и получил неверный, но убедительный ответ о том, как его оформить. В 2024 году канадский трибунал отклонил довод авиакомпании, что бот сам отвечает за свои слова, и взыскал с нее 812 канадских долларов, мотивируя тем, что пассажир не мог догадаться, что ответ неверен. По той же логике, скорее всего, пришлось бы исполнить скидку 25%, которую агент Claude раздавал в эксперименте Project Vend: в отличие от кейса с автомобилем Tahoe за 1 доллар, такая скидка выглядит правдоподобно.
03Может ли AI-агент заключить договор от имени компании?
«Согласны», ответил AI-агент с корпоративной почты
Потенциально агент может даже подписывать договоры от имени своего владельца. Конечно, квалифицированную электронную подпись агенту обычно не доверяют, но он вполне может принимать условия соглашения в простых формах: галочка «Принимаю условия», кнопка «Подтвердить заказ», ответ «согласны» в письме, отправка счета-оферты. В польском праве волю можно выразить любым поведением, в том числе в электронном виде, если закон не требует особой формы. Галочка, которую поставил агент, — это согласие компании на сделку.
Также клиент может быть уверен, что переписывается со «Светланой из отдела продаж», которая вправе согласовать скидку, хотя на самом деле это может быть AI-агент. В английском праве видимые полномочия (apparent authority) возникают из того, что контрагенту показала сама компания, а не из слов представителя о себе. Имя, должность и корпоративную почту агенту дала компания, поэтому английский суд, скорее всего, решил бы, что и видимость полномочий создала она. Судебных решений о договорах, заключенных AI-агентами, пока нет, но, скорее всего, суд признал бы договор заключенным. Другой пласт связан с регуляторикой: если «Светлана» не представилась как AI, то это, скорее всего, нарушение ст. 50(1) AI Act, которая требует сообщать клиенту, что он общается с искусственным интеллектом. Обязанность лежит на поставщике системы, а если агента собрали вы сами на чужой модели, то на вас.
04Кто отвечает за перерасход бюджета и ошибки в AI-рекламе?
Виртуальный маркетолог и тайна пустого маркетингового бюджета
Агент с доступом к рекламным кабинетам Google или Meta может сам запускать кампании, поднимать ставки, менять бюджеты. И каждая ошибка агента — списание с карты. При этом агент может потратить деньги даже без прямого поручения: например, OpenAI Operator, которого обозреватель Washington Post попросил найти дешевые яйца, не только их нашел, но и оформил заказ на Instacart, и потратил 31,43 доллара.
Для площадки и банка такая трата — обычный заказ из аккаунта компании: платеж прошел с вашей карты и под вашим логином. Деньги можно вернуть, если ошиблась сама площадка, как в 2024 году, когда инструмент Advantage+ от Meta перерасходовал дневные бюджеты рекламодателей. Перерасход, который устроил ваш агент, остается расходом компании.
Рекламные кабинеты давно интересуют мошенников: украв аккаунт, они рекламируют свои продукты за чужой бюджет. А AI-агента можно перехватить и без кражи пароля: достаточно оставить скрытую инструкцию в отчете, письме «партнера» или на странице, которую агент разбирает, и он сам сменит ссылку в объявлении или поднимет бюджет. Пока это, скорее, теоретический сценарий, но механику таких атак подробно разбирает тот же доклад Google. Для площадки такие траты тоже будут действиями из вашего кабинета.
Второй риск — содержание рекламы. Если агент пообещал в рекламе для потребителей то, чего нет в продукте, или придумал цифру вроде «экономит 40% времени», это вводящая в заблуждение реклама, которую запрещают правила ЕС о защите потребителей. Ролики с AI-персонажем, похожим на реального человека, с августа 2026 года нужно помечать как созданный AI. Если же такой персонаж выдает себя за настоящего покупателя, пометка не спасет: фальшивые отзывы запрещены всегда.
Кроме того, рекламу может оспорить конкурент. Например, по польскому законодательству реклама, которая вводит клиента в заблуждение и может повлиять на его решение о покупке, считается недобросовестной конкуренцией. Частый сценарий — мимикрия под чужой бренд: когда агент запускает объявления по названию конкурента и формулирует их так, что клиент думает, будто попал к самому конкуренту. Компания, интересы которой затрагивает такая реклама, вправе потребовать прекратить кампанию, опубликовать заявление и возместить ущерб. Кроме того, агенты могут также приписывать продукту несуществующие подтверждения соответствия стандартам безопасности, размещать на сайте логотипы компаний, которые никогда не были клиентами рекламодателя.
05Что настроить перед запуском AI-агента
«Агенту — лимит скидок, человеку — кнопка „Запустить“»
Цены и скидки. Держите цены, лимиты скидок и иные существенные условия в прайсинговой системе. Агента можно уговорить нарушить запрет в промпте, а лимит, который проверяет сама система, обойти намного сложнее. Запретите агенту ставить галочки под новыми условиями, а в имени и подписи писем указывайте, что это AI-ассистент. Если агент ошибся, а клиент знал об ошибке или мог легко её заметить, отправьте ему письменное заявление об отказе от сделки: законодательство стран ЕС часто предусматривает возможность отказа от сделки, совершенной по ошибке, в срок, который начинается с момента, когда ошибку обнаружили.
Рекламные обещания. Запуск новых кампаний и смену ссылок в объявлениях оставляйте за людьми. Равно как и объявления с ценами, цифрами и обещаниями о свойствах продукта. Ролики, созданные AI, следует помечать до публикации.
Если материал был полезен, угостите редакцию кофе. Ваша поддержка помогает нам продолжать общаться с фаундерами и рассказывать об их опыте.
Угостить редакцию кофе (откроется в новой вкладке)BYGRID Team