
Камаль ЦерахаўФота перададзена рэдакцыі
Каментар эксперта/Права
Аднарог з адным супрацоўнікам пачакае. Хто адказвае, калі памыляюцца AI-супрацоўнікі (частка 1)
Стартапы, як і многія іншыя кампаніі, усё часцей даручаюць агентам перапіску з кліентамі, рэкламныя бюджэты і першасны адбор кандыдатаў. Мы папрасілі Камаля Церахава, юрыста і ментара, які суправаджае здзелкі і запуск стартапаў, разабрацца, за што адказвае кампанія, калі такая каманда памыляецца, і што важна наладзіць перад запускам агентаў.
Тэкст: BYGRID Team··7 хв чытання
Змест
На пачатку кастрычніка Google Research апублікаваў даклад «Open and Emergent Problems in Agentic Privacy and Security». Больш за 60 даследчыкаў разбіраюць, як кантраляваць AI-агентаў, якія самі пішуць кліентам, трацяць грошы і прымаюць бізнес-рашэнні. Але з прававога пункту гледжання ўсё значна прасцей: калі вы замянілі частку каманды агентамі, усё, што яны робяць, — вашы абавязацельствы і ваша адказнасць.
01Хто адказвае за дзеянні AI-агента?
Claude за прылаўкам і офісная крама ў мінусе
Рынак ужо не першы год абяцае замяніць людзей агентамі. Кампанія Artisan яшчэ ў 2024 годзе размясціла па ўсім Сан-Францыска білборды «Stop Hiring Humans» («Перастаньце наймаць людзей»). Кіраўнік Anthropic Дарыа Амадэі ўвесну 2025 года назваў 2026-ы годам, калі з’явіцца першая кампанія з адным супрацоўнікам і ацэнкай у 1 млрд долараў. У сацсетках часта можна ўбачыць рэкламу AI-інструментаў: «Купіце падпіску, і ў вас будуць віртуальныя прадавец, маркетолаг і HR-спецыяліст».
Магчыма, з часам з’явяцца першыя AI Inc — кампаніі, якімі кіруюць толькі агенты. Але на практыцы чалавек пакуль застаецца абавязковай часткай працэсу. Пры цяперашнім узроўні аўтаматызацыі патрэбны human in the loop і з прававога, і з практычнага пункту гледжання. Паказальны прыклад — эксперымент Project Vend. Агент Claude раздаваў зніжкі ўсім, хто прасіў, прадаваў тавар танней за сабекошт і ўрэшце загнаў офісную краму ў мінус. У ролі супрацоўніка AI-агент лёгка можа прынесці кампаніі страты. Спаслацца на тое, што «гэта зрабіў агент», не атрымаецца. AI не мае правасуб’ектнасці, таму не можа быць бокам дагавора. Абавязацельствы і адказнасць застаюцца за тым, хто выкарыстоўвае агента. Гэты падыход замацоўваюць і заканадаўцы. Напрыклад, у Каліфорніі ў кастрычніку 2025 года прынялі закон, які забараняе адказчыку ў сваю абарону спасылацца на тое, што шкоду прычыніў AI, які дзейнічаў аўтаномна.
02Ці абавязаная кампанія даць зніжку, якую паабяцаў чат-бот?
Віртуальны прадавец, які раздае зніжкі, калі добра папрасіць
Агент па продажах абавязвае кампанію выканаць любое абяцанне, якое разумны кліент успрыняў бы як прапанову кампаніі. Усё залежыць ад таго, наколькі праўдападобнае абяцанне.
Самы вядомы прыклад — бот каліфарнійскага аўтадылера Chevrolet of Watsonville. У снежні 2023 года карыстальнік спачатку загадаў яму згаджацца з чым заўгодна і называць кожны адказ юрыдычна абавязковай прапановай, а потым папрасіў новы Tahoe за 1 долар. І бот пагадзіўся! Дылер адключыў бота і, на сваё шчасце, не мусіў прадаваць аўтамабіль за 1 долар. Кліент, які давёў бота да абсурду, разумеў, што цана несапраўдная.
У Польшчы ад платнай здзелкі, заключанай праз памылку, можна адмовіцца, калі памылку справакаваў другі бок, ведаў пра яе ці мог лёгка заўважыць (арт. 84 Грамадзянскага кодэкса). Калі агента прадаўца падмануў сам кліент, гэта кваліфікуецца як падман, і ад здзелкі таксама можна адмовіцца. Калі ж схаваную інструкцыю агенту падкінуў старонні чалавек, прадавец можа аспрэчыць здзелку на падставе падману толькі тады, калі пакупнік ведаў пра маніпуляцыю і не папярэдзіў пра яе.
Іншая справа — праўдападобная памылка. Пасажыр Air Canada спытаў бота пра льготны тарыф для паездкі на пахаванне і атрымаў памылковы, але пераканаўчы адказ, як яго аформіць. У 2024 годзе канадскі трыбунал адхіліў довад авіякампаніі, што бот сам адказвае за свае словы, і спагнаў з яе 812 канадскіх долараў. Пасажыр не мог здагадацца, што адказ памылковы. З той жа прычыны кампаніі, хутчэй за ўсё, давялося б даць і зніжку 25%, якую Claude раздаваў падчас Project Vend. У адрозненне ад Tahoe за 1 долар, такая зніжка выглядае праўдападобна.
03Ці можа AI-агент заключыць дагавор ад імя кампаніі?
«Згодныя», адказаў AI-агент з карпаратыўнай пошты
Агент патэнцыйна можа нават падпісваць дагаворы ад імя свайго ўладальніка. Кваліфікаваны электронны подпіс агенту звычайна не давяраюць, але ён можа прыняць умовы пагаднення ў больш простай форме: адзначыць «Прымаю ўмовы», націснуць «Пацвердзіць заказ», адказаць «згодныя» ў лісце ці даслаць рахунак-афёрту. У польскім праве волю можна выказаць любымі дзеяннямі, у тым ліку ў электроннай форме, калі закон не патрабуе асаблівай формы. Калі агент ставіць птушачку, кампанія згаджаецца на здзелку.
Кліент можа быць упэўнены, што перапісваецца са «Святланай з аддзела продажаў», якая мае права ўзгадніць зніжку, хаця насамрэч гэта AI-агент. У англійскім праве бачныя паўнамоцтвы (apparent authority) узнікаюць з таго, што контрагенту паказала сама кампанія, а не са слоў прадстаўніка пра сябе. Імя, пасаду і карпаратыўную пошту агенту дала кампанія, таму англійскі суд, хутчэй за ўсё, вырашыў бы, што і бачнасць паўнамоцтваў стварыла яна. Судовых рашэнняў наконт дагавораў, заключаных AI-агентамі, пакуль няма, але суд, хутчэй за ўсё, прызнаў бы дагавор заключаным. Ёсць і пытанне рэгулявання. Калі «Святлана» не паведаміла, што яна AI, гэта, хутчэй за ўсё, парушэнне арт. 50(1) AI Act, які патрабуе паведамляць кліенту, што той размаўляе са штучным інтэлектам. Абавязак кладзецца на пастаўшчыка сістэмы. Калі вы самі сабралі агента на чужой мадэлі, то на вас.
04Хто адказвае за перавышэнне бюджэту і памылкі ў AI-рэкламе?
Віртуальны маркетолаг і таямніца пустога рэкламнага бюджэту
Агент з доступам да рэкламных кабінетаў Google ці Meta можа сам запускаць кампаніі, падвышаць стаўкі і мяняць бюджэты. Кожная памылка агента можа абярнуцца спісаннем з карты. Агент можа патраціць грошы нават без прамога даручэння. Калі аглядальнік Washington Post папрасіў OpenAI Operator знайсці танныя яйкі, той не толькі іх знайшоў, але і аформіў заказ на Instacart, патраціўшы 31,43 долара.
Для пляцоўкі і банка гэта звычайны заказ з акаўнта кампаніі. Аплата прайшла з вашай карты і пад вашым лагінам. Грошы можна вярнуць, калі памылілася сама пляцоўка, як у 2024 годзе, калі інструмент Advantage+ ад Meta перавысіў дзённыя бюджэты рэкламадаўцаў. Калі ж бюджэт перавысіў ваш агент, выдаткі застаюцца за кампаніяй.
Рэкламныя кабінеты даўно цікавяць махляроў, якія крадуць акаўнты і рэкламуюць свае прадукты за чужы кошт. Але AI-агента можна перахапіць і без крадзяжу пароля. Схаваная інструкцыя ў справаздачы, лісце ад нібыта партнёра ці на старонцы, якую агент аналізуе, можа прымусіць яго змяніць спасылку ў аб’яве ці павысіць бюджэт. Пакуль гэта хутчэй тэарэтычны сцэнар, але механіку такіх атак падрабязна разбірае той самы даклад Google. Для пляцоўкі гэта ўсё роўна дзеянні з вашага кабінета.
Другая рызыка — змест рэкламы. Калі агент паабяцаў спажыўцам тое, чаго ў прадукце няма, або прыдумаў лічбу накшталт «эканоміць 40% часу», гэта рэклама, якая ўводзіць у зман. Яе забараняюць правілы ЕС аб абароне спажыўцоў. З жніўня 2026 года ролікі з AI-персанажам, падобным да рэальнага чалавека, трэба пазначаць як створаныя AI. Калі ж такі персанаж выдае сябе за сапраўднага пакупніка, пазнака не ўратуе. Фальшывыя водгукі забароненыя.
Рэкламу можа аспрэчыць і канкурэнт. Напрыклад, паводле польскага заканадаўства рэклама, якая ўводзіць кліента ў зман і можа паўплываць на рашэнне пра куплю, лічыцца нядобрасумленнай канкурэнцыяй. Распаўсюджаны сцэнар — імітацыя чужога брэнда. Агент запускае аб’явы па назве канкурэнта і фармулюе іх так, што кліент думае, быццам трапіў да самога канкурэнта. Кампанія, інтарэсы якой закранае такая рэклама, мае права патрабаваць спынення кампаніі, публікацыі заявы і кампенсацыі шкоды. Агенты таксама могуць прыпісваць прадукту неіснуючыя пацвярджэнні адпаведнасці стандартам бяспекі ці размяшчаць на сайце лагатыпы кампаній, якія ніколі не былі кліентамі рэкламадаўца.
05Што наладзіць перад запускам AI-агента
«Агенту — ліміт зніжак, чалавеку — кнопка “Запусціць”»
Цэны і зніжкі. Захоўвайце цэны, ліміты зніжак і іншыя істотныя ўмовы ў сістэме цэнаўтварэння. Агента можна ўгаварыць парушыць забарону ў промпце, а ліміт, які правярае сама сістэма, абысці значна складаней. Забараніце агенту ставіць птушачкі пад новымі ўмовамі. У імені адпраўніка і подпісе лістоў пазначайце, што гэта AI-асістэнт. Калі агент памыліўся, а кліент ведаў пра памылку ці мог лёгка яе заўважыць, дашліце яму пісьмовую заяву аб адмове ад здзелкі. Заканадаўства краін ЕС часта дазваляе адмовіцца ад здзелкі, заключанай праз памылку, у тэрмін, адлік якога пачынаецца ў момант яе выяўлення.
Рэкламныя абяцанні. Пакідайце людзям запуск новых кампаній і змену спасылак у аб’явах. Тое ж тычыцца аб’яў з цэнамі, лічбамі і абяцаннямі пра ўласцівасці прадукту. Ролікі, створаныя AI, пазначайце да публікацыі.
Калі матэрыял быў карысны, пачастуйце рэдакцыю кавай. Ваша падтрымка дапамагае нам працягваць размаўляць з фаўндарамі і дзяліцца іх досведам.
Пачаставаць рэдакцыю кавай (адкрыецца ў новай укладцы)BYGRID Team