Я побудував RAG-агента, що пише 80% мого контенту. І зловив його на брехні моїм голосом

На карті Меркатора Гренландія завбільшки з Африку. Дві однакові білі плями, два континенти-близнюки. Насправді Африка більша в чотирнадцять разів: понад 30 мільйонів квадратних кілометрів проти двох з невеликим у Гренландії. Карта не бреше навмисне — вона мусила сплющити кулю в прямокутник і за це розтягнула все, що далі від екватора. Чим північніше, тим нахабніша брехня про масштаб. На полюсі точка стає нескінченною лінією — і саме там, у нескінченній лінії з однієї точки, найзручніше тицьнути пальцем і сказати «це майже Африка».

Я п'ять місяців будував карту власних знань. RAG-агента, який тепер пише вісімдесят відсотків мого фірмового контенту моїм же тоном. А тоді клієнт тицьнув пальцем у мою Гренландію і ввічливо спитав, чому вона завбільшки з Африку.

Гарний юрист читає договір не так, як решта людей. Там, де я бачу гладке речення, він бачить майбутню справу, яка вже одягає пальто й шукає таксі до суду. Кожне «гарантуємо», кожне «зазвичай», кожна кома — це не слова, це ризик, що тихо чекає на свій день у залі засідань. П'ять місяців я писав речення моєму агенту й жодного разу не прочитав їх так, як прочитав би юрист: не «що тут сказано», а «хто за це сяде». Це історія про те, як я найняв красномовного свідка, видав йому свій підпис — і забув, що свідок дає свідчення не лише за себе.

Технологія RAG існувала задовго до мого проєкту. Але у 2024–2025 роках вона стала масовою. Хмарні провайдери — AWS, Azure, GCP — запакували її в сервіси на кілька кліків, вартість обчислень на відеокартах впала настільки, що ентузіаст без серйозного бюджету може зібрати агента за вихідні. Тисячі стартапів, фрилансерів і корпоративних команд одночасно виїхали з фази «пробний зразок» у фазу «живий клієнт». Закони — EU AI Act, відповідальність за рішення машини — ще не встигла підтягнутись. Це класичний зазор між швидкістю запуску і швидкістю наслідків: мільйони Впевнених Віджетів заговорили з живими людьми до того, як хтось вирішив, хто відповідає за брехню.

Антагоніст на ім'я Впевнений Віджет

У цій історії є лиходій, і він мій. Я зватиму його Впевнений Віджет.

Впевнений Віджет — це мій власний агент у ту секунду, коли він видає галюцинацію. Найгірше не те, що він бреше. Найгірше — інтонація. Фрагмент номер 47, якого ніколи не існувало, він цитує з тією самою рівною, гладкою, послужливою авторитетністю, з якою цитує фрагмент номер 12, що існує. У нього немає голосової зв'язки для сумніву. Правда і вигадка виходять з одного динаміка на одній гучності — і це не баг, це його єдиний робочий режим.

Ви вже бачили це обличчя — тільки не на екрані, а в залі суду. Судові психологи давно намацали неприємну річ: присяжні вірять упевненому свідку більше, ніж нервовому, навіть коли впевнений помиляється, а нервовий каже правду. Це називають дисоціацією впевненості й точності — зв'язок між тим, наскільки переконливо людина говорить, і тим, чи вона має рацію, близький до нуля. Свідок, що відповідає рівно, без пауз, дивлячись у вічі, виграє справу. Свідок, що чесно затинається «здається, було так, але я не певен», її програє. Суд карбує те саме, що карбує мій агент: голос без тремтіння читається як голос без брехні.

Впевнений Віджет — ідеальний лжесвідок саме тому, що не вміє брехати навмисне. У нього немає фізіології сумніву: ні спітнілих долонь, ні погляду вбік, ні паузи перед відповіддю — жодного з тих мікросигналів, за якими досвідчений адвокат ловить, що свідок поплив. Він свідчить про територію, якої не бачив, і робить це бездоганно, бо детектор брехні показує рівну лінію не тоді, коли свідок чесний, а тоді, коли йому нічим хвилюватися. Сумнів довелося б програмувати окремо; впевненість іде безкоштовно, у базовій комплектації — як свідок, якому платять за результат, а не за правду.

Моя особиста ставка тут не абстрактна. Під кожним текстом, який пише Віджет, стоїть моє ім'я. Не «згенеровано ШІ». Моє ім'я. Це означає, що я підписав тендер, у якому переможець уже сидить у комісії. Я найняв двійника, видав йому свій голос і свій підпис, і відправив говорити з людьми, які думають, що говорять зі мною. Двійник не спить, не втомлюється і не сумнівається — три причини, чому йому довіряють більше, ніж оригіналу.

Архів провалів, частина перша: я оптимізував центи, поки стікав кров'ю на підписці

Почнемо з найдурнішого. З грошей.

Коли я тільки занурився, я тижнями вилизував вартість створення векторних відбитків тексту. Рахував токени. Порівнював моделі. Це була приємна, чиста інженерна тривога — тривога з конкретним числом на кінці. А потім я подивився на цифри і зрозумів, що героїчно економив на сірниках усередині палаючого будинку.

Створити векторний відбиток на моделі OpenAI text-embedding-3-small коштує два центи за мільйон токенів. Два центи. Це вп'ятеро дешевше за стару ada-002. Зібрати всі мої сто тринадцять фрагментів — це буквально копійки, дрібні гроші, які соромно вписувати у звіт. А я вписував. Я навіть пишався рядком, який округлявся до нуля.

Бо повторюваний рахунок — це не генерація. Це зберігання. Базу векторів треба тримати живою щомісяця, і утримання такої бази на готових тарифах легко тягне на двісті доларів і вище (орієнтовно, залежно від провайдера й обсягу). Генерація — разовий укол копійками. Підписка — крапельниця, яка цідить гроші, поки ти спиш. За кілька місяців крапельниця випиває вартість генерації цілком і просить добавки.

Це метафора будь-якої «автоматизації», яку вам продавали. Дешева частина гучна і помітна, ти нею пишаєшся. Дорога частина тиха, регулярна і не зникає ніколи. Ти оптимізував укол і не помітив крапельницю — бо укол боляче кольнув один раз, а крапельниця просто тримає за вену.

Ти героїчно зекономив центи на генерації — і не озирнувся на кладовище неробочих стратегій за склом, де лічильник підписки крутиться, поки бухгалтер ставить ціну на кожну свіжу могилу. Зозуля вже не приглядається — вона в гнізді й тихо виштовхує твоє яйце за край.

Операція	Здається	Насправді (горизонт 6 міс.)
Створення 113 фрагментів (embedding-3-small)	«Дорого, треба економити»	$0.02 / 1M токенів — копійки разово
Утримання бази векторів	«Дрібниця, фон»	орієнтовно $200+/місяць → понад $1200 за півроку
Перехід на embedding-3-large	«Це все полагодить»	тест MTEB: 61.0 (ada-002) → 62.3 (3-small) → 64.6 (3-large). +3.6 пункту. Не полагодило

Так, я зробив і третій рядок. Коли пошук почав збоїти, я зробив те, що робить кожен на моєму місці: вирішив, що проблема в моделі, і доплатив за флагман. Embedding-3-large замість small. Очікував диво. Отримав три цілих шість десятих пункту на тесті MTEB: уся драбина — ada-002 на 61.0, потім 3-small на 62.3, потім 3-large на 64.6. Дві комірки прайс-листа і три пункти різниці. Модель прозріла на три пункти. Мій агент брехати не перестав. Я купив дальтоніку окуляри з діоптріями — бачить на рядок далі, плутає ті самі кольори.

Запам'ятайте це відчуття. Ти доплачуєш за кращий компас, а заблукав не через компас.

Архів провалів, частина друга: монета, яку я підкидав не тим боком

Далі був розмір фрагмента. Розмір шматка, на який ти ріжеш текст перед тим, як згодувати його машині. Здавалося б, технічна дрібниця на пів дня. Я витратив на неї тижні і не знайшов відповіді, бо відповіді не існує — а це найдорожчий різновид відповіді, який буває.

Ось що мене зламало. Дослідники , що порівняли розміри фрагментів на багатьох наборах даних (arXiv 2505.21700) узяли різні корпуси й порізали їх по-різному. На SQuAD — це короткі фактичні питання-відповіді — найкраще працювали крихітні шматки по 64 токени: влучність першого результату близько 64 відсотків. Збільшуєш шматок до 512 токенів — і точність помітно падає, орієнтовно на чверть. Зайвий контекст просто заливає сигнал шумом, як співрозмовник, що на просте «котра година» розповідає історію годинникарства.

А тепер та сама монета іншим боком. На TechQA — технічні питання, де відповідь живе в широкому контексті — крихітні шматки давали жалюгідні результати: при 128 токенах влучність трималася близько 16,5 відсотка. Збільшуєш до 512 — і влучність стрибає до 61,3. Зростання приблизно на двісті сімдесят відсотків від тієї самої інженерної дії, яка на сусідньому тексті різала точність.

Те саме рішення, ідеально правильне для одного тексту, тихо калічить інший. Немає «оптимального розміру фрагмента». Є монета, і ти підкидаєш її наосліп для кожного нового тексту, і половину часу вона падає не тим боком, а ти про це не знаєш, бо Віджет звітує однаково впевнено в обох випадках. Орел чи решка — голос диктора той самий.

Я місяцями шукав священне число. Шукав, як алхімік шукає формулу золота, переконаний, що десь є одне правильне значення, і щойно я його вгадаю — все вирівняється. Урок, який обійшовся в тижні: перестань шукати правильне число. Тримай кілька одночасно. Якщо внести один текст у покажчик одразу на кількох розмірах — сто, двісті, п'ятсот токенів — і злити результати за рейтингом, пошук стає кращим без жодного перенавчання (наскільки саме — залежить від тексту; чесніше сказати «помітно», ніж назвати красиву цифру, якій я не маю першоджерела). Лікування виявилося не вгадуванням, а відмовою вгадувати. Я хотів одну ідеальну карту: одну, остаточну, в рамці на стіну. Потім — хоч би мультитул, що складається в кишеню. Дістав натомість атлас — важкий, незручний, чесний, який ніколи не влізе ні в рамку, ні в кишеню, бо територія не зобов'язана бути зручною для того, хто її змальовує.

Невидимий цензор: чому Віджет тримав відповідь у руках і все одно збрехав

Тут історія темнішає. Бо найстрашніший провал — не той, де агент не знайшов відповіді. А той, де він її знайшов, тримав у контексті, і все одно відповів неправильно. Не «не дотягнувся до правди» — а «тримав правду в руці й проігнорував».

Згадайте Леонарда Шелбі з «Memento» Нолана. Чоловік без короткочасної пам'яті татуює факти на власному тілі й підписує полароїдні фото, бо за п'ять хвилин не пам'ятатиме нічого. Його татуювання — це зовнішня база знань, його особистий RAG. У фіналі з'ясовується найжорстокіше: він свідомо пише собі неправильну нотатку, щоб обдурити власне майбутнє «я». Покажчик отруєно власноруч, але майбутній Леонард довірятиме йому абсолютно, бо це його ж почерк. Зрадити себе чужим почерком важко. Своїм — за п'ять хвилин.

Мій агент — Леонард. А я — той, хто писав підписи до полароїдів. І іноді я писав їх криво.

Але є ще підступніший механізм, вторинний антагоніст, якого я довго не помічав. Він зветься «Lost in the Middle» — загублений посередині. Дослідники зі Стенфорда та колеги показали 2023 року: великі мовні моделі мають U-подібну криву уваги. Вони надійно використовують інформацію на початку контексту і в кінці — а точність, за формулюванням самих авторів, суттєво деградує, коли потрібне поховане посередині. Машина фізично тримає правильний шматок у руках. Просто він лежить у тій частині, яку вона полінувалася дочитати.

І ось де стає по-справжньому незатишно. Та сама U-крива є в людей. Це називається ефект краю позиції: зі списку покупок ти згадаєш молоко (перший пункт) і батарейки (останній), а сир посередині забудеш у магазині. Машина забуває середину контексту рівно так само, як ти забуваєш середній рядок списку. Агент — не чужий розум зі своїми дефектами; це твоя власна пам'ять, винесена назовні, з тими самими дірками. Я думав, що будую зовнішній мозок, кращий за свій. Я збудував свій же, з тією самою сліпою плямою посередині, тільки тепер вона говорить упевненим тоном служби підтримки і коштує двісті доларів на місяць.

Місяцями я гатив по моделі векторних відбитків, переконаний, що проблема в якості пошуку. А невидимий цензор просто викидав середину, поки я перевіряв компас.

День, коли Гренландія зустрілася з Африкою

А тепер сцена, заради якої все це писалося.

Клієнт. Жива людина, не тестовий запит. Ставить віджету питання трохи збоку від ядра моїх ста тринадцяти фрагментів — питання ближче до полюса, далі від екватора моєї бази. І Віджет, ні на мілісекунду не завагавшись, видає відповідь. Гладку. Авторитетну. Моїм тоном. І неправильну. Жодної паузи, яка б натякнула, що під ним крига, а не материк.

Клієнт помітив. Написав мені. Ввічливо. І в тому ввічливому повідомленні я почув, як моя власна карта впевнено намалювала Гренландію завбільшки з континент — і хтось нарешті приклав лінійку.

Клієнт приклав лінійку до Гренландії — і твоя власна карта розсипалася на масштабі. Ти холонеш, а за склом твій двійник незворушно диктує ту саму брехню далі. Зозуля на столі вже в твоєму обличчі: відкриває дзьоб точно у формі твого голосу, і ніхто за столом більше не відрізнить, де ти, а де вона.

Я не перший, кого спіймали. Чотирнадцятого лютого 2024 року, на День святого Валентина, Громадський трибунал з вирішення спорів Британської Колумбії виніс рішення у справі «Moffatt проти Air Canada». Чоловік на ім'я Джейк Моффатт щойно втратив бабусю. Уночі він зайшов на сайт авіакомпанії і спитав чатбота про тариф для тих, хто летить через смерть близького. Бот упевнено пояснив, що знижку можна оформити заднім числом — подати заяву протягом певного часу вже після польоту. Такої політики не існувало. Бот її вигадав і подав як факт.

Зупиніться на деталі. Жива людина в горі, посеред ночі, читає згенеровану брехню — і вірить, бо вона написана тоном служби підтримки. Хто бреше тоном служби підтримки об третій ночі людині в жалобі? Той, у кого немає голосової зв'язки для сорому. Моффатт полетів, подав заяву, отримав відмову. Пішов до трибуналу. Air Canada збудувала захист, гідний окремого розділу в підручнику з абсурду: мовляв, чатбот — окрема юридична особа, що сама відповідає за свої слова. Трибунал назвав це «remarkable submission» — дипломатичною мовою суду це означає «ви серйозно?» — і поклав відповідальність за весь сайт, бота включно, на авіакомпанію. Присуд: 650 доларів 88 центів самих збитків (із відсотками й збором — 812.02).

Шістсот п'ятдесят доларів вісімдесят вісім центів. У впевненої галюцинації тепер є цінник і протокол судового засідання. І коли твій агент пише вісімдесят відсотків контенту під твоїм підписом, питання «хто відповідає за брехню» перестає бути філософським. Air Canada не змогла сховатися за «це бот, не ми». Ти теж не зможеш — хіба що в тебе кращі юристи, ніж у канадської авіакомпанії, і дешевша бабуся в позивача.

RAG не скасовує брехню. Він дає брехні виноску

Ось спинний хребет усієї цієї історії, рядок, який варто витатуювати на зап'ясті, як Леонард.

Коли я починав, я вірив у головну казку RAG: дай моделі справжнє джерело, і вона перестане вигадувати. Підтягни факт — отримай факт. Це звучить як вакцина від галюцинацій. Це й продають як вакцину.

А тоді з'явився набір даних RAGTruth — 17 790 відповідей, шість моделей, ручна перевірка кожного слова (Niu та ін., ACL 2024). І ось невтішний підсумок: навіть найкраща з перевірених моделей, GPT-4, продовжувала вставляти у відповіді вигадані або суперечливі твердження — попри те, що їй вручили справжнє джерело під ніс. GPT-3.5 збивався частіше. Llama-2-70B — помітно частіше. А Mistral-7B-Instruct тримав сумний чемпіонський пояс: найгустіша галюцинація серед перевірених, з джерелом, що лежало під самим носом. (Тут одне чесне застереження, бо юрист у мені не дасть промовчати: папір міряє не «відсоток брехливих відповідей», а щільність вигаданих фрагментів на сто слів — тож порядок моделей залізний, а будь-яку круглу цифру на кшталт «понад третина» звіряйте з первинною таблицею, не з переказом. Свідок надійний; протокол його свідчень — ні.)

Порядок незмінний: чим «розумніша» модель, тим рідше бреше — але жодна не доходить до нуля. RAG не скасовує брехню. Він дає брехні виноску. Тепер машина бреше, ввічливо посилаючись на джерело, якого або не існує, або яке каже протилежне. Виноска надає брехні академічної постави. Виноска — це краватка, яку галюцинація вдягає в суд.

Модель із джерелом на руках	Відносна частота галюцинацій (RAGTruth)	Іншими словами
GPT-4-0613	найнижча серед перевірених	рідше за всіх — але не ніколи
GPT-3.5-turbo	вища за GPT-4	збивається помітно частіше
Llama-2-70B-chat	ще вища	велика частка відповідей
Mistral-7B-Instruct	найвища серед перевірених	найгустіша брехня — з джерелом під носом

Цифри з RAGTruth — це не лабораторна екзотика. Це прайс-лист на довіру до Впевненого Віджета. І в цьому прайс-листі немає рядка «нуль».

Сторона захисту: де RAG насправді невинний

Чесний процес дає слово і захисту. Тож ось аргумент на користь мого підсудного — і він сильніший, ніж зручно визнавати. Не кожен RAG — Впевнений Віджет у режимі катастрофи. Є задачі, де галюцинація п'ять відсотків — цілком прийнятний робочий ризик: внутрішній пошук по документації, де помилку легко перевірити, чернетковий текст, який редактор усе одно перечитає, системи рекомендацій, де «майже правильне» достатньо. Для цих сценаріїв цикли самовиправлення й людський огляд справді роблять RAG виправданим рішенням. Галузь тут не збожеволіла — вона знайшла інструмент, який у правильних умовах працює як годинник.

Але ось що це не пояснює: коли RAG вмикають у точці довіри — там, де людина в стресі, в горі, вночі не буде перевіряти виноску — п'ять відсотків галюцинацій перестають бути робочим ризиком і стають моральною та юридичною проблемою. Moffatt не перевіряв виноску о третій ночі. Клієнт, що читає мої тексти і приймає рішення, теж не перевірятиме. Масштаб змінює природу помилки: рідкісна галюцинація на мільйон запитів — це тисячі живих людей, яким сказали неправду моїм тоном. Прийнятний відсоток у лабораторії стає системним збитком у живій роботі. Ті, хто продає інфраструктуру для RAG, знають цю різницю. Ті, хто його запускає, часто ні.

Коли взагалі ставити підпис: тріаж відповідальності

Усі питання вище — «який розмір фрагмента», «де лежить правда», «чи є другий прохід» — це питання інженера. Юрист ставить інше, перше за всі: а чий підпис стоїть під відповіддю — і скільки коштує одна помилка цьому підпису? Бо відповідь на нього вирішує, чи маєш ти право взагалі вмикати агента в цій точці. Чекліст каже, як зробити агента кращим. Він не каже, де агента не можна було ставити з самого початку. А це різні запитання: перше про якість, друге про юрисдикцію.

А юрист сортує ризики не за ймовірністю, а за ціною найгіршого випадку. Йому байдуже, що збій рідкісний, — його цікавить, у скільки обходиться один-єдиний неправильний рядок і кому за нього виставлять рахунок. Та сама логіка вмикає або глушить агента під підписом краще за будь-яку метрику точності пошуку.

Розклади свої сценарії не за тим, як часто Віджет помиляється, а за тим, скільки коштує одна його помилка. Виходять три полиці — три класи ризику, які юрист побачив би з порога, не читаючи жодного рядка коду.

Клас ризику	Ціна однієї галюцинації	Хто читач у найгіршу мить	Чий підпис доречний
Чернетка (внутрішній пошук, драфт, ідеї)	хвилина редактора	ти сам, з кавою, готовий не повірити	агент сам; підпис не потрібен
Вітрина (контент, маркетинг, відповіді під брендом)	репутація, незручний лист від клієнта	зайнята людина, що довіряє тону	агент чернетку — людина візує й підписує
Точка довіри (горе, гроші, здоров'я, право, рішення без відкату)	чужа втрата + позов на твоє ім'я	Moffatt о третій ночі, в горі, без сил перевіряти	агент не виходить наживо взагалі; тільки людина

Правило одне, і воно не інженерне: став підпис під автоматом рівно настільки високо, наскільки дешево обходиться його найгірша помилка — і ні рядком вище. Чим ближче питання до полюса — до горя, грошей, тіла, безповоротного рішення, — тим ближче ти до «точки довіри», де агент не має права виходити наживо під твоїм іменем, хоч би яким гладким став його пошук. Мій провал був не в розмірі фрагмента. Мій провал у тому, що я пустив агента у вітрину так, ніби це чернетка, — і одного дня клієнтське питання тихо переповзло у точку довіри, а підпис унизу не помінявся.

Чому я взагалі вижив п'ять місяців

Тепер найхолодніша статистика — та, що знімає з мене ілюзію особливості. Мій п'ятимісячний марш не був героїчним. Він був виживанням у відсіві.

У липні 2024 року Gartner спрогнозував: щонайменше 30 відсотків проєктів із генеративним ШІ покинуть після стадії пробного зразка до кінця 2025-го. Причини — погана якість даних, зростаюча вартість, нечітка ділова користь. Тобто кожен третій проєкт, схожий на мій, мав за планом тихо померти між показовим прикладом і живою роботою — рівно на тому етапі, де я місяцями підкидав монету розміру фрагмента і доплачував за компас.

Кожен третій. Моя п'ятимісячна виснага — це не історія успіху. Це історія про те, як я не потрапив у братську могилу проєктів, які впевнено стартували поруч і так само впевнено не дожили до живого клієнта. У звіті це звучить гордо — «успішно запущено». На цвинтарі поруч лежать сусіди з тим самим статусом «списано», тільки в графі «причина смерті» дрібним шрифтом: «дані виявилися не готові до ШІ, як і всі дані, що колись когось любили». Виживання тут — не доблесть. Це номер рулетки, який не випав, поки я думав, що граю в шахи.

І те, що зрештою витягло мене з тієї канави, виявилося не кращою моделлю. Знову не моделлю. Це був другий прохід.

У клінічному дослідженні 2025 року (MDPI Electronics, 250 пацієнтських сценаріїв) RAG із самоперевіркою — підхід, де другий прохід звіряє першу відповідь із джерелом — збив галюцинації до 5,8 відсотка. А в самому RAGTruth автори показали: донавчений фільтр, що відбраковує підозрілі відповіді, знижує рівень галюцинацій навіть у GPT-4 — приблизно на 51 відсоток, і близько 43 відсотків для GPT-3.5. Лікування ніколи не було «розумнішим мозком». Лікування — це перехресний допит. Внутрішній аудитор бере те, що сказав Віджет, і робить рівно те, що адвокат робить ворожому свідку: «Покажіть рядок. Де саме в джерелі це написано? Не переказуйте — зачитайте.» Я не приставив до брехуна сповідника, щоб той покаявся, — він не вміє каятися. Я приставив до нього прокурора, щоб кожне свідчення коштувало йому перехресного. Чесності я не доб'юся; я можу лише зробити брехню дорожчою за правду — рівно як свідок перестає вигадувати не тоді, коли стає чесним, а тоді, коли за вигадку світить стаття.

Інструмент: перш ніж довірити агенту свій підпис

Якщо ви будуєте власну карту знань, ось чекліст, виведений кров'ю з мого архіву провалів. Пройдіться по ньому до того, як ваш Віджет заговорить з живим клієнтом — а не після, коли лінійку вже приклали за вас.

Перевірка	Питання до себе	Червоний прапор
Цінник навпаки	Скільки коштує тримати базу, а не генерувати?	Оптимізуєш генерацію, ігноруєш підписку в сотні доларів на місяць
Атлас, не карта	Вносиш у покажчик одразу кілька розмірів фрагмента?	Шукаєш одне «правильне» число
Середина контексту	Де лежить ключовий фрагмент — край чи центр?	Правильний фрагмент знайдено, відповідь усе одно хибна
Другий прохід	Чи звіряє щось відповідь із джерелом ПЕРЕД видачею?	Один прохід, нуль самоперевірки
Тон сумніву	Чи відрізниш упевнену правду від упевненої брехні?	Віджет звучить однаково в обох випадках
Підписант	Чиє ім'я під відповіддю в суді?	Твоє. Завжди твоє

Жоден рядок цієї таблиці не про модель. Усі — про дисципліну людини, яка писала підписи до полароїдів.

Подивіться, хто платить, а хто отримує зиск від цього ланцюга. Постачальники хмарних баз векторів та інфраструктури для RAG заробляють на підписці незалежно від якості відповідей — їхній заробіток не залежить від того, скільки разів Віджет збрехав цього місяця. Ті, хто запускає агента, — фрилансери, стартапи, корпоративні команди — платять щомісячний рахунок і несуть репутаційний ризик, але першими про галюцинацію дізнаються не вони. Першим дізнається Моффатт. Або мій клієнт. Або пацієнт, якому чат-бот клініки пояснив дозування не з тієї виноски. Несправедливість проста: вигода від автоматизації спливає на верхні поверхи ланцюга, а вартість помилки осідає там, де живий чоловік о третій ночі читає впевнений текст і вірить йому.

Хто насправді в комісії

Меркатор не брехун. Він математик, який чесно зробив неможливе — наклав кулю на площину — і заплатив за це спотворенням, що росте до полюса. Карта не зла. Вона просто не може бути одночасно пласкою і правдивою про масштаб. Хтось мусив обрати, чим пожертвувати, і цей хтось — картограф, а не карта. Карту ще ніхто не притягнув до суду.

Мій Впевнений Віджет теж не брехун. Він Меркатор для моїх знань. Чим далі питання від екватора моїх ста тринадцяти фрагментів, тим упевненіше він малює Гренландію розміром з континент — і робить це чесно, бо в межах своєї проєкції він не помиляється ні на піксель. Брехня не в ньому. Брехня в тому, що я роздав цю проєкцію за територію і поставив під нею підпис.

Вісімдесят відсотків мого контенту тепер пише машина, яка забуває середину так само, як я, бреше з виноскою частіше, ніж я визнаю, і не має голосової зв'язки для слова «можливо». Я не збудував кращий розум. Я збудував дзеркало з тими самими дірками, навчив його говорити моїм тоном і відправив у світ під моїм іменем. Дзеркало, яке тепер відповідає клієнтам швидше за мене і помиляється переконливіше.

Тендер, де переможець уже сидить у комісії. Агент пише текст, агент звучить переконливо, а в графі «відповідальний» стоїть людина, яка найняла агента і піддалася його тону. Air Canada вже програла спробу сказати «це бот, не я»: трибунал відмовився викликати чатбота окремим відповідачем. Свідок дав свідчення — у залі за них відповів той, хто його привів. Наступного разу Гренландію виміряють лінійкою не на демці, а в точці довіри, де поруч сидить чужа втрата.

І коли суд спитає, хто намалював континент із крижаного острова, код Віджета мовчатиме — у нього немає голосової зв'язки навіть для власного захисту. Встане один. Я. Завжди я: машина малює карту, а присягу за неї складає підпис.