Верифікація як нова вартість тексту: понад 1 500 задокументованих AI-галюцинацій у судах після Mata v. Avianca

Третя ранку. Шість вкладок, у кожній — гладкий абзац без єдиної граматичної помилки. Ти ведеш по них очима, як прозектор по шкірі: зовні бездоганно, рожево, свіже. Палець зупиняється на реченні з цифрою — «згідно з дослідженням 2023 року» — і десь під грудиною вмикається той тихий датчик, що чує несвіже раніше за ніс. Дослідження немає. Воно ніколи не народжувалося. Текст усміхається тобі рум'янами трупного гриму й чекає, поки ти підпишеш, що смерть була природна.

Справа Mata v. Avianca, травень 2023-го: двоє нью-йоркських адвокатів, Стівен Шварц і Пітер ЛоДука з контори Levidow, Levidow & Oberman, подали федеральному суду шість судових прецедентів на підтримку позову. Назви — солідні. Суди — правильні. Роки — правдоподібні. Цитати — гладкі, як мармур. Один дефект: жодна з тих справ не існувала. ChatGPT не збрехав навмисне — він не вміє навмисне. Він просто домалював те, що найприродніше продовжувало патерн «юридичний прецедент», як гример домальовує живий рум'янець на тому, що вже охололо. Суддя П. Кевін Кастель зажадав показати йому ці рішення. Показати не змогли. 22 червня 2023-го він наклав штраф — п'ять тисяч доларів. Це й був розтин — тільки робив його суд, бо адвокати свій проспали.

Навіть переказ цієї справи встиг обрости дрібною міфологією — і саме тут корисно на секунду побути тим прозектором, про якого йдеться. Половина юридичних оглядів пише «по п'ять тисяч кожному»: окремо Шварцу, окремо ЛоДуці, окремо фірмі. Первинний документ суду каже інше — одна сума, п'ять тисяч, солідарно, одна каструля на трьох. Дрібниця, яку лінь перевірити, коли зручніше процитувати чужий переказ. Але саме на таких дрібницях тримається різниця між «я читав про це» і «я це перевірив» — а в цьому фаху вона коштує дорожче за диплом.

Якщо Mata v. Avianca — це один розтин, то французький правник Дам'єн Шарлотен веде картотеку цілого моргу відразу: публічна база судових рішень, де суд офіційно впіймав галюцинацію в поданих документах — Штати, Британія, Канада, Ізраїль, Австралія. Навесні 2025-го там було приблизно двісті записів. До середини 2026-го — уже понад півтори тисячі, і крива й далі йде вгору. Це вже не анекдот про одного неуважного адвоката. Це епідеміологічна крива з нахилом.

Десь за цим столом сидить директор моргу красивих текстів. Він приймає по двадцять охайних тіл за зміну — всі рум'яні, всі усміхнені, у кожного ідеальна пунктуація й академічний тон. І кожне треба розрізати, щоб дізнатися, від чого воно «померло». Халат у нього чистий. Руки — твої.

У штабі цю зміну ніхто не бачить. Там читають інший документ — квартальний звіт, де рядок «контент» росте, а рядка «розтин» ще навіть не завели.

Спрощення, яке нікого не спростило

Усі домовилися радіти. Генерація стала дешевою — і це чиста правда, тут сперечатися немає з чим: за чашку кави щомісяця ти отримуєш автора, що не спить, не скаржиться і ніколи не зриває строк. Стаття за вісім хвилин. Есе за чотири. LinkedIn заквітнув проповідями про «10-кратну продуктивність», а продюсери текстів оголосили, що блог, який раніше коштував трьох журналістів, тепер коштує один промпт і один еспресо.

Рахунок при цьому нікуди не зник.

Він просто з'їхав ліфтом на поверх нижче й винайняв там кабінет. Раніше вартість лежала у виробництві: журналіст витрачав день на текст і годину на перевірку. Тепер текст коштує хвилини — а перевірка коштує того самого дня. Часто більшого: бо несправжнє стало переконливішим, щільнішим, і душком воно більше не видає себе до першого розрізу. Редакції, що поставили AI на конвеєр і забули перебудувати ролі, отримали не десятикратну продуктивність, а десятикратний потік тіл — і ту саму одну зміну, яка й до того не встигала їх розтинати.

Наскільки швидко приїжджає цей рахунок, показав Google ще в лютому 2023-го. У промо-демці для Bard чат-бот написав, що телескоп Джеймса Вебба зробив перші знімки екзопланет — звучало гладко й фахово, і було неправдою: ці знімки ще в 2004-му зробив наземний телескоп Європейської південної обсерваторії. Одне неперевірене речення в рекламному відео — і акції Alphabet за день просіли на 7,7%, злизавши зі своєї капіталізації близько ста мільярдів доларів. Не через хакера. Не через збій сервера. Через речення, яке ніхто не потрудився розтяти перед публікацією.

Ось де ховається бухгалтер, якого ніхто не запросив на нараду про продуктивність: вартість текстів не зникла — вона переїхала з генерації у верифікацію. Видання, які впроваджують AI всерйоз, не скорочують редактуру — вони нарощують її нижче по конвеєру. Морг не закрили. Йому відкрили нову зміну й посадили того самого прозектора розтинати вдвадцятеро більше.

Карта не бреше. Просто на ній немає крові

Сто мільярдів капіталізації за одне речення — це цифра, яку побачила преса. Є цифра, яку бачить лише той, хто сидить у штабі й читає звіт про впровадження: приріст продуктивності на тисячу відсотків, лінія на графіку рівна — рівна, як лінія фронту на штабній карті, намальована в масштабі, де окремий окоп просто не влазить у клітинку. Карта не бреше. Вона фізично не може показати, з чийого столу того тижня поїхала кров.

Штабіст читає рапорт, не тіло. Вівторок, десята ранку, переговорна кімната, слайд на проєкторі, кава в руці ще тепла. Менеджер, що підписав перехід редакції на AI-конвеєр, гортає графік: більше текстів, менше витрат на автора, лінія вгору і праворуч. Він не сидить у морзі о третій ранку. Він не той, хто відкриває шосту вкладку. У штабі це називається блискучим кварталом.

Так сталося з CNET на початку 2023-го: редакція тихо перевела фінансові пояснення на «внутрішній AI-рушій» — сімдесят сім матеріалів за кілька місяців, і на папері це пахло добре. Після перевірки виправляти довелося 41 статтю з 77 — більше половини; в одному-єдиному поясненні про складні відсотки знайшли щонайменше п'ять фактичних помилок. Про кров дізналися пізніше, коли про це написав Futurism.

Питання, яке штабіст не ставить, бо воно не входить у форму звіту: а чи вірить хтось, що цю перевірку взагалі роблять? Reuters Institute запитав аудиторію напряму в звіті про генеративний AI за 2025-й: лише 33% вважають, що редакції рутинно перевіряють AI-текст перед публікацією; довіра до новин третій рік поспіль тупцює на 40%. Це не параноя читача — це читач, який розуміє різницю між лінією на карті й територією трохи краще за штабіста.

Тут напрошується зручний вихід: якщо людина не встигає перевіряти вдвадцятеро більше тіл, хай перевіркою займеться інший AI. Купили модуль, назвали його quality assurance layer, звітували про це на тій самій нараді про продуктивність. Не рятує. Стенфордський RegLab у 2024-му прогнав загальні мовні моделі крізь понад 800 тисяч юридичних запитів із перевірюваною відповіддю: GPT-4 галюцинував у 58% випадків, GPT-3.5 — у 69%, Llama 2 — у 88%. Тоді ж перевірили спеціалізовані, платні, «зроблені саме для юристів» інструменти — Lexis+ AI та Westlaw AI-Assisted Research. Помилялися рідше. Не набагато: 17–33% галюцинацій, у Westlaw — майже кожен третій запит. Найдорожчий труп-виявляч у цьому морзі теж носить білий халат. Він теж пропускає покійників — просто на дорожчому папері.

Найдешевший вихід — визнати: жоден звіт про приріст продуктивності не приймається без графи «скільки з цього перевірено руками, і чиїми». Немає графи — немає приросту, є нова партія тіл, про яку штаб дізнається з газет, а не з рапорту.

Анатомія трупного гриму

Колись брехня була незграбна й чесна у своїй незграбності. Стаття з вигаданою статистикою писалася криво: збиті відмінки, дикі заголовки, абзаци, що спотикались об себе. Редактор бачив її за першим рядком, фактчекер — за другим, читач — за третім, якщо двоє перших проспали. Дефект мав запах, і запах рятував усіх.

Тепер тіло приходить із рівними зубами. Бездоганна граматика, плавні переходи, академічний тон, що навіть кашляє вишукано. Структура логічна, посилання правдоподібні, інтонація впевнена, як у людини, що нічого не перевіряла, бо нічого й не знала. Гример попрацював добре. Доводиться різати, щоб переконатися, що всередині немає серця — а є рівно та порожнеча, яку модель навчили заповнювати красиво.

На столі — чотири шари дефекту, і кожен виглядає як живе тіло:

Шар дефекту	Як виглядає в тексті	Чому складно впіймати	Типовий вектор шкоди
Вигадані джерела	«Дослідження Harvard (2022) показало…»	Назва, рік і вміст правдоподібні — посилання не існує	Юридична відповідальність, репутація автора
Перекручені цитати	Реальне дослідження — висновок протилежний	Джерело існує; оригінал треба читати руками	Дезінформація з печаткою науковості
Статистичний дрейф	«72% компаній вважають…»	Число вирване з контексту, де вибірка — 50 осіб	Управлінські рішення на «даних» із повітря
Упевнений вакуум	Твердження без джерела авторитетним тоном	Відсутність посилання маскується інтонацією	Читач переймає хибну модель реальності

Перший і четвертий шари — родичі, але не близнюки. Перший — галюцинація: модель щось вигадала. Четвертий — структурна порожнеча: модель навчена звучати впевнено там, де сказати нема чого, бо впевненість краще продається, ніж сумнів. Для читача різниця нульова. Для прізвища під текстом — теж.

Відрізнити рум'яне тіло від живого можна лише розтином — і це не образ, а технічна процедура: відкрити першоджерело, прочитати, звірити. Без естетики. Без насолоди від плавного абзацу. Прозектору байдуже, що покійник гарно вдягнений. Він шукає причину смерті, а не комплімент кравцеві.

Найстрашніше тіло пахне добре

У редакціях, де ще лишилися дорослі, ходить одне правило: матеріал, який не потребує жодної правки, підозрілий удвічі більше за той, що потребує. Бездоганна поверхня — перший симптом прихованого дефекту. Текст без єдиного «але», без поступки, без шорсткості — це або геній раз на рік, або труп у хорошій косметиці. Статистично — труп.

Найгірше тіло в моргу не смердить. Воно пахне добре. Ти схиляєшся над ним, бо воно гарне, ставиш підпис «причина природна» — і галюцинація йде в друк під твоїм прізвищем, поки гример у кутку мовчки витирає пензлик.

Це не відчуття, а виміряна властивість. Tow Center при Колумбійській журналістській школі в березні 2025-го прогнав вісім AI-пошукових систем крізь двісті тестових запитів кожну. Хибні джерела в цитуваннях — від 37% у найкращого інструмента до 94% у найгіршого; ChatGPT Search помилявся у 67% випадків. При цьому за всі двісті спроб він визнав невпевненість лише п'ятнадцять разів і жодного разу не сказав «я не знаю». Модель не бреше навмисне — вона просто не вміє червоніти. Впевненість тут не залежить від правоти, тому й є найгіршим можливим індикатором правди: саме там, де людина завагалась би, машина посміхається найширше.

У справі Mata v. Avianca один з адвокатів пояснив суду, що «не знав, що ChatGPT може помилятися». Уяви хірурга, який каже над столом: я не знав, що скальпель буває гострий. Суддя цей аргумент не пом'якшив — навпаки, зачитав його в ухвалі як доказ відсутності елементарної обачності. ChatGPT санкцій не отримав. ChatGPT узагалі нічого не отримує — він не має ні прізвища, ні репутації, ні адреси, куди приходить позов. Усе це є тільки в тебе.

І рахунок тут не за виправлення тексту. Текст правиться за годину. Рахунок — за відновлення репутації, а вона не лагодиться припискою внизу статті. Вона переписується роками, повільно, з кров'ю — якщо взагалі переписується. Бо вигадана цитата біжить швидше за спростування й ніколи не озирається; спростування завжди читає менша аудиторія, втомленіша й менш охоча вірити вдруге.

Тягар доказу переїхав разом із рахунком

У праві є принцип, що пережив тисячоліття судів і жодного разу не застарів: тягар доказу лежить на тому, хто стверджує. Не на тому, хто сумнівається. Не на читачеві, який нібито мусить сам усе перевіряти на дозвіллі. На авторі, що сказав. Це не бюрократична формальність — це базова сантехніка довіри в публічному просторі, і коли її зривають, заливає всіх поверхом нижче.

AI перевернув інтуїцію, але труби не зачепив. Пишеш ти — тягар твій. Пише Claude чи GPT, а публікуєш ти — тягар усе одно твій, до останнього грама. Підпис стоїть твій. Редакція твоя. Морг твій, і ключі від нього теж у твоїй кишені, хоч би як ти вдавав, що загубив їх разом із відповідальністю.

Це працює не лише між юристами в залі суду. Канадець Джейк Моффат у листопаді 2022-го летів на похорон бабусі й спитав чат-бота Air Canada про пільговий тариф на випадок смерті родича. Бот впевнено назвав умови, яких у реальній політиці компанії не існувало; Моффат заплатив повну ціну, подав заявку за щойно почутими правилами й отримав відмову. Трибунал Британської Колумбії у лютому 2024-го присудив йому $650,88 — і тут історія стає по-справжньому смішною: у захисті Air Canada намагалась переконати трибунал, що чат-бот — окрема юридична особа, відповідальна сама за себе. Уяви цей аргумент у застосуванні до людини: «Пробачте, це не я нагрубив клієнту, це моя ліва рука розвинула автономію». Трибунал відповів коротко: чат-бот — просто частина сайту компанії, і компанія відповідає за все, що на ньому написано. Шістсот п'ятдесят доларів — ціна, за яку в бізнес-класі навіть вина не наллють, зате тепер це прецедент на цілу галузь клієнтського сервісу.

Тут і чатує внутрішній прес-секретар продуктивності — той, що шепоче: інструмент зняв з тебе зміст, бо зняв набір тексту. Це як вірити, що шеф-кухар не відповідає за страву, якщо купив готовий напівфабрикат. Ти підписав меню. Ти виніс тарілку. Гість захворів — претензія приходить не на завод, що зліпив котлету, а на тебе, з усмішкою на обличчі й тацею в руках.

Виробниче мислення каже: «я зробив більше матеріалів за менший час». Редакторське мислення каже: «скільки з них я підпишу й не зіщулюся». Морг — це відстань між цими двома реченнями. У кількох редакцій вона нульова, бо там цю відстань вимірюють щодня. У більшості вона тихо росте, поки одного ранку не дотягнеться до суду.

Прозектор не читає — він вимірює

Є різниця між читанням тексту й розтином тексту, і вона тілесна. Читання шукає смисл, гладить ідею, дозволяє собі насолоду від гарного речення о пів на північ. Розтин шукає аномалію — незалежно від того, у яке гарне речення вона загорнута, і саме тоді, коли речення найгарніше, прозектор підозрює найбільше.

Він не питає «це цікаво?». Він питає «це правда?» — і це інша м'язова робота: повільніша, неприємна, без дофаміну. Найшкідливіша навичка цієї епохи — здатність насолоджуватися абзацом, не поставивши руба питання «а звідки це?». Її атрофуєш за тиждень приємного скролу й відрощуєш місяцями болю.

Редакції, що вижили після AI-вибуху, зрозуміли це раніше за інших і зробили холоднокровну річ: не замінили журналістів генераторами — пересадили журналістів із виробництва чернеток у розтин фіналів. «AI-редактор» — це не той, хто красиво пише промпти. Це той, хто вміє різати текст і не закохуватися в нього в процесі, бо закоханий прозектор підписує що завгодно.

Один прозектор на двадцять тіл. Ціна одного розтину — час. Ціна одного пропущеного дефекту — видання цілком. Арифметика проста й гидка: економиш години на перевірці — платиш роками репутації, і курс цього обміну встановлюєш не ти.

Судмедексперт читає навпаки — і ще п'ять розрізів

Є контрінтуїтивний прийом, яким користуються при перевірці свідчень: читати документ із кінця до початку. У прямому читанні мозок умикає сюжет — передбачає, що далі, і ковтає аномалію, якщо вона зручно лягає в потік. Читаєш навпаки — сюжет зламаний, кожне речення стоїть голе, без алібі попереднього. Аномалія, яку щойно ховала плавність, раптом блимає, як забутий тампон у рані.

AI-текст до цього прийому вразливий особливо: він тримається на когерентності, тому пряме читання його саме «ковтає». Гладкий перехід між абзацами — не ознака правди, а ознака натренованості генератора звучати безшовно. Зворотне читання розпорює шов і кладе кожне твердження на стіл окремо. Ось решта інструментів, якими прозектор проходить кожен абзац перед підписом:

• Цифровий аудит: кожна цифра має клікабельне першоджерело? Не «за даними досліджень», а конкретні назва, рік, автор, що відкриваються за тридцять секунд у браузері. Немає — цифра під підозрою або їде зі столу в мішку.
• Тест «дослідження показало»: назва, рік, автор існують — і кажуть саме це, не приблизно це й не протилежне? AI часто вгадує тему й вивертає висновок у бік, потрібний абзацу.
• Тест на шорсткість: у тексті є хоч одне «але», виняток, поступка? Реальність завжди шорстка. Ідеально гладкий наратив — це не правда, це гримерна.
• Тест на невпевненість: інструмент, яким писали текст, хоч раз за розмову визнав сумнів? AI-пошуковики з дослідження Tow Center помилялися в цитуваннях частіше, ніж вгадували, — і майже ніколи цього не показували. Рівна, суцільна впевненість без жодного винятку — це не ознака точності, це ознака того, що сумнів із моделі просто не тренували показувати.
• Підписний тест: уяви, що надсилаєш цей текст людині, чию думку поважаєш і яка в темі. Є хоч секунда вагання — назад на стіл. Не в редакторську правку — на розтин: знайти дефект, вирізати, замінити підтвердженим фактом.

Це судмедекспертиза тексту, не вичитка ком. Без неї в тебе не редакція, а крематорій із гарним фасадом: усе виходить назовні охайним і теплим, і ніхто вже не дізнається, що всередині не було нічого.

Рахунок виставлено

Морг — не метафора страху перед AI і не заклик повертатися до гусячого пера. Це операційний факт нової економіки текстів, і він не зникає від того, що про нього мовчать на конференціях про продуктивність.

Генерація зрівняла поле виробництва до плінтуса: у тебе тепер той самий доступ до тисячі слів за годину, що й у ста тисяч інших із тією самою підпискою. Диференціація втекла звідти — з кількості, зі швидкості, з плавності. Вона переселилася в розтин: скільки з тих тисячі слів ти підпишеш, бо перевірив кожне число, кожне посилання, кожне «дослідження показало» особисто, а не на віру до машини, яка віри не має й мати не може.

Гонка за кількістю текстів — це гонка за тілами в морг. Гонка за якістю перевірки — єдина гонка, де через рік переможець стоїть осторонь натовпу, бо натовп тим часом тихо переїхав у холодильні камери.

Штабіст, якщо він взагалі колись почує це слово, назве це поодиноким інцидентом і піде на наступну нараду з тим самим графіком, що росте праворуч. Ти — не штабіст. Ти той, хто щоранку заходить у морг і бачить не лінію, а стіл.

Директор моргу красивих текстів дивиться на тебе через стіл.

На столі — твій матеріал.

Він ще не розрізаний.

Він рум'яний, усміхнений і пахне добре.

Питання одне, і воно не риторичне: ти вже заглянув усередину — чи теж вирішив, що зовнішній вигляд достатній, і пішов спати о третій, лишивши шість вкладок світитися над тілом, яке не оглянув?