Патологоанатом красивого тексту

Справа Mata v. Avianca: ChatGPT вигадав судові прецеденти, адвокати отримали санкції. Покарали не AI — він не має прізвища, куди приходить позов. Як працює Морг перевірки і чому вартість контенту не зникла, а лише з'їхала ліфтом на поверх нижче.

Третя ранку. Шість вкладок, у кожній — гладкий абзац без єдиної граматичної помилки. Ти ведеш по них очима, як прозектор по шкірі: зовні бездоганно, рожево, свіже. Палець зупиняється на реченні з цифрою — «згідно з дослідженням 2023 року» — і десь під грудиною вмикається той тихий датчик, що чує несвіже раніше за ніс. Дослідження немає. Воно ніколи не народжувалося. Текст усміхається тобі рум'янами трупного гриму й чекає, поки ти підпишеш, що смерть була природна.

Справа Mata v. Avianca, 2023-й: двоє нью-йоркських адвокатів подали федеральному суду шість судових прецедентів на підтримку позову. (SOURCE-READY) Назви — солідні. Суди — правильні. Роки — правдоподібні. Цитати — гладкі, як мармур. Один дефект: жодна з тих справ не існувала. ChatGPT не збрехав навмисне — він не вміє навмисне. Він просто домалював те, що найприродніше продовжувало патерн «юридичний прецедент», як гример домальовує живий рум'янець на тому, що вже охололо. Суддя Кастель зажадав показати йому ці рішення. Показати не змогли. Це й була розтинна — тільки робив її суд, бо адвокати поспали.

Десь за цим столом сидить директор моргу красивих текстів. Він приймає по двадцять охайних тіл за зміну — всі рум'яні, всі усміхнені, у кожного ідеальна пунктуація й академічний тон. І кожне треба розрізати, щоб дізнатися, від чого воно «померло». Халат у нього чистий. Руки — твої.

Спрощення, яке нікого не спростило

Усі домовилися радіти. Генерація стала дешевою — і це чиста правда, тут сперечатися немає з чим: за чашку кави щомісяця ти отримуєш автора, що не спить, не скаржиться і ніколи не зриває строк. Стаття за вісім хвилин. Есе за чотири. LinkedIn заквітнув проповідями про «10-кратну продуктивність», а продюсери текстів оголосили, що блог, який раніше коштував трьох журналістів, тепер коштує один промпт і один еспресо.

Рахунок при цьому нікуди не зник.

Він просто з'їхав ліфтом на поверх нижче й винайняв там кабінет. Раніше вартість лежала у виробництві: журналіст витрачав день на текст і годину на перевірку. Тепер текст коштує хвилини — а перевірка коштує того самого дня. Часто більшого: бо несправжнє стало переконливішим, щільнішим, і душком воно більше не видає себе до першого розрізу. Редакції, що поставили AI на конвеєр і забули перебудувати ролі, отримали не десятикратну продуктивність, а десятикратний потік тіл — і ту саму одну зміну, яка й до того не встигала їх розтинати.

Ось де ховається бухгалтер, якого ніхто не запросив на нараду про продуктивність: вартість текстів не зникла — вона переїхала з генерації у верифікацію. Видання, які впроваджують AI всерйоз, не скорочують редактуру — вони нарощують її нижче по конвеєру. (VERIFY — зсув задокументований в оглядах Reuters Institute і Nieman Lab; конкретні пропорції різняться між редакціями.) Морг не закрили. Йому відкрили нову зміну й посадили того самого прозектора розтинати вдвадцятеро більше.

Анатомія трупного гриму

Колись брехня була незграбна й чесна у своїй незграбності. Стаття з вигаданою статистикою писалася криво: збиті відмінки, дикі заголовки, абзаци, що спотикались об себе. Редактор бачив її за першим рядком, фактчекер — за другим, читач — за третім, якщо двоє перших проспали. Дефект мав запах, і запах рятував усіх.

Тепер тіло приходить із рівними зубами. Бездоганна граматика, плавні переходи, академічний тон, що навіть кашляє вишукано. Структура логічна, посилання правдоподібні, інтонація впевнена, як у людини, що нічого не перевіряла, бо нічого й не знала. Гример попрацював добре. Доводиться різати, щоб переконатися, що всередині немає серця — а є рівно та порожнеча, яку модель навчили заповнювати красиво.

На столі — чотири шари дефекту, і кожен виглядає як живе тіло:

Шар дефекту Як виглядає в тексті Чому складно впіймати Типовий вектор шкоди
Вигадані джерела «Дослідження Harvard (2022) показало…» Назва, рік і вміст правдоподібні — посилання не існує Юридична відповідальність, репутація автора
Перекручені цитати Реальне дослідження — висновок протилежний Джерело існує; оригінал треба читати руками Дезінформація з печаткою науковості
Статистичний дрейф «72% компаній вважають…» Число вирване з контексту, де вибірка — 50 осіб Управлінські рішення на «даних» із повітря
Упевнений вакуум Твердження без джерела авторитетним тоном Відсутність посилання маскується інтонацією Читач переймає хибну модель реальності

Перший і четвертий шари — родичі, але не близнюки. Перший — галюцинація: модель щось вигадала. Четвертий — структурна порожнеча: модель навчена звучати впевнено там, де сказати нема чого, бо впевненість краще продається, ніж сумнів. Для читача різниця нульова. Для прізвища під текстом — теж.

Відрізнити рум'яне тіло від живого можна лише розтином — і це не образ, а технічна процедура: відкрити першоджерело, прочитати, звірити. Без естетики. Без насолоди від плавного абзацу. Прозектору байдуже, що покійник гарно вдягнений. Він шукає причину смерті, а не комплімент кравцеві.

Найстрашніше тіло пахне добре

У редакціях, де ще лишилися дорослі, ходить одне правило: матеріал, який не потребує жодної правки, підозрілий удвічі більше за той, що потребує. Бездоганна поверхня — перший симптом прихованого дефекту. Текст без єдиного «але», без поступки, без шорсткості — це або геній раз на рік, або труп у хорошій косметиці. Статистично — труп.

Найгірше тіло в моргу не смердить. Воно пахне добре. Ти схиляєшся над ним, бо воно гарне, ставиш підпис «причина природна» — і галюцинація йде в друк під твоїм прізвищем, поки гример у кутку мовчки витирає пензлик.

У справі Mata v. Avianca один з адвокатів пояснив суду, що «не знав, що ChatGPT може помилятися». Уяви хірурга, який каже над столом: я не знав, що скальпель буває гострий. Суддя цей аргумент не пом'якшив — навпаки, зачитав його як доказ відсутності елементарної обачності, і виписав штраф. ChatGPT санкцій не отримав. ChatGPT узагалі нічого не отримує — він не має ні прізвища, ні репутації, ні адреси, куди приходить позов. Усе це є тільки в тебе.

І рахунок тут не за виправлення тексту. Текст правиться за годину. Рахунок — за відновлення репутації, а вона не лагодиться припискою внизу статті. Вона переписується роками, повільно, з кров'ю — якщо взагалі переписується. Бо вигадана цитата біжить швидше за спростування й ніколи не озирається; спростування завжди читає менша аудиторія, втомленіша й менш охоча вірити вдруге.

Тягар доказу переїхав разом із рахунком

У праві є принцип, що пережив тисячоліття судів і жодного разу не застарів: тягар доказу лежить на тому, хто стверджує. Не на тому, хто сумнівається. Не на читачеві, який нібито мусить сам усе перевіряти на дозвіллі. На авторі, що сказав. Це не бюрократична формальність — це базова сантехніка довіри в публічному просторі, і коли її зривають, заливає всіх поверхом нижче.

AI перевернув інтуїцію, але труби не зачепив. Пишеш ти — тягар твій. Пише Claude чи GPT, а публікуєш ти — тягар усе одно твій, до останнього грама. Підпис стоїть твій. Редакція твоя. Морг твій, і ключі від нього теж у твоїй кишені, хоч би як ти вдавав, що загубив їх разом із відповідальністю.

Тут і чатує внутрішній прес-секретар продуктивності — той, що шепоче: інструмент зняв з тебе зміст, бо зняв набір тексту. Це як вірити, що шеф-кухар не відповідає за страву, якщо купив готовий напівфабрикат. Ти підписав меню. Ти виніс тарілку. Гість захворів — претензія приходить не на завод, що зліпив котлету, а на тебе, з усмішкою на обличчі й тацею в руках.

Виробниче мислення каже: «я зробив більше матеріалів за менший час». Редакторське мислення каже: «скільки з них я підпишу й не зіщулюся». Морг — це відстань між цими двома реченнями. У кількох редакцій вона нульова, бо там цю відстань вимірюють щодня. У більшості вона тихо росте, поки одного ранку не дотягнеться до суду.

Прозектор не читає — він вимірює

Є різниця між читанням тексту й розтином тексту, і вона тілесна. Читання шукає смисл, гладить ідею, дозволяє собі насолоду від гарного речення о пів на північ. Розтин шукає аномалію — незалежно від того, у яке гарне речення вона загорнута, і саме тоді, коли речення найгарніше, прозектор підозрює найбільше.

Він не питає «це цікаво?». Він питає «це правда?» — і це інша м'язова робота: повільніша, неприємна, без дофаміну. Найшкідливіша навичка цієї епохи — здатність насолоджуватися абзацом, не поставивши руба питання «а звідки це?». Її атрофуєш за тиждень приємного скролу й відрощуєш місяцями болю.

Редакції, що вижили після AI-вибуху, зрозуміли це раніше за інших і зробили холоднокровну річ: не замінили журналістів генераторами — пересадили журналістів із виробництва чернеток у розтин фіналів. «AI-редактор» — це не той, хто красиво пише промпти. Це той, хто вміє різати текст і не закохуватися в нього в процесі, бо закоханий прозектор підписує що завгодно.

Один прозектор на двадцять тіл. Ціна одного розтину — час. Ціна одного пропущеного дефекту — видання цілком. Арифметика проста й гидка: економиш години на перевірці — платиш роками репутації, і курс цього обміну встановлюєш не ти.

Судмедексперт читає навпаки — і ще чотири розрізи

Є контрінтуїтивний прийом, яким користуються при перевірці свідчень: читати документ із кінця до початку. У прямому читанні мозок умикає сюжет — передбачає, що далі, і ковтає аномалію, якщо вона зручно лягає в потік. Читаєш навпаки — сюжет зламаний, кожне речення стоїть голе, без алібі попереднього. Аномалія, яку щойно ховала плавність, раптом блимає, як забутий тампон у рані.

AI-текст до цього прийому вразливий особливо: він тримається на когерентності, тому пряме читання його саме «ковтає». Гладкий перехід між абзацами — не ознака правди, а ознака натренованості генератора звучати безшовно. Зворотне читання розпорює шов і кладе кожне твердження на стіл окремо. Ось решта інструментів, якими прозектор проходить кожен абзац перед підписом:

  • Цифровий аудит: кожна цифра має клікабельне першоджерело? Не «за даними досліджень», а конкретні назва, рік, автор, що відкриваються за тридцять секунд у браузері. Немає — цифра під підозрою або їде зі столу в мішку.
  • Тест «дослідження показало»: назва, рік, автор існують — і кажуть саме це, не приблизно це й не протилежне? AI часто вгадує тему й вивертає висновок у бік, потрібний абзацу.
  • Тест на шорсткість: у тексті є хоч одне «але», виняток, поступка? Реальність завжди шорстка. Ідеально гладкий наратив — це не правда, це гримерна.
  • Підписний тест: уяви, що надсилаєш цей текст людині, чию думку поважаєш і яка в темі. Є хоч секунда вагання — назад на стіл. Не в редакторську правку — на розтин: знайти дефект, вирізати, замінити підтвердженим фактом.

Це судмедекспертиза тексту, не вичитка ком. Без неї в тебе не редакція, а крематорій із гарним фасадом: усе виходить назовні охайним і теплим, і ніхто вже не дізнається, що всередині не було нічого.

Рахунок виставлено

Морг — не метафора страху перед AI і не заклик повертатися до гусячого пера. Це операційний факт нової економіки текстів, і він не зникає від того, що про нього мовчать на конференціях про продуктивність.

Генерація зрівняла поле виробництва до плінтуса: у тебе тепер той самий доступ до тисячі слів за годину, що й у ста тисяч інших із тією самою підпискою. Диференціація втекла звідти — з кількості, зі швидкості, з плавності. Вона переселилася в розтин: скільки з тих тисячі слів ти підпишеш, бо перевірив кожне число, кожне посилання, кожне «дослідження показало» особисто, а не на віру до машини, яка віри не має й мати не може.

Гонка за кількістю текстів — це гонка за тілами в морг. Гонка за якістю перевірки — єдина гонка, де через рік переможець стоїть осторонь натовпу, бо натовп тим часом тихо переїхав у холодильні камери.

Директор моргу красивих текстів дивиться на тебе через стіл.

На столі — твій матеріал.

Він ще не розрізаний.

Він рум'яний, усміхнений і пахне добре.

Питання одне, і воно не риторичне: ти вже заглянув усередину — чи теж вирішив, що зовнішній вигляд достатній, і пішов спати о третій, лишивши шість вкладок світитися над тілом, яке не оглянув?

Питання та відповіді

Що таке «Морг перевірки» і чому це важливо саме зараз?

Морг перевірки — named mechanism, що описує зсув вартості у виробництві контенту: генерація тексту стала дешевою і швидкою, але час на верифікацію кожного факту, цифри й посилання залишився тим самим — або збільшився, бо AI-текст переконливіший і помилки в ньому менш очевидні. «Морг» — не метафора жаху, а операційна реальність: кожен текст, що виходить у друк без перевірки, несе прихований дефект, який можна виявити лише «розрізавши».

Чому справа Mata v. Avianca — це системний, а не одиничний випадок?

Адвокати позивача подали суду шість прецедентів, згенерованих ChatGPT: назви справ, суди, дати — все правдоподібне, нічого реального. Суддя Кастель зажадав показати рішення — показати не змогли. Адвокати отримали санкції. Це не «один дурень з AI» — це демонстрація механізму: LLM оптимізований під правдоподібність, не під правдивість. Кожен, хто публікує AI-текст без розтину, відтворює ту саму ситуацію з різним ступенем видимості наслідків.

Як відрізнити вигадане джерело від реального в AI-тексті?

Три кроки: (1) назва + рік + автор — погуглити за 30 секунд, відкрити перший результат, переконатися, що документ існує; (2) прочитати висновок оригіналу — AI часто перекручує напрямок: джерело може існувати, але казати протилежне; (3) перевірити вибірку й методологію — «72% компаній» із дослідження з вибіркою 50 осіб у LinkedIn — не статистика. Якщо посилання не гуглиться взагалі — це найпростіший випадок: галюцинація.

Хіба автор не відповідальний, якщо текст написав AI?

Відповідальний — і це принципова позиція. Підпис стоїть твій. Редакція твоя. Тягар доказу у праві лежить на тому, хто стверджує, — незалежно від інструменту. ChatGPT не отримав санкцій у справі Mata v. Avianca: їх отримали адвокати, бо ChatGPT не має ні прізвища, ні репутації, ні адреси, куди приходить позов. Це не виняток, а правило: інструмент знімає відповідальність за набір тексту, але не за його зміст. Видавати AI-матеріал без перевірки — це не «ефективність», це делегування власної репутації системі, що оптимізована під переконливість, а не під точність.

Як організувати верифікацію, якщо текстів тепер у рази більше?

Редакційна логіка така: не більше текстів з тією ж командою перевірників — а така сама кількість якісних текстів із перерозподіленим часом. Судмедексперт читає навпаки: від кінця до початку, кожне речення окремо від сюжетного потоку — так аномалії видно без «ковтання» логікою тексту. Forensic checklist (у тексті) — п'ять запитань на кожен абзац. Якщо на одне немає відповіді — абзац іде в морг, не в друк.

Коментарі

Лише для залогінених читачів — щоб лишалось людським, а не болотом ботів.