Ефект побіжності: гладкий текст здається правдивішим до перевірки змісту — Fyre Festival зібрав $25 млн пітчдеком без жодної цифри
Ефект fluency, задокументований ще 1977 року: мозок оцінює легкий для читання текст як правдивіший ще до того, як перевірить зміст. AI зробив цю вразливість промисловою — 43-слайдовий pitch deck без жодної цифри у фінансовому розділі зібрав інвесторам 25 мільйонів доларів. Як не купити піджак без тіла всередині.
14:00, Zoom. Хтось вмикає екран і демонструє слайд із трьома булітами рівної довжини, кожен — дієсловом: «синергувати», «масштабувати», «розблокувати». Речення котяться гладко, як кулька по змащеному жолобу, і на кожному слові кімната злегка хитає головою — у знак розуміння, яке насправді є лише ритмом погодження. Коли слайд зникає, ти намагаєшся переказати побачене колезі. Рука зависає над клавіатурою. Переказувати нічого. Костюм був бездоганний. Тіла в ньому не було.
Ось перший факт, що ламає цей сеанс: тексти, які легше обробляються, люди оцінюють як правдивіші та розумніші. Задокументовано це ще 1977 року: Хашер, Голдстайн і Топіно давали студентам шістдесят тверджень на трьох сесіях упродовж шести тижнів. Двадцять тверджень повторювались — і саме їх оцінювали як правдивіші, байдуже, брехня це чи ні. Це не «людина довіряє красивому шрифту зі слабкості». Це архітектурна особливість мозку, що еволюціонував задовго до Slack і pitch-deck. Гладкість — сигнал безпеки. Мозок сприймає її як свідчення знайомості, а знайомість він мовчки міняє на правду — по дорозі, до усвідомлення. Критичне мислення прийде пізніше. Якщо встигне на потяг.
А тепер, коли механізм описаний і здається академічним, зупиніться: скільки рішень цього місяця ви схвалили не тому, що зрозуміли аргумент, а тому що він звучав рівно?
Кравець, у якого немає клієнта
Є антагоніст цієї системи. Назвемо його Кравець для порожнечі. Він шиє ідеальний піджак на будь-яке тіло — навіть якщо тіла немає. З-під рукава виглядає манжет, накрохмалений і рівний. У манжеті нічого. Він не брехун — він конструктор. Його ремесло — форма, не суть; суть він залишає замовнику, а замовник вважає, що суть уже вшита разом із підкладкою. Кравець не обманює. Він просто жодного разу не питає, чи є кому це вдягати.
Кравець існував завжди. Античні софісти брали гроші за те, щоб зробити слабший аргумент сильнішим — Протагор казав це відкрито, а Платон реагував так, ніби хтось запропонував продавати підроблений хліб. Прийом працював навіть на рівні звуку: у 2000 році Макглоун і Тофіхбахш показали, що те саме прислів'я в риму люди оцінюють як точніше й правдивіше, ніж його ж переказ без рими — форма мінялась, суть ні. Стародавній Рим перетворив це на ціле ремесло — риторику. Університети Середньовіччя викладали логіку й граматику, але кафедра «перевірка змісту» відкрилась із запізненням на кілька тисяч років, та й то в обмеженому складі. Перевірка змісту не виграє суд. Виграє риторика. Академія викладала те, що платило. Юрист, що читатиме контракти сторіччями пізніше, успадкує саме цю прогалину — і зробить з неї професію: шукати в реченні не думку, а відсутнє зобов'язання.
Раніше дурість приходила в брудних черевиках, і її було чути з коридору. Вона заходила й ставила свою справу незграбно, кривим реченням, із зайвим «е-е-е». Її можна було помітити, поки вона ще шукала стілець. У неї не було PowerPoint. У неї не було таймінгу. Вона просто стояла й виглядала тим, чим була.
Тепер вона приходить у піджаку, із календарним інвайтом і розкладом у трьох часових поясах. Вона вже сидить у першому ряду, поки ти читав тему зустрічі. На ній — бездоганний манжет. Під манжетом нічого, але ти про це дізнаєшся через квартал — у вигляді рядка в таблиці результатів і питання «а хто це взагалі затвердив».
16:30, переговорна: піджак уже думає за вас
16:30, скляна переговорна, на столі холодна кава в паперовому стакані з кільцем від попередньої наради. На екрані — згенерований за хвилину текст, рівний, як свіжий асфальт. AI не зробив аргументи розумнішими. Він зробив їх краще вдягненими. А це різні відділи: один шиє, інший думає — і думати тепер тарифікується окремо, у тариф не включено.
До кінця 2022 року гладкий текст був непрямим свідченням зусилля: хтось витратив час, щоб написати рівно, отже, хтось витратив час. Це не гарантувало якість думки, але корелювало з нею статистично. У 2008 році Сонг і Шварц показали, наскільки буквально це працює: той самий рецепт, надрукований незручним шрифтом, люди оцінювали як складніший для приготування — і менш охоче бралися його готувати, хоча інгредієнти й кроки не змінювались ані на йоту. Форма тексту про завдання підмінювала оцінку самого завдання. Зараз відбувається дзеркальний трюк: гладкий текст про неіснуючу роботу підмінює оцінку роботи, яку нібито вже зроблено. Обидва навички — думати й писати — потребували практики й траплялися разом. Слабка сигнальна система, але вона хоч якось працювала. Як рентген на призовній комісії: не діагноз, але видно, у кого реально щось є всередині.
Тепер гладкість стала безкоштовною. Машина подає речення без заминки, із правильними сполучниками й ритмічними паузами, незалежно від того, чи думка за ними є. Форма відокремилась від суті структурно — вперше в масштабі. І першими це помітили там, де читати текст — професія. У січні 2023 року студент Принстона Едвард Тян випустив GPTZero — детектор, що не питає, чи текст розумний, а рахує дві речі: perplexity (наскільки текст передбачуваний для моделі) і burstiness (наскільки чергуються короткі й довгі речення). Людина пише нерівно, збивається, повертається, ставить коротке речення після довгого. Машина — рівно скрізь. Твіт із презентацією зібрав понад сім мільйонів переглядів, програму за лічені дні завантажили в сорока штатах і тридцяти країнах: рівність тексту виявилась саме тим, що видає підробку. Той самий лоск, який переконує людину, для фільтра звучить як фальшива купюра: занадто рівна, щоб бути справжньою.
Детектор брехні в людини налаштований на затинання й піт. На паузу, на переглянутий погляд. Гладка машина прибрала і те, і те. Тепер брехня пітніє за нас деінде — у даних, через місяць, у рахунку за наслідки, коли гладкий текст уже давно підписаний і впроваджений.
Найгостріший момент не в тому, що хтось активно маніпулює. Найгостріший момент — коли автор сам не знає, що написав порожнечу. Він прочитав свій текст, і текст звучав добре, і він кивнув, і надіслав. Внутрішній детектор брехні не спрацював: він налаштований на чужу шорсткість, а не на власну гладкість.
Костюм продовжує висіти в шафі. Тіло досі відсутнє.
Гладка дурість у дешевому костюмі
Назвемо це точно, бо іменем ловлять. Гладка дурість у дешевому костюмі — це коли бездоганна форма ховає пусту суть настільки добре, що порожнечу починають захищати замість ідеї.
Цей механізм не в тексті. Він у голові читача. Оброблюваність активує щось на зразок естетичної довіри: «якщо це легко читається — значить, добре структуроване; а якщо добре структуроване — значить, добре обдумане». Кожен крок у ланцюжку — ковзання, не стрибок. Мозок не оголошує «я зараз схиблю» — він просто ковзає, як машина на чорному льоду: керма повне, зчеплення нуль. І на виході — рішення, схвалене на підставі ритму речення.
Покажемо це в сантехнічній термінології — бо це і є протокол ремонту. Труба покрита свіжою фарбою, лінія рівна, колір новий. Під фарбою та сама іржа, що текла й торік. Замовник кивнув, бо фарба гарна. Сантехнік отримав оплату. Труба потекла в наступному кварталі — але це вже інший бюджетний цикл і, ймовірно, інший підрядник. Гладке речення — це та сама фарба, нанесена на думку, якої немає.
23:15, домашній кабінет. Ноутбук відкритий, у вкладці — pitch-deck стартапу, сторінка «чому ми». Тридцять речень. Кожне — з дієсловом на початку. Кожне — з числом у середині. Читається за дві хвилини, запам'ятовується як «сильний матеріал». Після четвертого прочитання ти розумієш, що не знаєш, хто їхній клієнт, яка проблема і чому вони, а не наступний у черзі з таким самим піджаком.
Але хочеться зустрітися. Форма виконала роботу. Питання про суть — уже на зустрічі, де знову буде піджак, тільки живий.
Софіст і спам-фільтр: перший рахунок
Три поля, які ніколи не сидять за одним столом: класична риторика, договірне право і сучасне виявлення шахрайства. Зведіть їх — і отримаєте діагноз.
Риторика з часів Аристотеля будує форму, щоб переконати. Антифрод шукає форму, щоб викрити. Аристотель — за столом у тозі; аналітик із моделлю-класифікатором — навпроти. Якби вони звірили нотатки, перший здивувався б, як далеко зайшли його учні; другий — як давно це все почалось.
| Поле | Що шукає в тексті | Сигнал небезпеки |
|---|---|---|
| Класична риторика | Переконливість форми | Нема логосу за пафосом |
| Договірне право | Зобов'язання за словом | Гумова мова без відповідальної сторони («докладемо розумних зусиль») |
| Когнітивна психологія | Легкість обробки → довіра | Легкий текст здається правдивішим |
| Антифрод (GPTZero, 2023) | Природність відхилень від норми | Perplexity й burstiness занадто рівні |
| B2B sales / pitch-deck | Перший фільтр інвестора | «Сильний матеріал» без верифікованих цифр |
Софіст, спам-фільтр і юрист роблять одне й те саме з різних боків барикади: усі троє знають, що гладкість — це влада. Перший її продає. Другий її боїться. Третій виставляє за неї рахунок — по кілька сотень доларів за годину, за те саме, що уважний читач щойно зробив безкоштовно, дочитавши цей абзац.
Фінансовий світ порахував це ще у 2012-му. Ларкер і Заколюкіна побудували мовну модель, яка вгадувала, коли CEO чи CFO бреше під час дзвінка інвесторам, — і модель била підкидання монетки на 6–16%, не гірше за аналіз фінансових показників. Брехливі керівники рідше згадували цінність для акціонерів і частіше — загальні міркування ні про що конкретне. Гладкість мовлення не падала. Падала лише щільність зобов'язання в ній.
Те, що всі три поля оминають мовчки: коли форма дешевшає, перевіряти суть мусять люди, а не система. А люди зайняті. У них ще шість pitch-decks і нарада о шістнадцятій.
Це вже не переговорна о 16:30. Це справжні гроші, справжні дисертації, справжні інститути. Ось два докази з протоколу.
Два докази у справі проти костюма
Юрист, коли будує справу, не питає, чи текст переконливий — він питає, чого в тексті бракує, якого зобов'язання там нема. Той самий рух читає порожній додаток у фінансовому слайді: не помилку верстки, а діру, в яку заведено гроші.
Доказ перший. 2016 рік, презентація на сорок три слайди, прохання — 25 мільйонів доларів. Острів Норманс-Кі на Багамах, сорок тисяч гостей, обличчя кампанії — Кендалл Дженнер, 250 тисяч доларів за один допис в Instagram. Усе бездоганно, крім одного шва: слайд «Фінанси» — один рядок, «Дивіться додаток». Додатка не існувало. Юрист назвав би це відсутньою істотною умовою. Інвестори назвали це сильним матеріалом і підписали. У квітні 2017-го на острів приїхало не сорок тисяч, а менш ніж п'ять тисяч людей; намети замість обіцяних вілл лопотіли під дощем, а вечерю — два шматки хліба, сир і скибку помідора на мокрому салаті в пінопластовій коробці — сфотографували й рознесли мережею за годину. Костюм тримався точно до першого дощу.
Доказ другий: не бізнес, а наука — інститут, що мав бути імунним до цього. Дідерік Стапель, професор соціальної психології в Тілбурзькому університеті, публікував ідеально гладкі статті: чисті ефекти, охайні графіки, жодного зайвого шуму, який завжди є в реальних людях. Двоє професорів окремо помітили те саме: дані «занадто гарні, щоб бути правдою». Восени 2011-го троє молодших дослідників зіставили спостереження між собою й повідомили завідувачу кафедри. Стапель ніколи не показував сирих анкет — сам «збирав» дані і віддавав студентам уже оброблений результат; коли хтось питав про першоджерело, він ображався або погрожував. Підсумкова комісія у 2012 році нарахувала 55 сфальшованих публікацій і 10 дисертацій; до 2015-го відкликано 58 статей. Роками рецензенти — люди, чия робота і є translate-back test науки, — пропускали це, бо гладкість графіка читалась як компетентність автора.
Зверніть увагу, кого саме це не врятувало. Інвестори Fyre — не студенти-практиканти: досвідчені фінансисти, які бачили сотні пітчів. Рецензенти Стапеля — доктори наук, чия професія — сумнів. Форма подіяла найкраще саме на тих, хто був упевнений, що його вже не проведеш: досвід перетворився на самовпевненість, а самовпевненість вимкнула перевірку. І навпаки: коли гладкий текст пише молодший співробітник, нетитулований дослідник чи людина, що пише другою мовою, — його перевіряють удвічі, бо в нього немає статусу, який купує презумпцію правоти. Гладкість однакова для всіх. Підозра — ні. Вона розподіляється за посадою, не за якістю тексту.
Це вже не про Fyre і не про Стапеля. Судова справа завжди звужується до єдиного підсудного.
Це не вони — це ти
Ось де стає незручно. І де текст перестає бути про інших.
Кравець для порожнечі шиє не тільки для конкурентів. Він сидить усередині — і ім'я йому «внутрішній прес-секретар». Він з'являється щоразу, коли ти пишеш email і не знаєш, що хочеш сказати, але хочеш звучати переконливо. Він виходить, коли ти готуєш слайд і розставляєш буліти симетрично до того, як зрозумів, чи є там аргумент. Він виходить, коли ти просиш машину «покращити формулювання» — не тому що думка готова, а тому що строк. Внутрішній прес-секретар — лояльний службовець у чистій сорочці. Він не питає, чи є що захищати. Він просто захищає форму. Бо форма у нього під рукою, а суть — десь у відрядженні.
Механізм діє однаково на автора і на читача. Читач ковзає від «легко читається» до «добре обдумано». Автор ковзає від «добре сформульовано» до «добре продумано». Обидва в одному тунелі, лише з різних боків.
Внутрішній детектор брехні, про який уже йшлося, — не метафора з презентації. Це орган, який просто перестав вмикатися вчасно. Як апендикс: усі знають, що він десь там є, ніхто не думає про нього роками, а коли він таки запалюється — вирізають запізно, в суботу ввечері, коли чергового хірурга ще треба знайти. Різниця тільки в тому, що видаленого апендикса не шкода. Видаленого сумніву — шкода, але вже по факту.
Гладка дурість у дешевому костюмі — це не лише про чужі pitch-decks. Це про листи, які ти надіслав. Про стратегії, які ти затвердив. Про ідеї, які ти захистив на нараді тому, що вони добре звучали, і лише потім, тихо, зрозумів, що нічого конкретного за ними не стояло.
Гладка дурість у дешевому костюмі не приходить від суперника. Вона виходить із твого Google Doc о 23:45, коли ти втомився і натиснув «Generate».
09:00, відкритий офіс. Хтось кидає в slack «погляньте на цей документ — дуже сильний матеріал». Документ відкривається легко, читається за три хвилини, виглядає завершеним. Ніхто не питає: а що саме він пропонує зробити? Бо питання зруйнує враження, а враження таке приємне після семи тасків до обіду. Костюм іде далі — вже у вигляді рішення. Тіло все ще шукають.
Ось ключове: те, що раніше гинуло від браку форми, тепер гине від надлишку форми. Стара слабка ідея вмирала на нараді, бо виглядала слабкою. Нова слабка ідея виживає, бо виглядає сильною. Еволюційний тиск на якість думки впав — не тому що люди здрібніли, а тому що Кравець для порожнечі нарешті запустив масове виробництво. Природний відбір не зник. Просто хижак осліп — нюхає крій замість м'яса.
Translate-back test: інструмент, що повертає суть
Напрошується фікс: якщо гладкість оманлива, зробімо текст незручнішим — хай мозок гальмує й думає сам. Уже пробували. У 2011 році Діманд-Яуман, Опенгаймер і Вон показали: слова у незручному шрифті запам'ятовуються краще — і в лабораторії, і в школі. Але в 2015 році Меєр, Фредерік та колеги зібрали шістнадцять спроб повторити цей ефект на задачах на кмітливість — і жодна не показала різниці. Незручний шрифт не рятує. Проблема не в тому, що зручність читання обманює завжди, а в тому, що вона зазвичай має рацію — легкість і якість справді часто йшли поруч, і саме тому мозок досі їй довіряє, хоча AI цю кореляцію розірвав. Ламати шрифт — косметика. Ламати треба не форму, а звичку нічого не перевіряти.
Є один хірургічний прийом, і він не потребує AI-детектора, ступеня з риторики чи таблиці оцінювання.
Після будь-якого гладкого пітчу, документа, стратегічного слайду чи «сильного матеріалу» — перекажіть суть своїми словами в одному реченні. Не цитуючи. Не переказуючи структуру. Суть: що саме пропонується зробити, кому і чому це не зробив хтось інший раніше.
Якщо речення не виходить — там був костюм без тіла. Поверніть на доробку.
Перевірте за цими критеріями — власні тексти в першу чергу:
- Одне речення суті. Якщо для суті потрібні три речення з «але», «водночас», «з урахуванням» — суть іще не сформована.
- Хто конкретно це зробить і до якої дати. Якщо відповіді нема — документ декларація, не план.
- Що саме зміниться через місяць. Якщо нема вимірного результату — це не стратегія, це настрій.
- Чому не зробили це вчора. Якщо відповідь незручна — значить, вона є, і її варто написати в документ, а не ховати за гладким вступом.
- Чи можна це спростувати. Якщо будь-яка відповідь підходить до тези — це не теза, це риторична рамка.
Чесно про цей інструмент: він симетричний на папері й асиметричний у житті. Попросити молодшого колегу переказати його документ своїми словами — звична редакторська гігієна. Попросити те саме в керівника після його стратегічного виступу — кар'єрний ризик, і всі це відчувають шкірою ще до того, як піднімають руку. Тому гладка дурість у дешевому костюмі рідко живе внизу організації. Вона селиться там, де запитати найдорожче.
Цей тест не вбиває гарний текст. Він убиває гарний текст без думки. Різниця важлива, бо одне з них можна врятувати.
Рахунок
Софісти Стародавньої Греції брали гроші відверто. Вони казали: я зроблю так, що слабший аргумент звучатиме сильніше. Це коштувало стільки-то драхм, і за це ти отримаєш перемогу в суді або голоси в зборах. Чесна транзакція: форма продавалась як форма. Клієнт знав, що купує. Платон мав заперечення, але хоча б предмет суперечки був ясним.
Тепер форма продається як суть. І коштує дорожче — не в драхмах, а в рішеннях, прийнятих на підставі ритму речення. Рахунок надходить не відразу. Він приходить через квартал — результатом, що не збігся з pitch-deck. Або через рік — стратегією, яку ніхто не може переказати своїми словами, але всі підписали. Юрист має для цього термін: підписано під впливом форми, без ознайомлення зі змістом. У побуті — простіше: не читав, підписав, бо виглядало солідно. Підпис красивий. Думка за ним досі шукає, у що вдягтися.
Гладка дурість у дешевому костюмі не зникне після цього тексту. Вона вже в наступному документі, що відкриється на вашому екрані. Кравець для порожнечі шиє цілодобово, тепер ще й із машинною подачею, у масштабі, якого Протагору не снилось навіть у найкращу ніч. Форма буде ідеальна. Манжет — накрохмалений. Тіла в піджаку — немає. Це вже не виняток — це фоновий шум, на якому доводиться вчитися чути інакше.
Гладка дурість у дешевому костюмі є у вашому inbox. Вона є на нараді о 14:00. Вона є у вашому власному документі, відкритому в сусідній вкладці. Кравець давно всередині.
Питання не «як розпізнати чужу порожнечу». Питання простіше й боляче:
Коли ти востаннє переказав власний документ своїми словами — і речення вийшло?
Питання та відповіді
Що таке ефект fluency і чому він небезпечний в епоху AI?
Processing fluency — когнітивний феномен: текст, який легко обробляється мозком, оцінюється як правдивіший і розумніший ще до усвідомленого аналізу змісту (Reber, Schwarz, Winkielman, 2004; Kahneman, 2011). Ефект відомий з 1977 року: Хашер, Голдстайн і Топіно показали, що просто повторені твердження люди оцінюють як правдивіші незалежно від факту. До появи LLM гладкість корелювала із зусиллям автора. Тепер гладкість безкоштовна — і мозок продовжує сприймати її як сигнал якості, хоча сигнал більше не несе цієї інформації.
Що таке «Гладка дурість у дешевому костюмі» як named mechanism?
Це назва для конкретного патерну: коли бездоганна форма (гладкий текст, симетричні буліти, правильні дієслова) ховає пусту суть настільки переконливо, що люди починають захищати форму замість перевіряти зміст. Механізм не в тексті — він у голові читача, який ковзає від «легко читається» до «добре обміркувано» без усвідомленого стрибка.
Хіба софісти — це давня історія, не актуальна сьогодні?
Стілмен-контраргумент сильний: у Стародавній Греції риторику продавали відверто, і клієнт знав, що купує форму, а не правду. Сьогодні межа розмита вдвічі: по-перше, AI-форма виробляється непомітно для аудиторії, по-друге — часто і для самого автора. Показовий сучасний приклад — не бізнес, а наука: викриття фальсифікацій психолога Дідеріка Стапеля 2011 року показало, що навіть фахові рецензенти роками пропускали підозріло гладкі дані, бо гладкість читалась як компетентність автора. Він щиро вірить, що «покращив формулювання», а не приховав відсутність думки.
Що таке Translate-back test і чим він відрізняється від звичайної перевірки тексту?
Translate-back test — переказати суть будь-якого гладкого документа своїми словами в одному реченні, без цитування структури. Це не тест якості тексту — це тест на наявність думки взагалі. (Простіший на вигляд фікс — зробити текст незручнішим для читання — вже пробували: ефект 2011 року не пережив шістнадцяти спроб повторити його у 2015-му. Рятує не незручність форми, а перевірка суті.) Якщо речення не виходить, думки не було — була форма, що імітувала думку. Звичайна перевірка тексту оцінює оформлення; цей тест виявляє, чи є що оформлювати.
Чи може гарний текст пройти Translate-back test — і чи не вбиває тест стиль?
Так, може — і ні, не вбиває. Тест вбиває гарний текст без думки, а не гарний текст із думкою. Якщо суть легко переказується одним реченням, форма може бути будь-якою: складною, образною, ритмічною. Проблема не в гладкості як такій, а в гладкості як заміннику суті. Різниця між цими двома станами важлива, бо перший можна врятувати, другий — лише перенаписати.
Коментарі
Лише для залогінених читачів — щоб лишалось людським, а не болотом ботів.