Кордон між людським текстом та автоматичною генерацією стрімко стирається. Substack зробив крок, щоб допомогти читачам відрізняти одне від одного. Платформа анонсувала нову функцію, що дозволяє сканувати контент, створений ІІ, прямо у додатку та веб-версії. У основі лежить система виявлення від компанії Pangram. Тепер цей інструмент інтегрований у пости Substack, нотатки, відповіді та коментарі.
Логіка поновлення проста. Не все, що пише ІІ, є сміттям. Не весь текст, написаний поспіхом, створено машиною. Але читачі заслуговують на знати, на що вони витрачають свій час. Якщо ви відкриваєте статтю, чекаючи на живий голос автора, а виявляєте лише алгоритмічний шум, це викликає відторгнення. Саме це невідповідність Substack прагне виправити.
Як використовувати функцію розпізнавання ІІ
Для роботи не потрібен новий додаток. Інструмент вже доступний у веб-версії та iOS-програмі. Користувачам Android доведеться почекати трохи довше. Щоб скористатися функцією, знайдіть меню з трьома точками “…” у будь-якому пості. Натисніть і виберіть «Сканувати на наявність тексту ШІ». Миттєво з’явиться вікно з відсотковим співвідношенням: яка частина тексту, ймовірно, створена ІІ, яка — за його участю, а яка — цілком людська.
Ця функція має свої правила. Текст має бути досить об’ємним. Якщо ви переглядаєте уривок коротший за 100 слів, інструмент не спрацює — йому потрібно більше даних для аналізу. Також існує обмеження часу. Підлягають перевірці лише матеріали, опубліковані після 11:30 ранку за тихоокеанським часом 21 липня. При спробі відсканувати старіший пост ви отримаєте повідомлення про те, що він не підходить для перевірки. Substack виявляє обережність у питанні історичної точності цього показника.
Чому Substack піклується про походження контенту
Кріс Бест, співзасновник та генеральний директор, чітко сформулював суть проблеми у блозі платформи. Йдеться про введення в оману. Коли читач витрачає двадцять хвилин на есе, щоб виявити, що за ним не стоїть ні краплі людської думки, довіра руйнується. Платформа намагається зберегти цю довіру.
Важливо, що сканування працює з ініціативи користувача. Pangram аналізує текст лише за вашим запитом. Ви самі маєте захотіти дізнатися правду. Інструмент має обмеження: він не може визначити, чи використовувала людина ІІ для попереднього дослідження перед написанням тексту. Система оцінює лише підсумкову структуру тексту.
Бест навіть додав особисту примітку до своїх постів через цей інструмент: «Я поки що розбираюся у всіх цих нововведеннях. Але тим часом ці слова мої, добре це чи погано». Чесне визнання. Він прагне прозорості, навіть якщо наука розпізнавання ІІ знаходиться на ранній стадії.
Інструменти для авторів та письменників
Це не просто функція читачів. Аватори також отримують нові можливості. Письменники можуть додати власну заяву, яка пояснює процес створення контенту. Якщо ви використовували ІІ, вкажіть це. Якщо ні – теж уточніть. Ця примітка з’являється коли хтось запускає інструмент перевірки на вашому матеріалі.
Автори мають владу над мітками. Якщо ви вважаєте, що Pangram помилково помітив вашу роботу, ви можете самостійно запустити перевірку та надіслати звіт. Ви можете оскаржити результат. Більше того, ви можете повністю прибрати прапор розпізнавання ІІ, відключивши цю функцію для контенту. Ви самі вирішуєте, чи буде видно мітку, незалежно від того, що говорить алгоритм.
Як це працює під капотом? Pangram використовує класифікатор нейронних мереж, навчений відрізняти людські патерни від машинних. Щоб уникнути упередженості, модель навчали на текстах, написаних людьми та опублікованих до 2021 року, до того, як генеративний ІІ заполонив інтернет. Це гарантує, що основа «людського» тексту залишається чистою. Виняток ІІ-згенерованих зразків з даних для навчання запобігає помилковим спрацьовуванням у майбутньому.
Більш широкий контекст онлайн-письменства
Ми живемо в момент, коли обсяг текстів, створених ІІ, вибухоподібно зростає. Нещодавнє дослідження маркетингового агентства Graphito стверджує, що кількість онлайн-статей, написаних переважно ІІ, зрівнялася з чисельністю текстів, створених людьми. Ландшафтом швидко змінюється.
Декілька видавництв піддалися критиці за reliance на ІІ. Деякі статті були переповнені галюцинаціями та помилками. Інші були підписані вигаданими авторами, створеними ІІ. Це створює спіраль збентеження. Читачі перестають розуміти, хто справжній.
Substack передбачає цей розвиток подій. Вони розглядають можливість запуску додаткових функцій. Уявіть, що ви зможете фільтрувати стрічку, показуючи лише вміст, написаний людьми. Ви зможете налаштувати переваги для повного виключення ІІ. Бест каже, що вони дослухаються до відгуків користувачів. Якщо ви прагнете чистоти, інструмент скоро дасть вам таку можливість.
Але поки що вам доведеться докласти зусиль. Потрібно натиснути меню, запустити сканування. Інструмент – це лише початок. Він не ідеальний, це лише сигнал у шумі. Чи зловить він все? Мабуть, ні. Але він ставить правильне запитання: хто насправді розмовляє з вами? Відповідь має значення.
