Граница между человеческим текстом и автоматической генерацией стремительно стирается. Substack предпринял шаг, чтобы помочь читателям отличать одно от другого. Платформа анонсировала новую функцию, позволяющую сканировать контент, созданный ИИ, прямо в приложении и в веб-версии. В основе лежит система обнаружения от компании Pangram. Теперь этот инструмент интегрирован в посты Substack, заметки, ответы и комментарии.
Логика обновления проста. Не всё, что пишет ИИ, является мусором. Не весь текст, написанный наспех, создан машиной. Но читатели заслуживают знать, на что они тратят свое время. Если вы открываете статью, ожидая живого голоса автора, а обнаруживаете лишь алгоритмический шум, это вызывает отторжение. Именно это несоответствие Substack стремится исправить.
Как использовать функцию распознавания ИИ
Для работы не требуется новое приложение. Инструмент уже доступен в веб-версии и iOS-приложении. Пользователям Android придется подождать немного дольше. Чтобы воспользоваться функцией, найдите меню с тремя точками «…» в любом посте. Нажмите на него и выберите «Сканировать на наличие текста ИИ». Мгновенно появится всплывающее окно с процентным соотношением: какая часть текста, вероятно, создана ИИ, какая — при его участии, а какая — полностью человеческая.
У этой функции есть свои правила. Текст должен быть достаточно объемным. Если вы просматриваете отрывок короче 100 слов, инструмент не сработает — ему нужно больше данных для анализа. Также существует ограничение по времени. Подлежат проверке только материалы, опубликованные после 11:30 утра по тихоокеанскому времени 21 июля. При попытке отсканировать более старый пост вы получите уведомление о том, что он не подходит для проверки. Substack проявляет осторожность в вопросе исторической точности этого показателя.
Почему Substack заботится о происхождении контента
Крис Бест, сооснователь и генеральный директор, четко сформулировал суть проблемы в блоге платформы. Речь идет о вводе в заблуждение. Когда читатель тратит двадцать минут на эссе, чтобы обнаружить, что за ним не стоит ни капли человеческой мысли, доверие рушится. Платформа пытается сохранить это доверие.
Важно отметить, что сканирование работает по инициативе пользователя. Pangram анализирует текст только по вашему запросу. Вы сами должны захотеть узнать правду. У инструмента есть и ограничения: он не может определить, использовал ли человек ИИ для предварительного исследования перед написанием текста. Система оценивает только итоговую структуру текста.
Бест даже добавил личное примечание к своим постам через этот инструмент: «Я пока разбираюсь во всех этих нововведениях. Но тем временем эти слова мои, хорошо это или плохо». Честное признание. Он стремится к прозрачности, даже если наука распознавания ИИ находится на ранней стадии.
Инструменты для авторов и писателей
Это не просто функция для читателей. Аваторы тоже получают новые возможности. Писатели могут добавить собственное заявление, объясняющее их процесс создания контента. Если вы использовали ИИ, укажите это. Если нет — тоже уточните. Это примечание появляется, когда кто-то запускает инструмент проверки на вашем материале.
Авторы обладают властью над метками. Если вы считаете, что Pangram ошибочно пометил вашу работу, вы можете самостоятельно запустить проверку и отправить отчет. Вы можете оспорить результат. Более того, вы можете полностью убрать флаг распознавания ИИ, отключив эту функцию для своего контента. Вы сами решаете, будет ли видна метка, независимо от того, что говорит алгоритм.
Как это работает «под капотом»? Pangram использует классификатор нейронных сетей, обученный отличать человеческие паттерны от машинных. Чтобы избежать предвзятости, модель обучали на текстах, написанных людьми и опубликованных до 2021 года — до того, как генеративный ИИ заполонил интернет. Это гарантирует, что база «человеческого» текста остается чистой. Исключение ИИ-сгенерированных образцов из данных для обучения предотвращает ложные срабатывания в будущем.
Более широкий контекст онлайн-писательства
Мы живем в момент, когда объем текстов, созданных ИИ, взрывообразно растет. Недавнее исследование маркетингового агентства Graphito утверждает, что количество онлайн-статей, написанных преимущественно ИИ, сравнялось с численностью текстов, созданных людьми. Ландшафтом стремительно меняется.
Несколько издательств подверглись критике за reliance на ИИ. Некоторые статьи были переполнены галлюцинациями и ошибками. Другие были подписаны вымышленными авторами, созданными ИИ. Это создает спираль замешательства. Читатели перестают понимать, кто является настоящим.
Substack предвидит это развитие событий. Они рассматривают возможность запуска дополнительных функций. Представьте, что вы сможете фильтровать ленту, показывая только контент, написанный людьми. Вы сможете настроить предпочтения для полного исключения ИИ. Бест говорит, что они прислушиваются к отзывам пользователей. Если вы стремитесь к чистоте, инструмент скоро даст вам такую возможность.
Но пока что вам придется приложить усилия. Нужно нажать на меню, запустить сканирование. Инструмент — это только начало. Он не идеален, это лишь сигнал в шуме. Поймает ли он всё? Вероятно, нет. Но он задает правильный вопрос: кто на самом деле разговаривает с вами? Ответ имеет значение.
