В этом году что-то пошло не так с победителями премии за короткую прозу Содружества наций. С 2012 года британский журнал Granta публикует эти региональные подборки. Но одна история выделилась из общей массы. «Змей в роще» Джамира Назира (Jamir Nazir) буквально кричала: «ИИ».
Это не просто ощущения. Были технические маркеры. Смешанные метафоры. Анафора. Списки из трех пунктов.
Я знаю, как это звучит подозрительно. Я только что перечислил три вещи. Клянусь, я набрал эти слова сам. Никаких роботов-помощников.
Раньше я скептически относился к волнам паранойи по поводу ИИ. Люди клялись, что тире — это верный признак. Они ненавидят слово «погрузиться» (delve). Они недоверяют коротким предложениям, следующим за длинными.
Но люди тоже так поступают.
Большие языковые модели (LLM) учатся у нас. Они отражают то, что мы им предлагаем. Если они используют тире и списки, это потому, что мы передали им эти паттерны.
Но текст, написанный ИИ, все равно кажется неестественным. Зловещим. Даже если вы не можете точно назвать, что именно не так.
Набиль С. Куреш (Nabeel S. Quresh) заметил это первым. Он бывший приглашенный научный сотрудник Университета Джорджа Мейсона. Для него первых строк было достаточно в качестве доказательства.
Говорят, что роща все еще гудит в полдень. Не от трудолюбия пчел и не от звука куттаса на ветру, а как будто бы низкий гул, словно земля проглотила крик.
«В целом у текста, написанного ИИ, есть особый ритм… существует спектр от “ИИ помог мне редактировать” до “ИИ написал это”… в данном случае текст читается как второй вариант».
Он подозревает полное генерирование текста. Однако он не уверен. Никто на самом деле не уверен.
Разми Фарук (Razmi Farook), глава Фонда Содружества наций, в своем заявлении полагается на доверие. Авторы присягнули, что их работы оригинальны. Никакой ИИ не заявлял себя автором.
Фарук признает, что в отрасли нет хорошего инструмента для обнаружения ИИ в непубликовавшихся ранее художественных текстах. Поэтому они доверяют писателям. Пока не появится более совершенная технология.
Granta попыталась проверить.
Издатель Сигрид Раузинг (Sigrid Rausing) сказала, что они загрузили историю Назира в Claude. Чат-бота. Они спросили его, является ли текст произведением ИИ.
Claude ответил: «Почти наверняка не создан без посторонней помощи».
Погодите.
Claude — это не детектор. Это LLM. Спрашивать генератор, было ли что-то сгенерировано генератором, — это все равно что спрашивать рыбу, мокрая ли вода. Granta, возможно, не понимает, что она купила.
«Возможно, судьи… присудили премию случаю плагиата».
Плагиата чего? Обучающей выборки?
Издания все чаще обманывают. Иногда «авторами» оказываются призраки. Фейки. Люди даже усомнились в существовании самого Джамира Назира. Кевин Джаред Хосейн (Kevin Jared Hosein) подтвердил, что Назир реален. Они поболтали об этом. Назир также опубликовал сборник стихов в 2018 году. Он отказался давать комментарии.
Hachette сняла с продажи роман ужасов Мии Боллард (Mia Ballard). Она отрицала использование ИИ, обвинив вместо этого нанятого редактора.
Так что же разрешено?
Генерация идей? Помощь в исследованиях? Расшифровка аудио с помощью ИИ? Где проходит граница?
Лауреат Нобелевской премии Олга Токарчук подверглась критике. Она призналась в использовании ИИ в своем творческом процессе.
«Милок, как мы могли бы красиво это изложить?»
Это был ее промпт (запрос).
Она знает, что технология галлюцинирует факты. Она признает наличие ошибок. Но в художественной литературе это дает рычаги влияния. Невероятные рычаги.
Она также скорбит об ушедших старых методах. Об изоляции. О месяцах, проведенных в одиночестве со своими мыслями.
«Мне больно от ухода традиционной литературы».
Ей не хватает Бальзака и Набокова. Она считает, что современная переписка не может сравниться с их стилем.
Токарчук позже прояснила свою позицию. Она не пишет книги с помощью ИИ. Она использует его для быстрой документации и проверки фактов. А затем проверяет факты самостоятельно.
Она даже черпает вдохновение во снах. Просто человеческих снах. Своих собственных.
Ее комментарии вызвали гнев. Люди впадали в паранойю. Издательский бизнес ненавидит потерю контроля.
Джеймс Донт (James Daunt), управляющий Barnes & Noble, сказал, что будет продавать книги, написанные ИИ. Но только если они будут четко обозначены. Как фейковые.
Он столкнулся с бойкотом. Он отступил. Но не полностью.
«Запрет книг — это опасность… мы не будем продавать книги ИИ, которые маскируются под произведения реальных авторов».
То есть фейковые книги от ИИ — это плохо. А реальные книги от ИИ с пометкой — нормально? Граница подвижна.
Это не объясняет странности.
Я пропустил историю Назира через программное обеспечение Pangram. 100% ИИ.
Pangram выдел了三 вещи:
1. Триадные конструкции
2. Слово «упрямый» (в 6 раз чаще встречается в текстах ИИ)
3. Фразу «словно бы» (as if it had)
Снова. Три пункта.
Я пропустил через Pangram собственные тексты. Неопубликованный черновик. Слабая проза.
Оно обнаружило триадные конструкции и в моем абзаце. Но программа назвала меня человеком.
Я попробовал снова с более хорошими отрывками. Тот же результат. Человек.
Кевин Нгуен (Kevin Nguyen) написал роман для The Verge. Его глава тоже показала 100% вероятность человеческой авторства.
Pangram определил, что победители премий 2024 и 2023 годов в Granta, вероятно, написаны ИИ. Но оно пропустило других?
Возможно, проза, написанная ИИ, — это как дурной тон. Вы это чувствуете. Но не можете измерить.
У человеческой работы есть неописуемое качество.
Как и у ее обратной стороны.
