Перехід від корисного коректора граматики до універсального ІІ-агента – це шлях, усіяний юридичними та етичними мінами. Саме це сталося з компанією Grammarly (яка зараз проводить ребрендинг у Superhuman ) після скандального запуску та стрімкого закриття функції “Expert Review” (“Експертна перевірка”).
Те, що починалося як спроба надати вагу рекомендаціям ІІ, переросло в масштабну кризу, пов’язану з несанкціонованим використанням імен, некоректними посиланнями на джерела і колективним позовом, що насувається.
Зліт і падіння «Expert Review»
Прагнучи вийти за рамки простої перевірки орфографії, Grammarly запустила функцію під назвою Expert Review. Ідея була амбітною: ІІ мав пропонувати правки, «натхненні» світовими експертами, письменниками та вченими.
Щоб створити видимість авторитетності, інтерфейс відображав ці рекомендації поруч із іменами знаменитостей та значками, що імітують верифікацію профілю. Проте реалізація виявилася вкрай невдалою:
- Використання імен без дозволу: Функція використовувала імена журналістів, що нині живуть (включаючи співробітників The Verge ), знаменитих авторів на кшталт Стівена Кінга і навіть покійних учених, таких як Карл Саган — і все це без їхньої згоди або виплати компенсацій.
- Галюцинації замість авторитету: Замість реальних експертних порад ІІ найчастіше видавав безглуздий «словесний салат». В одному з випадків рада, яку приписує журналіст Ніла Патель, зводилася до банальної пропозиції додати в заголовки «терміновості» та «інтриги».
- Биті посилання та обхід пейволів: Хоча функція заявляла, що вона «натхненна» опублікованими роботами, надані посилання часто вели на неробочі сторінки або веб-архіви статей, закритих платним доступом, які не містили жодної корисної інформації для редагування.
Криза згоди та авторства
Виявлення цієї функції спровокувало спекотні суперечки про те, де проходить межу між цитуванням і присвоєнням.
Зіткнувшись із звинуваченнями, генеральний директор Superhuman Шишир Мехротра став на захист компанії, стверджуючи, що ІІ лише посилається на загальнодоступні роботи. Проте критики — включно з тими самими журналістами, чиї імена використовувалися — наполягали на фундаментальній різниці між коректним посиланням на джерело та «вигадкою», до якого просто приклеюють ім’я людини, щоб продати послугу.
«Це не було цитуванням, — заявив Нілай Патель під час дискусії у подкасті Decoder. — Ви просто щось вигадали і приписали мені це… Я б ніколи так не сказав».
Початкова реакція компанії — пропозиція експертам написати на електронну пошту, щоб «відмовитися від участі» — була різко критикована як вкрай недостатній захід для вирішення проблеми несанкціонованого використання професійної ідентичності. Під сильним тиском Superhuman у результаті повністю відключила функцію, пообіцявши «переосмислити» її та запровадити суворіший контроль для експертів.
Юридичні та культурні наслідки
Сага з “Expert Review” – це не просто провал у PR; справа перейшла до залів суду. Журналіст-розслідувач Джулія Енгвін подала колективний позов проти Superhuman, стверджуючи, що компанія порушила права на конфіденційність та публічність відповідно до законів Нью-Йорка та Каліфорнії.
Крім юридичних аспектів, цей інцидент підсвічує напругу, що росте, в епоху ІІ: експлуататорську природу генеративних моделей.
Тенденція очевидна: ІІ-компанії поглинають колосальні обсяги інтелектуальної власності людей, щоб створювати продукти, що імітують експертність тих самих людей, на чиїх даних вони «навчаються» — найчастіше без дозволу, згадування авторства чи компенсації. Це створює паразитичні відносини, коли працю творця використовується для побудови інструменту, який зрештою може з ним конкурувати.
Висновок
Скандал навколо Grammarly/Superhuman є застереженням для всієї індустрії ІІ. Він доводить, що додавання імені знаменитості до поради нейромережі не створює авторитету – воно створює юридичну відповідальність. Поки компанії змагаються у створенні «ІІ-агентів», індустрії доведеться вирішити: чи співпрацюватиме вона з експертами-людьми, чи продовжить намагатися автоматизувати їхні особи без їхньої на те згоди.
