Компанія з Торонто, Cohere, зробила справжній переворот, представивши Cohere Transcribe Arabic. Це рішення з відкритим вихідним кодом претендує на перше місце за точністю перетворення мови на текст для арабськомовних користувачів. І цифри це підтверджують.
Рев’юери – носії арабської мови – вибрали результат Cohere перед виходом Whisper у 95,8% випадків у прямих порівняльних тестах.
Це розгромна перемога. Модель містить 2 мільярди параметрів. На лідерборді Hugging Face її коефіцієнт помилки розпізнавання слів (WER) становить 25,88%. Рішення від Meta, OmniASR відстає з показником 28,32%. OpenAI Whisper Large v3 відстає ще сильніше – 36,86%. У Cohere кажуть, що їхня модель «розносить» конкурентів за всіма діалектами.
Проблема діалектів
Арабська мова складна для машин. Близько 30 мільйонів людей на Близькому Сході та в Північній Африці говорять на ньому. Але вони використовують не лише сучасну літературну арабську мову (MSA). Існує близько 30 діалектів, хоча єдина письмова норма лише одна.
Сучасні інструменти ІІ тут буксують. Вони часто зводять регіональне мовлення до стандартного MSA. Або «запинаються», коли той, хто говорить, переходить з арабської на англійську (code-switching). Це характерно для професійного середовища. Існуючі моделі спотворюють робочі терміни, такі як “HRIS” (система управління персоналом) або “annual leave” (щорічна відпустка). Модель Cohere зберігає їх незайманими. Вона враховує регіональні особливості фразування та справляється з хаосом реальної живої мови.
Чому це важливо? Великі сервісні провайдери хочуть взаємодіяти з користувачами рідною мовою, включаючи регіональні особливості. Обробка діалектів має комерційне значення. Існуючі інструменти не витримують цієї перевірки. Transcribe Arabic – витримує.
Що під капотом
Модель збудована на архітектурі попереднього випуску Cohere Transcribe від березня. Але вона працює швидше. Помітно швидше. Вона оптимізована під vLLM для використання у production-середовищі. Її коефіцієнт реальної швидкості обробки (RTFM) становить 525. У Whisper цей показник – 146, у OmniASR – 66.
Модель також запускається на споживчому обладнанні. Для локального виконання не потрібні хмарні послуги.
Показники з діалектів показують її сильні сторони:
- Перше місце по чотирьох із шести складових тестових наборів
- Підтримка діалектів MSA, єгипетського, близькосхідного (Галф), левантійського та магрібського
- Найбільший прогрес у розмовних сценаріях із множинними датасетами, таких як Casablanca
- вибір у 77,2% тестів проти вихідної моделі Cohere при роботі з англійською мовою з арабським акцентом
- Оцінка на рівні Whisper для англійської з акцентом у 52,6% випадків
Cohere пропонує ліцензію на Apache 2.0. Це означає, що розробники можуть створювати суверенні системи ІІ, не вимагаючи дозволу. Модель вже доступна на Hugging Face. Доступ також можливий через API Cohere (з лімітами запитів) або виділене платне розгортання Model Vault для безлімітного використання в production.
Зв’язки з Саудівською Аравією
Важливою є і своєчасність. Cohere анонсувала цей продукт паралельно із закриттям угоди з HUMAIN – національним агентством ІІ Саудівської Аравії. До цього часу HUMAIN будувала арабські можливості навколо моделі ALLaM. SDAIA запустила її у 2023 році як першу суверенну модель Королівства.
Нове партнерство змінює розстановку сил. Cohere та HUMAIN спільно розроблятимуть арабські моделі та спеціалізовані інструменти для корпоративного використання. Це перший важливий крок HUMAIN до співпраці з великим розробником LLM.
Cohere приносить серйозні ресурси. Вони залучили понад 1,6 млрд. доларів. Серед інвесторів – Nvidia, AMD, Salesforce, Oracle, Cisco. Підтримка таких легенд, як Джеффрі Хінтон та Фей-Фей Лі.
Чи вирішить це проблему мовного бар’єру відразу? Скоріш за все, ні. Поле широке, а діалекти глибокі. Але вперше за довгий час розпізнавання арабської мови може не посідати друге місце.
