Модели там, где они себя окупают, и границы вокруг них
AI — это компонент, а не продукт. Его стоит применять там, где иначе человек делает что-то однообразное, и стоит избегать там, где детерминированное правило дешевле и никогда не ошибается. Интересная инженерия — на границе между этими двумя.
Детекция и OCR на устройстве
Инференс работает на машине, а не в дата-центре: без похода туда-обратно, без цены за вызов, и продолжает работать, когда связь не работает. Мы делали детекцию и OCR быстрее 100 мс на собственной плате.
Функции с LLM и проверкой человеком
Модель предлагает, человек утверждает, и утверждение — часть процесса, а не политика, которую никто не соблюдает. Сгенерированный текст, который никто не читает, хуже, чем его отсутствие.
Контент, отредактированный до публикации
Описания товаров по технической спецификации, потом отредактированные. Сотни позиций становятся посильными, а каталог не читается как написанный машиной, потому что через него всё же прошёл человек.
Детерминированные границы вокруг модели
Обычный код держит рамки: что модель может потратить, что может изменить и что должен подтвердить человек. Модель никогда не последняя проверка перед необратимым.
Детекция и распознавание на устройстве
Подсчёт, сортировка или чтение этикеток и номеров прямо на машине, с частотой видео и без облачного счёта.
OCR документов и чеков
Сканы и фотографии превращаются в поля, которые система умеет использовать, а неуверенные случаи уходят человеку, а не угадываются.
Текст, написанный по вашим данным
Описания товаров, сводки и ответы, собранные по спецификации или по записи, затем отредактированные человеком до того, как их увидят снаружи.
Классификация и маршрутизация
Тикеты, сообщения и документы автоматически попадают в нужную очередь, а спорные — к человеку.
Поддержка исследования и решения
Модель читает те же входные данные, что и человек, и предлагает действие, а обычный код решает, что ей позволено с ним сделать.
Приватные модели на своём сервере
Llama, Mistral или похожие на вашем сервере — когда данные не могут покидать периметр или цена за вызов не сходится.
Каталогам, слишком большим для ручной работы
Сотни товаров без описаний — реальные затраты. И это тот случай, где черновик плюс правка выигрывают и у письма с нуля, и у публикации сырого вывода.
Продуктам, которые должны работать без сети
Торговые залы, транспорт, производственные площадки. Если облако необязательно, инференс должен быть локальным, а это меняет и модель, и способ сборки.
Тем, кто не уверен, нужен ли здесь AI вообще
Иногда честный ответ — что правило сделает это лучше и дешевле. Мы предпочтём сказать это до того, как вы вложились, а не после.
Ссылка рядом с группой означает, что она работает в продакшене в проекте, который можно прочитать. Остальное — то, что команда также покрывает.
Зрение на устройстве
В продакшене: Продукт компьютерного зрения с AI на устройстве
Модели на своём сервере
Вокруг модели
В продакшене: Исследовательский торговый бот на AI
Начните с разговора об объёме. Он ничего не стоит и обычно укладывается в один созвон.