Модели там, где они себя окупают, и границы вокруг них
AI — это компонент, а не продукт. Его стоит применять там, где иначе человек делает что-то однообразное, и стоит избегать там, где детерминированное правило дешевле и никогда не ошибается. Интересная инженерия — на границе между этими двумя.
Детекция и OCR на устройстве
Инференс работает на машине, а не в дата-центре: без похода туда-обратно, без цены за вызов, и продолжает работать, когда связь не работает. Мы делали детекцию и OCR быстрее 100 мс на собственной плате.
Функции с LLM и проверкой человеком
Модель предлагает, человек утверждает, и утверждение — часть процесса, а не политика, которую никто не соблюдает. Сгенерированный текст, который никто не читает, хуже, чем его отсутствие.
Контент, отредактированный до публикации
Описания товаров по технической спецификации, потом отредактированные. Сотни позиций становятся посильными, а каталог не читается как написанный машиной, потому что через него всё же прошёл человек.
Детерминированные границы вокруг модели
Обычный код держит рамки: что модель может потратить, что может изменить и что должен подтвердить человек. Модель никогда не последняя проверка перед необратимым.
Каталогам, слишком большим для ручной работы
Сотни товаров без описаний — реальные затраты. И это тот случай, где черновик плюс правка выигрывают и у письма с нуля, и у публикации сырого вывода.
Продуктам, которые должны работать без сети
Торговые залы, транспорт, производственные площадки. Если облако необязательно, инференс должен быть локальным, а это меняет и модель, и способ сборки.
Тем, кто не уверен, нужен ли здесь AI вообще
Иногда честный ответ — что правило сделает это лучше и дешевле. Мы предпочтём сказать это до того, как вы вложились, а не после.
Начните с разговора об объёме. Он ничего не стоит и обычно укладывается в один созвон.