Modele folosite unde își merită locul, cu limite în jur
AI-ul e o componentă, nu un produs. Merită folosit acolo unde alternativa e un om care face ceva repetitiv, și merită evitat acolo unde o regulă deterministă e mai ieftină și nu greșește niciodată. Ingineria interesantă e la granița dintre cele două.
Detecție și OCR pe dispozitiv
Inferență care rulează pe mașină, nu într-un centru de date: fără dus-întors, fără cost per apel, și merge mai departe când conexiunea nu merge. Am livrat detecție și OCR sub 100 ms pe o placă proprie.
Funcții cu LLM și verificare umană
Modelul propune, un om aprobă, iar aprobarea e parte din flux, nu o politică pe care n-o respectă nimeni. Text generat pe care nu-l citește nimeni e mai rău decât lipsa lui.
Conținut generat, editat înainte de publicare
Descrieri de produs scrise pornind de la fișa tehnică, apoi editate. Sute de articole devin fezabile fără ca acel catalog să pară scris de o mașină — fiindcă tot un om a trecut prin el.
Limite deterministe în jurul modelului
Cod obișnuit ține granițele: ce poate cheltui modelul, ce poate schimba, și ce trebuie să confirme un om. Modelul nu e niciodată ultima verificare înaintea a ceva ireversibil.
Cataloage prea mari ca să fie scrise de mână
Sute de produse fără descrieri e un cost real. E și cazul în care schița plus editarea bat și scrisul de la zero, și publicarea nefiltrată.
Produse care trebuie să meargă fără rețea
Săli de vânzare, vehicule, situri industriale. Dacă norul e opțional, inferența trebuie să se întâmple local, ceea ce schimbă modelul pe care îl poți folosi și felul în care e construit.
Oricine nu e sigur că AI-ul își are locul aici
Uneori răspunsul onest e că o regulă ar face-o mai bine și mai ieftin. Preferăm să spunem asta înainte să te angajezi, nu după.
Începe cu discuția despre scop. Nu costă nimic și de obicei e un singur apel.