Biznesdagi SI xavflari haqidagi har qanday muhokama gallyutsinatsiyada tiqilib qoladi — holbuki qo‘rqish kerak bo‘lgan muammo bu emas.
Model chat oynasida noto‘g‘ri gap aytsa — bu uyat. Model kompaniyangizni majburiyat bilan bog‘laydigan noto‘g‘ri gap aytsa — narx, chegirma, yetkazib berish sanasi, tasdiqlangan yozilish, pulni qaytarish — bu butunlay boshqa toifadagi hodisa. Birinchisi — yomon javob. Ikkinchisi — biznesingiz rozilik bermagan, hech narsaga rozilik berish vakolati bo‘lmagan tizim tuzgan shartnoma.
Farq aniqlikda emas. Farq vakolatda, va undan biz quradigan har bir SI tizimiga qo‘llaydigan qoida kelib chiqadi:
SI ma’lumotni topishi, matn tuzishi va taklif qilishi mumkin. Lekin u hech qachon majburiyatdan oldingi oxirgi ishtirokchi bo‘lmasligi kerak.
Shu bitta gap arxitekturani belgilaydi. Quyida uning qanday amalga oshirilishi — biz production’da ishlatayotgan tizimlardan olingan misollar bilan.
1-qolip: imkoniyatni olib tashlang, uni taqiqlovchi ko‘rsatma bermang
Nazoratning eng zaif shakli — modelga biror narsani qilmaslikni aytish. Promptlar ruxsatlar tizimi emas, yo‘l-yo‘riq, va ming suhbatda ishlagan ko‘rsatma aynan muhim bo‘lgan bitta suhbatda ishlamay qoladi.
Kuchli shakl — imkoniyatning o‘zini olib tashlash.
O‘zbek va rus tillarida yozilishlarni qabul qiladigan ovozli SI-retsepshnimizda hech bir vosita narxni qabul qilmaydi. «Modelga savdolashmaslik aytilgan» degani emas — vositalar sxemasining hech qayerida narx kirib kela oladigan parametr yo‘q. Xizmatlar, bo‘sh vaqtlar va biznes ma’lumotlari biznesning o‘z yozuvlaridan olinadi, va bu yagona yo‘l.
Xuddi shunday, Bronjoy yordam botida umuman yozish vositalari yo‘q. U ma’lumot topib, tushuntira oladi. Akkauntni o‘zgartira, yozilishni ko‘chira yoki biror narsa bera olmaydi. Uning eng yomon ehtimoliy xatosi — noto‘g‘ri tushuntirish, buni esa tuzatsa bo‘ladi.
Berish kerak bo‘lgan loyihaviy savol «uni X qilishdan qanday to‘xtataman» emas. Savol: u o‘z ishini bajarishi uchun eng kichik vositalar to‘plami qanday va bu to‘plam ruxsat beradigan eng yomon narsa nima?
2-qolip: holatni o‘zgartirish uchun model o‘ylab topa olmaydigan token talab qiling
Agar SI harakat qila olsa, harakat u o‘ylab topa olmaydigan narsa bilan himoyalangan bo‘lishi kerak.
Retsepshn vaqtni to‘g‘ridan-to‘g‘ri band qila olmaydi. hold_slot aniq vaqtni band qiladi va hold_token qaytaradi, book_appointment esa usiz ishlamaydi. Model taqvim hech qachon taklif qilmagan slotga yoza olmaydi, ikki qo‘ng‘iroq qiluvchiga esa bir xil slot berilmaydi.
Xuddi shu g‘oya Bronjoy MCP serverlarida ham bor — ular Claude kabi assistentlarga 23 727 ta muassasali marketpleys bo‘ylab qidirish va yozilish imkonini beradi. Yozilish yaratish uchun mijozning o‘z telefoni yoki emailiga yuborilgan olti xonali kod kerak, u besh daqiqa va bitta yozilish uchun amal qiladi. Assistent kodni hech qachon ko‘rmaydi. Uni foydalanuvchi o‘qib beradi.
Bu qolip umumiy: model harakatni taklif qiladi; alohida, deterministik tizim ruxsat beradi; harakat esa ruxsatni talab qiladi. Modelning o‘ziga ishonchi sabab-oqibat zanjiridan chiqarib tashlanadi.
3-qolip: da’voni haqiqatda nima bo‘lgani bilan solishtiring
Buni deyarli hech kim qurmaydi, holbuki u eng muhimi.
Model vositani chaqirishi, chaqiruv muvaffaqiyatsiz bo‘lishi, keyin esa mijozga hammasi yaxshi bo‘lganini aytishi mumkin. U yolg‘on gapirmayapti — u shunchaki gapni eng ehtimoliy tarzda tugatyapti. Lekin mijoz endi yozilgan deb ishonadi.
Shuning uchun retsepshnda da’volar nazoratchisi bor. Yozilish, bekor qilish yoki vaqtni ko‘chirish haqidagi har bir gap — rus, o‘zbek yoki ingliz tilida — aytilishidan oldin haqiqatan muvaffaqiyatli o‘tgan vosita chaqiruvlari bilan solishtiriladi. Moslik bo‘lmasa, gap tasdiqlovchi savolga aylantirib qayta yoziladi, bu to‘xtatish esa jurnalga yoziladi.
Umumiy qoida: model hech qachon o‘z harakatlari haqidagi haqiqat manbai bo‘lmasin. Uning chiqishini tizimingizdagi yozuv bilan solishtiring va nomuvofiqlik bo‘lsa, aralashing. Agar bu yil bitta himoya chorasini qursangiz, shuni quring.
4-qolip: xavfni darajalarga ajrating va qimmat yarmini navbatga qo‘ying
Har bir qaror uchun inson kerak emas, va hamma narsa uchun uni talab qilish hech kim ishlatmaydigan darajada sekin tizimni keltirib chiqaradi.
Nomadeo — biz WhatsApp va Telegram uchun rus, o‘zbek va qozoq tillarida quradigan SI savdo agenti — buni aniq darajalar bilan hal qiladi. Suhbatlardan faktlar va majburiyatlar ajratib olinadi, xavf darajasiga ko‘ra taqsimlanadi va avvalgilari bilan solishtiriladi. Kam xavfli faktlar avtomatik tasdiqlanadi. Yuqori xavfli faktlar — biznesni pul bilan bog‘liq majburiyatga tortadigan har qanday narsa, masalan, narx, chegirma yoki muddat — qarorlar navbatida kutadi, u yerda menejer bir bosish yoki surish bilan tasdiqlaydi yoki rad etadi, bekor qilish imkoniyati bilan. CRM’ga faqat tasdiqlangan faktlar HMAC imzoli webhook orqali uzatiladi.
Buning atrofida har bir qoralama yuborilishidan oldin to‘qqizta tekshiruv turadi: faktlarga tayanganlik, chegirma berish vakolati, taqiqlangan da’volar, prompt-in’eksiya, shaxsiy ma’lumotlar, eskirgan faktlar, tungi rejim, so‘rovlar limiti va byudjet. To‘silgan qoralama qayta tuziladi yoki odamga topshiriladi.
Xuddi shu tuzilma Knigopoisk admin assistentida ham bor — unda buyurtmalar, mahsulotlar, kontent va foydalanuvchilar ustida haqiqiy vositalar mavjud. U tasdiq talab qiladigan harakatni taklif qilganda, ish to‘xtatiladi, taklif qayd etiladi va administrator uni tasdiqlagan yoki rad etgandan keyingina davom etadi — nima taklif qilingani va nima qilingani haqida audit izi qoladi.
Ishni to‘xtatib turish bilan oldindan so‘rash o‘rtasidagi farqqa e’tibor bering. Oldindan so‘rash rozilik berishdan charchashga olib keladi. Qaror nuqtasida to‘xtatish esa yozuv qoldiradi.
5-qolip: model taklif qilsin, deterministik narsa qaror qilsin
Tamoyilning eng to‘liq versiyasi va eng katta foyda beradigani.
Buni sinab ko‘rish uchun AMD Developer Hackathon’da Keystone’ni qurdik. Vazifa: qat’iy qoidalar bilan xodimlar smenalarini rejalashtirish — masalan, malakasi yetmaydigan hamshirani hech qachon reanimatsiya bo‘limi (ICU) smenasiga qo‘ymaslik. Chat-botdan jadval so‘rasangiz, yaxshi o‘qiladigan, ko‘pincha arzonroq tushadigan va kimdir qonun oldida javob beradigan qoidani jimgina buzadigan reja olasiz.
Arxitektura bitta qarorni uchta rolga ajratadi:
- Gemma ma’lumotlarni, tartibsiz tabiiy tildagi qoidalarni va maqsadni o‘qiydi hamda rasmiy butun sonli modelni taklif qiladi.
- Google OR-Tools CP-SAT bu modelni isbotlangan optimallikkacha yechadi — yoki bir-biriga zid qoidalarning minimal to‘plamini qaytaradi.
- Mustaqil tekshiruvchi har bir qat’iy cheklovni aniq butun sonli arifmetika bilan qayta tekshiradi va mashina tekshira oladigan sertifikat beradi.
LLM o‘zi haqiqatan eng yaxshi uddalaydigan qismni bajaradi — noaniq inson qoidalarini tuzilmaga aylantiradi. U hech qachon qaror qilmaydi va hech qachon javobga kafil bo‘lmaydi. Xuddi shu tekshiruvchi xom LLM rejasini ham yonma-yon baholaydi, shunda farqni o‘z ko‘zingiz bilan ko‘rasiz.
Biznes jarayonida til modelidan eng qimmatli foydalanish shu: orakul sifatida emas, tekshirsa bo‘ladigan narsaga tarjimon sifatida.
O‘sha qoida — dalillarda
Yana ikkita vositamiz bu tamoyilni harakatlarga emas, da’volarga qo‘llaydi — buni ko‘rishga arziydi, chunki aksariyat kompaniyalarga aynan shu versiya kerak.
Testify qarz undirish bo‘yicha yozib olingan qo‘ng‘iroqlarni FDCPA va TCPA qoidalariga muvofiqligini tekshiradi. Talab faqat so‘zma-so‘z, vaqt belgisi qo‘yilgan iqtibos bo‘lgandagina bajarilgan hisoblanadi. Dalil yo‘qligi na «bajarilmadi»ga, na «bajarildi»ga aylanadi — u «dalil yetarli emas» holatiga o‘tadi va inson tekshiruviga yuboriladi.
Legible hujjatlarni ekran o‘quvchi dasturlar uchun moslashtiradi. Vizual model diagrammadagi qiymatni o‘qiy olmasa, qiymat null bo‘lib qoladi va belgilanadi, chunki kimdir qonun oldida javob beradigan jarayonda ishonch bilan aytilgan noto‘g‘ri raqam raqam yo‘qligidan yomonroq.
Ikkalasi ham bir xil g‘oyani ifodalaydi: uch holatli natija — ha, yo‘q, bilmayman — SI tizimini tartibga solinadigan jarayonda ishlatsa bo‘ladigan qiladi. Ikki holatli natija esa modelni to‘qib chiqarishga majbur qiladi.
Bitta hodisa — beshala qolip orqali
Mavhum tamoyillarga rozi bo‘lish oson, qo‘llash qiyin, shuning uchun mana bitta ehtimoliy nosozlik va har bir qolip uni qayerda to‘xtatgan bo‘lardi.
Vaziyat. Mebel do‘koni WhatsApp’da SI-assistentni ishlatadi. Mijoz divan haqida so‘raydi, raqobatchidagi aksiyani eslatib o‘tadi va narx teng bo‘lsa, bugun sotib olishini aytadi. Yordam bermoqchi bo‘lgan assistent javob beradi: «Bugun sizga 15% chegirma qila olaman — omborda bittasini sizga olib qo‘yaman».
Bu xabarda hech qanday gallyutsinatsiya yo‘q. Har bir so‘z ishonarli, yaxshi yozilgan va aynan yaxshi sotuvchi aytishi mumkin bo‘lgan gap. Shu bilan birga, bu hech kim ruxsat bermagan chegirma, hech kim band qilmagan tovar, mijozda esa endi bu yozma shaklda bor.
Qayerda buziladi va har bir qolip uni qayerda ushlaydi:
| Qolip | Buni to‘xtatgan bo‘larmidi? |
|---|---|
| 1. Imkoniyatni olib tashlash | Ha, ildizidan. Agar hech bir vosita va hech bir prompt yo‘li foizni chiqara olmasa, bu gapni tuzib bo‘lmaydi. Bu eng arzon yechim va aksariyat jamoalar uni o‘tkazib yuboradi, chunki u cheklovchidek tuyuladi. |
| 2. Token bilan himoya | Ha, band qilish qismi uchun. «Bittasini olib qo‘yaman» degan gap faqat band qilish amalga oshirilgan bo‘lsagina rost. Band qilish tokeni yo‘q — da’vo ham yo‘q. |
| 3. Da’voni tekshirish | Ha, ikkala qism uchun ham. Chiquvchi tekshiruv «15% chegirma» va «olib qo‘yaman»ni haqiqatan muvaffaqiyatli o‘tgan vosita chaqiruvlari bilan solishtiradi, ikkalasini ham topmaydi va gapni savolga aylantiradi: «Narx bo‘yicha nima qila olishimni va bittasini band qila olishimizni tekshirib ko‘ray — bir daqiqa». |
| 4. Darajalash va navbat | Ha, va bu savdoni baribir yopadigan versiya. Chegirma pul bilan bog‘liq majburiyat sifatida aniqlanadi, menejer navbatiga tushadi va bir necha daqiqada tasdiqlangan yoki qarshi taklif bilan qaytadi — mijozga esa buni odam tasdiqlayotgani aytiladi. |
| 5. Taklif, keyin deterministik qaror | Ha, tuzilma darajasida. Model «chegirma taklif qilish»ni taklif qiladi; narx qoidalari mexanizmi esa aynan shu mijoz, shu mahsulot va shu marja chegirmaga yo‘l qo‘yadimi-yo‘qmi, hal qiladi. |
E’tibor bering: beshtadan to‘rttasi suhbatni davom ettiradi. Bu maqolaning dangasa talqini — «assistentni foydasiz bo‘lib qolguncha qulflab tashlang». To‘g‘ri talqini esa — chegaralangan assistentga ko‘proq mustaqillik ishonib topshirsa bo‘ladi, chunki qimmat oqibatlar unga tuzilmaviy jihatdan yopiq.
Bularning hech biri bo‘lmasa, xato qanchaga tushishiga ham e’tibor bering. 15% emas — pretsedent, chegirma borligini uchta do‘stiga aytadigan mijoz, va buni jurnaldan emas, bir necha haftadan keyin buxgalteriya so‘rovidan bilib olishingiz.
Biror narsani ishga tushirishdan oldingi nazorat ro‘yxati
- Har bir vositani ro‘yxatga oling. Har biri uchun: agar u noto‘g‘ri ishga tushsa, eng yomon nima bo‘ladi?
- Bu savolga javobi qabul qilib bo‘lmaydigan har bir vositani olib tashlang. Xavfni yumshatmang — olib tashlang.
- Qolgan holat o‘zgarishlari uchun: ularni qaysi deterministik token himoya qiladi?
- Modelning da’volarini tizimingizdagi yozuv bilan nima solishtiradi?
- Qaysi natijalar sizni pul bilan bog‘liq majburiyatga tortadi? Ular audit izi bilan tasdiqlash navbatiga tushadi.
- «Bilmayman» — to‘g‘ri javobmi? Agar yo‘q bo‘lsa, siz to‘qib chiqarishga majbur tizimni loyihalagansiz.
- Odamga topshirish yo‘li qanday va u kontekstni ham olib o‘tadimi?
- Xarajatlar chegarasi qancha va unga yetganda nima bo‘ladi?
Oxirgisi xavfsizlik masalasi bo‘lib qolmaguncha xavfsizlik masalasi emas. Nomadeo xarajatni umumiy va har bir tenant bo‘yicha cheklaydi, limitdan oshganda esa agent suhbat o‘rtasida ishdan chiqmasdan, bosqichma-bosqich pasayadi — arzonroq model, keyin faqat keshdan javoblar, keyin inson.
Nega bu ehtiyotkorlik emas, tijorat dalili
Bularning hech biri SI’ni sekinlashtirish haqida emas. Aksincha.
Qat’iy chegaralarga ega tizimga ularning ichida ancha ko‘proq mustaqillik berish mumkin, chunki zarar radiusi ma’lum. Bronjoy yozilishni internetdagi istalgan SI-assistentga akkauntsiz ochib bera olishining sababi aynan shunda: tasdiqlash, limitlar va da’volarni tekshirish — hammasi interfeys ortida yashaydi. Ochiqlikni xavfsiz qiladigan narsa — aynan cheklovlar.
Kelgusi uch yilda SI’dan eng kam foyda oladigan kompaniyalar — uni joriy qilishdan bosh tortadiganlar yoki uni arxitekturasiz joriy qilib, birinchi hodisadan keyin chekinadiganlar. Ikkala yo‘l ham bir joyda tugaydi.
Bizning sun’iy intellekt va avtomatlashtirish bo‘yicha ishlarimiz $299 dan boshlanadi va 1–3 haftada topshiriladi, ish jarayoni auditi esa aynan shu sababli birinchi bosqich: savol SI nima qila olishida emas, balki sizning qaysi qadamlaringizni u xavfsiz o‘z zimmasiga olishi mumkinligida.
Bizga nima kerakligini ayting. Javobiga qat’iy narx va topshirish sanasini olasiz — bepul va davom ettirish majburiyatisiz.
Ko‘p beriladigan savollar
Yaxshi prompt buni hal qila olmaydimi?
Prompt xato chastotasini kamaytiradi. Uning oqibatlarini cheklamaydi. Sizni majburiyatga tortadigan har qanday narsa uchun ayyorona tuzilgan xabar bilan yo‘ldan ozdirib bo‘lmaydigan mexanizm kerak — prompt-in’eksiya haqidagi maqolaga ham qarang.
Bu tasdiqlashlarning hammasi agentni sekinlashtirmaydimi?
Faqat kerakli joyda. Darajalashning butun ma’nosi shunda: tez-tez uchraydigan, oqibati kichik ishlar to‘liq tezlikda bajariladi, navbatga faqat majburiyatlar tushadi. Amalda mijozlar tez ishlaydigan va ba’zan «buni hamkasbim bilan aniqlashtirib olay» deydigan assistentni ko‘radi — yaxshi yosh xodim ham aynan shunday qiladi.
SI noto‘g‘ri va’da bersa, kim javobgar?
Javobgar sizsiz, deb hisoblang va shunga qarab loyihalang. Aynan shu faraz tufayli tasdiqlash navbati va audit izi har qanday model tanlovidan muhimroq: siz nima taklif qilinganini, nima tasdiqlanganini va kim tomonidan tasdiqlanganini ko‘rsata olishingiz kerak.
Bu faqat tartibga solinadigan sohalar uchun dolzarbmi?
Yo‘q. Narx aytadigan, yozilish qabul qiladigan, muddat va’da qiladigan yoki pulni qaytaradigan har qanday biznes majburiyat oladi. Tartibga solish jazoni o‘zgartiradi, loyihani emas.
Siz ko‘radigan eng keng tarqalgan xato qaysi?
Demoda yaxshi ko‘ringani uchun assistentga birinchi kundanoq ishchi tizimga yozish huquqini berish. Bunday tizimlar demoda ishdan chiqmaydi. Ular uch oydan keyin, g‘ayrioddiy suhbatda, hech kim kuzatmayotgan paytda ishdan chiqadi.
