Қысқаша
AI-қызметкерлер ұсыныс дайындайды; оны шешім қабылдауға құқығы бар адам қабылдайды. Әр өзгеріс қолданба өшіре алмайтын журналға жазылады, әр компанияның деректерін дерекқордың өзі оқшаулайды, ал бүкіл AI қабатын бірден тоқтатуға болады.
Толығырақ
Бұл бетте ниет емес, бақылау механикасы сипатталған: әр тұжырымның артында өнім коды мен оның тестері тұр.
AI-агент не істей алады және не істей алмайды
- Агент жоба дайындайды — жауап, бағалау, жіктеу немесе ұсыным. Ол оны қабылдауға құқығы бар адамның кезегіне түседі; оған дейін ешкімге салдары жоқ. Кодта ұсыныстың өздігінен орындалатын жолы жоқ.
Толығырақ
- Әр агенттің құралдар тізімі жабық: қандай деректерді оқитыны және қандай ұсыныс жасайтыны тізілімде белгіленген және әр іске қосуда тексеріледі. Тізімде жоқ аймақты агент дерекқорда болса да оқымайды.
- Жеткізілгенде әр агент өшірулі, бюджеті нөлге тең. Иесі бюджет тағайындап, агентті қосады — екі әрекет те құпиясөзді қайта енгізуді талап етеді және журналға жазылады. Шығын шегі іске қосудан кейін емес, бұрын тексеріледі.
Кім нені көреді және кім нені растайды
- Құқықтар — жабық тізілім: құқық жазылмайынша жоқ, ал қолжетімділікті тексеру әдепкі бойынша рұқсат бермейді.
- Қауіпті әрекеттер — қолжетімділікті өзгерту, агентті баптау, тоқтатуды алу — сессия ашық болса да құпиясөзді қайта енгізуді талап етеді.
- Өзгерістің авторы оны өзі келісе алмайды, өз құқығын көтеруден сервер бас тартады, ал ұйымның соңғы иесін алып тастауға болмайды.
Не жазылады және не өшірілмейді
- Әр өзгеріс журналға түседі: кім, не, қашан, қай жазбада және қандай нәтижемен. Бөлек тестер жиынтығы журналға жазылмайтын өзгертуші маршрут қалмағанын тексереді.
Толығырақ
- Қолданба журнал жазбаларын өшіре алмайды: құқықтар дерекқордың өзінде алынған, ал әрекетті триггер қабылдамайды. Бұл криптографиялық тізбек емес, құқықтар мен сақтық көшірме арқылы қорғау.
- Құпиясөздер, кілттер мен токендер журналға кірген кезде жасырылады, оқылғанда емес.
Бір компания басқасының деректерін көре ала ма
- Ұйымдар бойынша бөлуді компания деректері бар әр кестеде дерекқордың өзі мәжбүрлі қолданады: ұйым шартын ұмытқан сұраным да басқа компанияның деректерін көрмейді.
Толығырақ
- Бұл жобалар арасындағы емес, компаниялар арасындағы оқшаулау: бір компанияның ішінде деректердің бәрі бірдей жобалар бойынша бөлінбеген — келісу кезегі құрылымы бойынша бөлінбейді.
- Оқшаулауды қолданба рөлімен қосылып, басқа компанияның деректерін оқуға тырысатын тестер тексереді; олар деректердің әр түрі үшін бөлек жазылған.
Бірдеңе дұрыс болмаса
- Апаттық тоқтату бүкіл AI қабатын бірден тоқтатады — қай агенттің дұрыс істемейтінін анықтаудың қажеті жоқ. Оны тек саясаттарды басқару құқығы бар адам алып тастай алады, ал түсіндірмесі журналда қалады.
Толығырақ
- Шығын шектері, күндік өзгеріс шектері және келісу шектері бірдеңе болмай тұрып тексеріледі. Ешкім тағайындамаған шек әрекетті өткізбейді, бұғаттайды.
- Жіберілген хабарламаны қайтару мүмкін емес, сондықтан AI-қызметкер клиентке өзі жазбайды: жауапты қызметкер жібереді. Қызметкерсіз келушіге тек сайттағы чаттың расталған, сөзбе-сөз жауабы кетеді — егер ұйым оны қосса және автожауап саясатын екі адам бекітсе.
Толығырақ
Сол тақырыптар бойынша бес бет, әр тұжырымның негізімен:
Негіз: өнім құжаттамасы; рөлдер мен құқықтар моделі. Бет осы құрастырымда бар нәрсені сипаттайды, жоспарланғанды емес.