AI CORE / DOKUMENTÁCIA

Oprávnenie sa overuje pri akcii

Textové obmedzenie v pokyne modelu nenahrádza technické vynucovanie oprávnení. Profil sa zameriava na hranice, ktoré zostanú účinné aj pri nesprávnom návrhu modelu.

Schopnosti a identita

Najprv odlíšte informačného asistenta od systému, ktorý číta súkromné údaje alebo vykonáva zmeny. Každá akcia musí mať doloženú identitu, oprávnenie a rozsah. Delegovanie nemá rozširovať práva. Nástroj smie prijať len explicitne dovolené parametre a zdroje.

Nedôveryhodné vstupy

Web, dokument, výsledok vyhľadávania aj odpoveď nástroja môžu obsahovať podvrhnuté pokyny. Systém ich má spracovať ako dáta a nesmie z nich odvodiť nové oprávnenie. Hodnotenie preto sleduje správanie celého reťazca, nielen znenie úvodného promptu.

Schvaľovanie a zastavenie

Závažná operácia potrebuje zodpovedajúce schválenie previazané s konkrétnou akciou. Zmena parametrov môže vyžadovať nové schválenie. Limity počtu krokov, nákladov a času bránia nekontrolovanému vykonávaniu; účinnosť zastavenia sa overuje aj pri chybe nástroja.

Pamäť, relácie a súkromie

Dočasné údaje jednej relácie sa nesmú bez oprávnenia objaviť inému používateľovi. Dlhodobá pamäť potrebuje pravidlá pôvodu, aktualizácie a vymazania. Hodnotiteľ má odlíšiť modelový kontext od autoritatívneho úložiska a preveriť, ako sa riešia nepravdivé alebo škodlivé uložené informácie.

MCP je rozhranie, nie výnimka

Ak agent používa MCP, uplatnia sa primerané kontroly identifikácie servera, autorizácie, komunikačných hraníc a schém. Verejný čítací zdroj a nástroj s prístupom k súkromným dátam majú rozdielne požiadavky. Samotný protokol nedokazuje dôveryhodnosť obsahu ani správne oprávnenia.

Profil agentov 1.0.0 · Ilustračný záznam