„Show HN: „Įgytos autonomijos“ architektūra AI agentams naudojant Subjektyviąją logiką“

Santrauka lietuviškai

Šiame straipsnyje pristatoma AI agentų valdymo sistema, kurioje autonomija nėra dvejetainė (vykdyk/klausk leidimo), o progresyviai įgyjama pagal patikimumą konkrečiose užduočių kategorijose. Agentai pradeda „juodraščio“ režime (reikia patvirtinimo kiekvienam veiksmui), o vėliau, remiantis Beta skirstiniu ir Subjektyviąja logika, įgyja autonomiją atsižvelgiant į sėkmių ir nesėkmių istoriją bei neapibrėžtumo lygį. Sistema taip pat įtraukia redagavimo atstumo atsiliepimus, laiko pagrįstą patikimumo nykimą ir silpniausios grandies grandinėles, kad atspindėtų realų pasitikėjimo ugdymą tarp žmonių. Tai leidžia sumažinti per daug patvirtinimo prašymų, išlaikant žmogaus kontrolę kritinėse situacijose.