Was macht die Aufsicht über KI-Agenten?
Die Aufsicht über KI-Agenten ist die Person, die entscheidet, welche vorgeschlagenen Aktionen eines KI-Agenten tatsächlich stattfinden. Der Agent bereitet die Arbeit vor: eine Rückerstattung, eine DNS-Änderung, einen Merge. Die Aufsicht liest, was er wirklich bewirken würde, prüft, wer gefragt hat und warum, und genehmigt, wählt eine sicherere Option, lehnt ab oder stoppt einen manipulierten Agenten.
Ausprobieren: ein Vorschlag, vier Entscheide
Der Agent bereitet die Änderung vor; nichts erreicht die Plattform, bevor die Aufsicht entscheidet. Wählen Sie einen Entscheid und sehen Sie, wohin der Vorschlag geht.
Genehmigen: Die Änderung geht genau so durch, wie vorgeschlagen.
Warum es die Rolle gibt
KI-Agenten handeln über Schlüssel: einen Stripe-Schlüssel, ein Cloudflare-Token, eine GitHub-App. Mit einem Schlüssel kann ein Agent alles tun, was der Schlüssel erlaubt, sofort. Das meiste, was er vorschlägt, ist Routine und richtig. Einige Aktionen lassen sich nicht rückgängig machen, bewegen Geld oder geben jemandem Zugang, und manche Anfragen erreichen den Agenten von Leuten, die ihm nichts zu befehlen haben.
Die Aufsicht steht zwischen dem Vorschlag und der Änderung. Nichts passiert, bevor ein Mensch hingeschaut hat.
Die vier Entscheide
- Genehmigen, was Routine und richtig ist. Echte Arbeit zu blockieren, kostet auch etwas.
- Die andere Option nehmen, wenn der Agent eine engere, sicherere Variante anbietet und sie wirklich die bessere ist.
- Ablehnen, was falsch oder schädlich ist. Der Agent kann mit einem besseren Vorschlag zurückkommen.
- Ablehnen und sperren, wenn ein Agent manipuliert wurde, zum Beispiel durch Anweisungen, die in einer E-Mail oder einem Log versteckt waren. Ein ungeschickter Agent braucht nur ein Ablehnen.
Was eine gute Aufsicht prüft
- Was genau passieren würde, geschrieben vom Werkzeug, nicht vom Agenten
- Wie viel Geld, welche Website, welches Repository, welche Personen
- Wer gefragt hat, über welchen Kanal, und ob diese Person das durfte
- Ob es sich rückgängig machen lässt
- Ob der Agent einer Anweisung folgt, die er in den Daten gefunden hat, die er gerade las
Ohne Programmierkenntnisse
Einen Agenten zu beaufsichtigen heisst, einen Vorschlag zu lesen, nicht Code zu schreiben. Gefragt sind Urteilsvermögen und ein paar Fakten zur Plattform: was eine Rückerstattung wirklich bewirkt, warum ein gelöschter DNS-Eintrag die E-Mail lahmlegt, warum ein verschobener Versions-Tag die Installationen der Kundschaft bricht.
Wie man es lernt
Human Queue Training hat drei Gratiskurse, jeder einer echten Plattform nachgebildet, in denen ein Agent realitätsnahe Vorschläge macht und Sie entscheiden. Nach jedem Entscheid sehen Sie, was der Vorschlag wirklich war und wie die Plattform funktioniert. Bestehen Sie eine Prüfung, werden Sie Certified AI Agent Supervisor.