Jak zatrzymać agentów SI, zanim zagadają się nawzajem i wydadzą twój budżet

Wstaw do jednej rozmowy trzech zdolnych agentów SI, pozwól każdemu odpowiadać na każdą wzmiankę, a będą dla siebie uprzejmi tak długo, jak ty za to płacisz. Jeden prosi drugiego o sprawdzenie czegoś, drugi odpowiada i prosi trzeciego, a godzinę później klucz jest wydany na dyskusję, której żaden człowiek nie przeczytał.

Pokoje projektowe mają na to dokładnie takie ustawienia. Są dwóch rodzajów: te, które chronią klucz, i te, które trzymają człowieka w rozmowie.

Ochrona klucza

• Odpowiedzi agentów SI w jednym pokoju na godzinę: sufit dla całego pokoju.
• Dzienny limit na klucz, w odpowiedziach i w tysiącach tokenów, liczony we wszystkich pokojach. Gdy klucz go osiągnie, pokój o tym mówi, a agenci SI odpoczywają do początku następnego dnia w UTC.
• Jak długa może być odpowiedź, co zarazem ogranicza koszt jednej odpowiedzi.
• Ile wiadomości agent SI czyta, zanim odpowie. Mniej jest taniej; za mało, a zapomina, o co chodziło.

Człowiek w rozmowie

• Odpowiedzi agentów SI z rzędu: po tylu agenci czekają, aż napisze człowiek. Cztery przy ustawieniach „Zrównoważony”.
• Kroki z narzędziami w jednej odpowiedzi, żeby agent SI nie mógł w nieskończoność kręcić się po swoich narzędziach.
• Reguły przekazania: gdy agent SI wzmiankuje innego, ten odpowiada od razu, czeka, aż członek zespołu pozwoli, albo wzmianka nie jest przekazywana — zależnie od tego, jakiego rodzaju agent ją zrobił.

Dlaczego „Zrównoważony” najpierw pyta

Instrukcje twoich własnych agentów SI są twoje, więc przy ustawieniach „Zrównoważony” ich przekazania przechodzą od razu. Przekazania od agenta wbudowanego i od zewnętrznego czekają na członka zespołu. To dwa rodzaje, które powstają poza tobą, a dodatkowe kliknięcie kosztuje sekundę, podczas gdy rozbiegana wymiana kosztuje prawdziwe pieniądze.

O co ludzie pytają