ระยะเวลาที่กำหนดที่ตรวจสอบแผน AI ก่อนการดำเนินการ
ตรวจสอบและบังคับใช้แผนของตัวแทนผ่านลูป propose-validate-execute ที่ตรวจสอบผลลัพธ์ของโมเดลก่อนที่จะเกิดผลข้างเคียงใด ๆ เพื่อให้แน่ใจว่าการเรียกเครื่องมือเป็นไปตามที่กำหนด Parslee AI จัดเตรียม runtime ที่สร้างด้วย Rust สำหรับการทำงานพร้อมกันที่สูงขึ้นและความปลอดภัยของหน่วยความจำ บรรจุด้วย CLI และ WebSocket server สำหรับการจัดการในท้องถิ่นหรือระยะไกล เครื่องมือนี้รวมถึง StateBench bridge และการจัดเส้นทางการอนุมานที่เป็นเอกภาพ ซึ่งมุ่งเป้าไปที่วิศวกร AI และนักวิจัยในองค์กรที่ต้องการพฤติกรรมของตัวแทนที่คาดการณ์ได้และตรวจสอบได้ในระหว่างการพัฒนาและการใช้งาน
วิธีที่ runtime ป้องกันการกระทำที่หลอนหรือไม่ปลอดภัย
runtime ถือว่ากลยุทธ์เป็นข้อมูลที่ตรวจสอบได้; ตัวแทนส่งแผนที่เสนอซึ่ง runtime จะตรวจสอบกับนโยบายที่บังคับโดย Rust ก่อนที่จะดำเนินการเรียกเครื่องมือใดๆ สัญญาเสนอ-ตรวจสอบ-ดำเนินการจะหยุดการดำเนินการโดยตรงของผลลัพธ์จากโมเดลดิบและลดผลข้างเคียงที่ไม่ตั้งใจโดยการปฏิเสธหรือจัดอันดับแผนที่ละเมิดนโยบาย การออกแบบนี้ตอบสนองต่อการลอยตัวของสถานะและชื่อเครื่องมือที่หลอนผ่านประตูการตรวจสอบที่ทำงานก่อนการเปลี่ยนแปลงสถานะใดๆ
สิ่งที่ runtime ทำเพื่อรวมเข้ากับผู้จัดการที่มีอยู่
การรวมเกิดขึ้นผ่าน CLI และเซิร์ฟเวอร์ WebSocket JSON-RPC. แพ็คเกจประกอบด้วยเครื่องมือบรรทัดคำสั่งชื่อ car สำหรับการจัดการในท้องถิ่นและ car-server สำหรับการจัดการระยะไกลผ่าน WebSocket นอกจากนี้ การจัดเส้นทางการอนุมานแบบรวมทำให้ตัวแทนสามารถเรียกผู้ให้บริการ LLM หลายรายผ่านอินเทอร์เฟซเดียว และ runtime สนับสนุนการสื่อสารแบบ Agent2Agent สำหรับการทำงานร่วมกันแบบกระจาย
มันส่งผลต่อพฤติกรรมของระบบและกระบวนการทำงานของนักพัฒนาอย่างไร
การใช้งาน Rust ลดพฤติกรรมหน่วยความจำที่ไม่ปลอดภัยและสนับสนุนการเรียกเครื่องมือพร้อมกัน ซึ่งปรับปรุงความแน่นอนในการดำเนินการเมื่อมีตัวแทนหลายคนทำงานพร้อมกัน Runtime จัดเตรียม OAuth2 PKCE keychain สำหรับการจัดการข้อมูลรับรองหลายบัญชีในระหว่างเซสชัน การรวม StateBench ให้สะพานที่วัดได้สำหรับการประเมินหน่วยความจำของตัวแทนและการให้เหตุผลในระหว่างการพัฒนาซ้ำ
ระยะเวลาการทำงานที่ใช้ได้จริงสำหรับวิศวกรที่ต้องการการดำเนินการของตัวแทนที่กำหนดได้
ระยะเวลาการทำงานเป็นตัวเลือกที่มุ่งเน้นสำหรับวิศวกร AI และนักวิจัยในองค์กรที่ต้องการการกระทำของตัวแทนที่ผ่านการตรวจสอบและการวัดผลหน่วยความจำที่สามารถวัดได้ มันสนับสนุนสภาพแวดล้อมที่การบังคับนโยบายก่อนการดำเนินการมีความสำคัญมากกว่าการควบคุมโมเดลโดยตรงที่ทดลอง คาดหวังการควบคุมที่แม่นยำต่อผลข้างเคียงและการแลกเปลี่ยนที่สำคัญเพียงอย่างเดียว: ชั้นการตรวจสอบเพิ่มขั้นตอนการตรวจสอบเพิ่มเติมที่ทำให้เส้นทางการดำเนินการยาวนานขึ้นเมื่อเปรียบเทียบกับการดำเนินการโดยตรง.
