ระบบ Interaction Trace Capture & Operational Telemetry

บริการนี้ทำหน้าที่ออกแบบและฝังโปรแกรมบันทึกข้อมูลการทำงาน (Logging Engines) น้ำหนักเบาเข้ากับกระบวนการทำงานเดิมขององค์กรเพื่อรวบรวมชุดข้อมูลและร่องรอยการปฏิสัมพันธ์ (Interaction Traces) ที่มีมูลค่าสูง โดยรองรับ Level 3: Instrumented (Enterprise Telemetry) เพื่อลดความเสี่ยงจากการลงทุนใน AI ที่ไม่สามารถวัดผลลัพธ์ได้ ปัญหาข้อพิพาทด้านทรัพย์สินทางปัญญาจากการสร้างโมเดล และการขาดแคลนข้อมูลเฉพาะทางระดับโดเมนสำหรับการปรับแต่งโมเดล การติดตั้งระบบบันทึกพฤติกรรมข้อมูลในช่องทางติดต่อภายในช่วยให้องค์กรมีระบบตรวจสอบและมีสินทรัพย์ข้อมูลของตัวเองในการฝึกฝนโมเดลต่อไป

What This Service Delivers

ทีมวิศวกรของเราจะผสานตัวแทนบันทึกข้อมูล (Logging Agents) และมิดเดิลแวร์ (Middleware) เข้ากับชั้นแอปพลิเคชัน อินเทอร์เฟซผู้ใช้งาน และช่องทางเชื่อมต่อ API ภายในโดยตรง บริการนี้จะทำหน้าที่บันทึกข้อมูลการโต้ตอบอย่างละเอียดสูง รวมถึงคำสั่งผู้ใช้ (Prompts) ผลลัพธ์ของโมเดล ปริมาณการใช้โทเค็น และการประเมินย้อนกลับจากมนุษย์ เรามุ่งเป้าไปที่ Level 3: Instrumented (Enterprise Telemetry) เพื่อส่งมอบชุดข้อมูลเชิงปฏิบัติการ (operational telemetry) ที่จำเป็นสำหรับการวิเคราะห์ลักษณะการใช้งาน การสร้างร่องรอยตรวจสอบสิทธิ์ทรัพย์สินทางปัญญา (IP Traceability) และการตรวจสอบคุณภาพผลลัพธ์ของโมเดลที่ใช้งานทั้งภายนอกและภายใน

การสร้างฐานข้อมูลโครงสร้างสำหรับจัดเก็บข้อมูลเหล่านี้ช่วยให้ลูกค้าได้ครอบครองชุดข้อมูลการปฏิบัติงานจริง ลดการพึ่งพาข้อมูลสาธารณะหรือข้อมูลที่ไม่มีคุณภาพ ทำให้แน่ใจได้ว่าการอัปเดตโมเดลเฉพาะทางในอนาคตจะสอดคล้องกับพฤติกรรมการทำงานจริงขององค์กร

Architecture & Implementation

ระบบจัดเก็บข้อมูลบันทึกทำงานในรูปแบบของชั้นมิดเดิลแวร์แบบไม่ขัดจังหวะการทำงานหลัก (Asynchronous, Non-blocking Middleware) ซึ่งติดตั้งอยู่ควบคู่กับแอปพลิเคชันเซิร์ฟเวอร์ เพื่อการันตีว่าการจัดเก็บร่องรอยข้อมูลจะไม่สร้างความล่าช้าให้กับผู้ใช้งานทั่วไป

1. Instrumentation Agents: ตัวเชื่อมต่อ SDK น้ำหนักเบาเพื่อทำหน้าที่ดึงข้อมูลคำขอและการตอบกลับที่ชั้นแอปพลิเคชันเกตเวย์
2. Asynchronous Message Queue: ข้อมูลร่องรอยจะถูกส่งไปยังระบบคิวข้อความในพื้นที่ (เช่น Apache Kafka หรือ RabbitMQ) เพื่อนำไปประมวลผล
3. Structured Storage: ร่องรอยข้อมูลจะถูกจัดรูปแบบ ดำเนินการสร้างดัชนี และจัดเก็บในฐานข้อมูลส่วนกลาง (เช่น Elasticsearch หรือฐานข้อมูลจัดเก็บเทเลเมทรีโดยเฉพาะ)

แบบจำลองข้อมูลจะบันทึกคู่ข้อมูลคำขอและคำตอบ ค่าเมทาดาตาระหว่างการรันระบบ (เช่น เวอร์ชันโมเดล โครงสร้างเทมเพลต และค่าความหน่วง) และการประเมเป็นจากมนุษย์ (เช่น การกดถูกใจ/ไม่ถูกใจ การแก้ไข หรือการคัดลอกข้อความ) เพื่อสร้างฐานข้อมูลการดำเนินงานที่สมบูรณ์

Security Envelope

เนื่องจากข้อมูลบันทึกการทำงานเหล่านี้อาจมีข้อมูลเชิงลึกทางธุรกิจที่ละเอียดอ่อนหรือข้อมูลส่วนบุคคล ระบบการรักษาความปลอดภัย (Security Envelope) จึงถูกออกแบบมาเพื่อจำกัดการส่งผ่านข้อมูลเฉพาะเครือข่ายย่อยที่ได้รับอนุญาตเท่านั้น

• PII Redaction: ก่อนที่ข้อมูลร่องรอยการใช้งานจะหลุดออกจากเครื่องโฮสต์ ระบบจะใช้เครื่องมือคัดกรองส่วนตัวเพื่อลบข้อมูลส่วนบุคคล หมายเลขบัตรเครดิต หรือคีย์ระบบที่สำคัญออกโดยอัตโนมัติ
• Encryption at Rest and Transit: ข้อมูลบันทึกทั้งหมดจะถูกเข้ารหัสผ่านโปรโตคอล TLS ระหว่างส่งข้อมูล และใช้ระบบการเข้ารหัส AES-256 สำหรับข้อมูลที่จัดเก็บในดิสก์
• Access Control: พื้นที่เก็บข้อมูลบันทึกจะถูกแยกและป้องกันด้วยระบบการจำกัดสิทธิ์การเข้าใช้งานตามบทบาท (RBAC) เพื่อป้องกันไม่ให้นักพัฒนาหรือระบบอื่นเข้าถึงข้อมูลได้หากไม่ได้รับอนุญาต

Cost Structure

บริการจัดทำระบบเก็บบันทึกข้อมูลของเราดำเนินงานภายใต้กรอบค่าใช้จ่ายคงที่เพื่อให้คาดการณ์งบประมาณได้ (Predictable Cost Envelopes) โดยคิดราคาแบบคงที่เพื่อไม่ให้ลูกค้าเผชิญกับปัญหาราคาผันแปรตามขนาดของข้อมูลที่เพิ่มขึ้น

• Deployment and Configuration: ค่าธรรมเนียมโครงการแบบคงที่ ครอบคลุมการผสาน SDK การตั้งค่าระบบคิวข้อมูล และการจัดโครงสร้างพื้นที่จัดเก็บข้อมูล
• Flat-Rate Subscriptions: ค่าบำรุงรักษาและสนับสนุนระบบแบบรายเดือนหรือรายปีคงที่ ครอบคลุมการอัปเดตระบบตรวจสอบ ความมั่นคงปลอดภัย และประสิทธิภาพการทำงานของท่อส่งข้อมูล

โมเดลการคิดราคานี้ช่วยให้องค์กรสามารถสร้างชุดข้อมูลสำหรับใช้งานภายในขนาดใหญ่ได้โดยไม่ต้องรับภาระค่าบริการนำเข้าข้อมูลที่ผันผวนบนระบบคลาวด์

Progression to Next Level

การดำเนินการสร้างฐานข้อมูลบันทึกพฤติกรรมใน Level 3 นี้เป็นเงื่อนไขสำคัญโดยตรงสำหรับการขยับไปสู่ Level 4: Optimized (Model Alignment) โดยร่องรอยการใช้งาน เทมเพลตคำสั่ง และข้อมูลประเมินผลลัพธ์จากมนุษย์ที่ได้รวบรวมผ่านบริการนี้ จะได้รับการทำความสะอาดและจัดรูปแบบเพื่อนำไปทำเป็นชุดข้อมูลฝึกอบรมสำหรับการทำ Low-Rank Adaptation (LoRA) หรือการปรับแต่งโมเดลแบบเต็มประสิทธิภาพ ข้อมูลเหล่านี้จะช่วยให้โมเดลภาษาทำงานเฉพาะทางระดับองค์กรได้อย่างแม่นยำสูง และช่วยลดขนาดคำสั่งตอบกลับทำให้ประหยัดค่าโทเค็นได้ในที่สุด