การติดตั้ง Sovereign Infrastructure แบบแอร์แกป (Air-Gapped)

บริการนี้ออกแบบและติดตั้งสถาปัตยกรรมโมเดลภาษาขนาดใหญ่ (LLM) ในระบบปิดหรือแอร์แกป (Air-Gapped) สำหรับอุตสาหกรรมที่มีการควบคุมอย่างเข้มงวด โดยรองรับ Level 6: Sovereign (Total Risk Isolation) เพื่อลดความเสี่ยงจากการละเมิดกฎหมายการคุ้มครองข้อมูล ความมั่นคงของข้อมูลทางการค้า และการพึ่งพาผู้ให้บริการภายนอก การติดตั้งท่อส่งข้อมูลสืบค้นด้วยตัวเองช่วยให้มั่นใจได้ว่าข้อมูลสำคัญและความรู้ทางธุรกิจจะไม่รั่วไหลออกจากเครือข่ายความปลอดภัยขององค์กร

What This Service Delivers

ทีมวิศวกรของเราจะออกแบบและปรับตั้งค่าระบบโครงสร้างพื้นฐานที่เรียกว่า sovereign infrastructure deployment เพื่อให้สามารถรันระบบภายในสภาพแวดล้อมเครือข่ายที่มีความปลอดภัยทางกายภาพสูงขององค์กร บริการนี้รับประกันว่าธุรกิจสามารถใช้ประโยชน์จากความสามารถของโมเดลภาษาขั้นสูงได้โดยไม่จำเป็นต้องส่งผ่านข้อมูลอ่อนไหวออกไปสู่ภายนอก เราเน้นไปที่ Level 6: Sovereign (Total Risk Isolation) เพื่อปกป้องทรัพย์สินทางปัญญา ป้องกันการทำผิดกฎระเบียบข้อมูลส่วนบุคคล และป้องกันความผันผวนจากการปรับราคาใช้งาน API ของผู้ให้บริการระบบคลาวด์ภายนอก

ด้วยการติดตั้งโมเดลแบบโฮสต์เองโดยใช้ชุดข้อมูลน้ำหนักของโอเพนซอร์ส (เช่น Llama, Mistral หรือโมเดลเฉพาะทาง) บนฮาร์ดแวร์ภายใน (Bare-metal) หรือระบบคลาวด์เสมือนส่วนตัว (Private virtualized clouds) ลูกค้าจะได้รับอิสระและความเป็นอิสระในการดำเนินงานอย่างสมบูรณ์แบบเพื่อลดความเสี่ยงจากการขัดข้องของระบบและบริการภายนอก

Architecture & Implementation

การออกแบบสถาปัตยกรรมมุ่งเน้นไปที่การแยกเครือข่ายอย่างเด็ดขาด เราติดตั้งเครื่องยนต์รันโมเดลภายในคลัสเตอร์ Kubernetes ซึ่งทำงานอยู่บนสภาพแวดล้อมคลาวด์ส่วนตัวหรือเซิร์ฟเวอร์ในพื้นที่ขององค์กร

1. Inference Servers: โหนดประมวลผล GPU ความเร็วสูงที่รันเฟรมเวิร์กการทำงานที่ผ่านการปรับแต่งประสิทธิภาพ (เช่น vLLM หรือ TensorRT-LLM) สำหรับการประมวลผลในพื้นที่
2. Local Vector Databases: การสร้างและจัดเก็บเวกเตอร์เชิงลึก (Vector embeddings) ภายในพื้นที่เซิร์ฟเวอร์ผ่านเครื่องมือการทำงานประสิทธิภาพสูง (เช่น Qdrant หรือ Milvus) บนเครือข่ายย่อยเดียวกัน
3. Internal API Gateways: ส่วนต่อประสานปลายทางสำหรับโปรแกรมประยุกต์ภายใน (เช่น ระบบ ERP หรือระบบจัดการเอกสารภายในองค์กร) ผ่านเครือข่ายที่ปลอดภัยภายในพร้อมระบบปรับสมดุลภาระงานในพื้นที่

ซอฟต์แวร์ อิมเมจคอนเทนเนอร์ และค่าน้ำหนักโมเดลทั้งหมดจะถูกตรวจสอบ ลงชื่อรับรอง และนำเข้ามาติดตั้งผ่านสื่อบันทึกข้อมูลที่ปลอดภัยเพื่อป้องกันไม่ให้มีการดาวน์โหลดซอฟต์แวร์แพลตฟอร์มภายนอกขณะทำการติดตั้งหรือรันระบบ

Security Envelope

ระบบการรักษาความปลอดภัย (Security Envelope) กำหนดขอบเขตอย่างเข้มงวด: ไม่อนุญาตให้มีการเชื่อมต่อขาเข้าหรือขาออกไปยังอินเทอร์เน็ตภายนอกอย่างสิ้นเชิง ระบบทั้งหมดจะทำงานอยู่บนเครือข่ายท้องถิ่นแบบ Zero-trust

• Physical and Logical Isolation: ในโหมดแอร์แกป ฮาร์ดแวร์ทางกายภาพจะไม่มีการเชื่อมต่อกับเครือข่ายอินเทอร์เน็ตภายนอก สำหรับการติดตั้งบนคลาวด์ส่วนตัวจะถูกควบคุมด้วยไฟร์วอลล์ (VPC Firewalls) ที่ป้องกันการส่งออกข้อมูลภายนอกอย่างเคร่งครัด
• Data Flow Boundaries: ข้อมูล Telemetry Prompts ผลลัพธ์จากการรันโมเดล และบันทึกการทำงานของระบบ (Logs) ทั้งหมดจะถูกกักเก็บและจัดเก็บไว้ภายในระบบบันทึกข้อมูลท้องถิ่นเท่านั้น
• Access Auditing: มีระบบตรวจสอบความปลอดภัยสูงและกำหนดสิทธิ์ผู้เข้าใช้งานระบบอย่างเข้มงวด เพื่อให้มั่นใจได้ว่าผู้ได้รับอนุญาตเท่านั้นที่จะสามารถทำการอัปเดตระบบหรือตรวจสอบล็อกการเข้าถึงได้

Cost Structure

เพื่อการควบคุมงบประมาณ เราจัดสรรการติดตั้งสถาปัตยกรรมแบบ Sovereign ของเราภายใต้กรอบค่าใช้จ่ายคงที่เพื่อให้คาดการณ์งบประมาณได้ (Predictable Cost Envelopes)

• Architecture and Set-up: ค่าโครงการแบบคงที่ครั้งเดียว ครอบคลุมการเลือกสเปกฮาร์ดแวร์ การคัดเลือกโมเดล การสร้างสคริปต์สำหรับการติดตั้ง และการตรวจสอบความถูกต้องระบบ
• Maintenance & Audit Retainer: สัญญาดูแลรักษาระบบและตรวจสอบความปลอดภัยรายปีแบบคงที่สำหรับการอัปเกรดน้ำหนักโมเดลผ่านสื่อบันทึกข้อมูลที่ปลอดภัยและการแก้ปัญหาทางเทคนิคในพื้นที่

โครงสร้างราคานี้ช่วยป้องกันค่าใช้จ่ายแฝงจากการประมวลผลโทเค็น มอบความแน่นอนในการวางแผนงบประมาณระยะยาวขององค์กร

Progression to Next Level

แม้ว่า Level 6 จะแสดงถึงจุดสูงสุดของการจำกัดความเสี่ยงทางข้อมูล แต่ระบบยังจำเป็นต้องพึ่งพาข้อมูลการประมวลผลและการทำงานในพื้นที่เพื่อรักษาคุณภาพ การรวบรวมข้อมูล Telemetry ในระหว่างการใช้งานจะเป็นฐานข้อมูลชั้นดีสำหรับการทำ PEFT โดยการรวบรวมข้อมูลสืบค้นในโซนปลอดภัยจะช่วยให้สามารถนำไปปรับแต่งโมเดลในอนาคต (Level 4: Optimized (Model Alignment)) ทำให้เราสามารถทำกระบวนการปรับปรุงผลลัพธ์ (Quality-of-outcome Optimization) ได้โดยไม่กระทบต่อความมั่นคงปลอดภัยของข้อมูลองค์กร