Case Study: Cách chuỗi nha khoa thẩm mỹ tiết kiệm 15.000 USD/tháng chi phí API nhờ AI Agent điều phối đa mô hình (Multi-LLM Routing)

Case Study: How a Dental Chain Saved $15,000/Month in API Costs Using a Multi-LLM Routing AI Agent

Chẩn đoán rủi ro: Khi AI "ngốn" tiền hơn cả nhân sự vận hành Hào hứng ứng dụng AI để tự động hóa khâu chăm sóc khách hàng và phân...

Risk Diagnosis: When AI Costs More Than Human Operations Excited to implement AI to automate customer service and post-treatment feedback, a dental chain with 20 clinics quickly fell into a...

import re

def mask_pii(text):
    # Mã hóa số điện thoại của khách hàng để bảo mật
    return re.sub(r'\d{10}', '[MASKED_PHONE]', text)

def route_request(user_prompt):
    masked_prompt = mask_pii(user_prompt)
    
    # Kiểm tra độ phức tạp của yêu cầu
    complex_keywords = ['biến chứng', 'đau nhức', 'khiếu nại', 'điều trị sai']
    is_complex = any(word in masked_prompt.lower() for word in complex_keywords)
    
    if is_complex:
        # Gửi đến mô hình lớn (GPT-4)
        return 'Routing to GPT-4...', masked_prompt
    else:
        # Gửi đến mô hình nhỏ nội bộ (SLM)
        return 'Routing to Local SLM...', masked_prompt

# Demo chạy thử
print(route_request('Tôi muốn hỏi địa chỉ phòng khám và số điện thoại của tôi là 0901234567'))
print(route_request('Răng tôi bị đau nhức dữ dội sau khi bọc sứ'))

import re

def mask_pii(text):
    # Mask patient phone numbers for security
    return re.sub(r'\d{10}', '[MASKED_PHONE]', text)

def route_request(user_prompt):
    masked_prompt = mask_pii(user_prompt)
    
    # Check query complexity
    complex_keywords = ['complication', 'pain', 'complaint', 'wrong treatment']
    is_complex = any(word in masked_prompt.lower() for word in complex_keywords)
    
    if is_complex:
        # Route to premium model (GPT-4)
        return 'Routing to GPT-4...', masked_prompt
    else:
        # Route to local small model (SLM)
        return 'Routing to Local SLM...', masked_prompt

# Demo run
print(route_request('I want to ask for the address, my phone is 0901234567'))
print(route_request('My teeth are in severe pain after getting veneers'))