Azure OpenAI: Hướng dẫn tạo và triển khai Azure OpenAI A-Z

Azure OpenAI Service đã biết đến như một giải pháp toàn diện: cung cấp quyền truy cập các mô hình hàng đầu, chạy trong hạ tầng Azure bảo mật, tuân thủ và được quản trị chặt chẽ. Trong bài viết này, ITviec sẽ giúp bạn nắm rõ chi tiết quy trình kỹ thuật để tối ưu hóa, triển khai và quản lý các ứng dụng AI tạo sinh, đảm bảo khả năng mở rộng và hiệu suất cao trên Azure OpenAI.

Đọc bài viết để hiểu hơn về:

• Azure OpenAI là gì;
• Các tính năng chính của Azure OpenAI;
• Các trường hợp sử dụng Azure OpenAI;
• Hướng dẫn tạo và triển khai Azure OpenAI;
• Hướng dẫn sử dụng Azure OpenAI trong Applications;
• Các phương pháp hay nhất sử dụng Azure OpenAI.

Azure OpenAI là gì?

Azure OpenAI là bộ dịch vụ AI do Microsoft Azure cung cấp, hợp tác với OpenAI, cho phép doanh nghiệp và các nhà phát triển khai thác các mô hình ngôn ngữ tiên tiến trong một môi trường bảo mật, quản trị tốt và đáp ứng yêu cầu tuân thủ của doanh nghiệp.

Điểm mạnh của Azure OpenAI nằm ở khả năng tích hợp nhanh và triển khai đơn giản, không yêu cầu người dùng phải có kiến thức sâu về khoa học dữ liệu, machine learning hay toán học. Bạn có thể dễ dàng tích hợp liền mạch công nghệ AI vào ứng dụng của mình, từ chatbot thông minh, tự động hóa quy trình, phân tích dữ liệu, tạo nội dung, hoặc tinh chỉnh (fine-tune) mô hình cho nhu cầu riêng. 

Đọc chi tiết: Azure là gì: Hướng dẫn bắt đầu với Microsoft Azure

Các tính năng và lợi ích chính của Azure OpenAI

• Cung cấp quyền truy cập vào các mô hình OpenAI hàng đầu như GPT-4, GPT-3.5-Turbo, Codex, DALL-E 2/3 thông qua các API REST tiêu chuẩn.
• Bảo mật cấp doanh nghiệp:
  • Triển khai mô hình trong môi trường Azure riêng tư, dữ liệu của khách hàng không được sử dụng để đào tạo lại các mô hình OpenAI.
  • Tích hợp với Azure Virtual Network (VNet) và Azure Private Link để đảm bảo kết nối mạng an toàn.
  • Hỗ trợ xác thực bằng Azure Active Directory (Azure AD).
• Mô hình fine-tuning: Cho phép người dùng fine-tune các mô hình nền tảng (ví dụ: GPT-3.5) bằng dữ liệu riêng của họ để tạo ra các mô hình tùy chỉnh, chuyên biệt hóa cho nhiệm vụ cụ thể.
• Kiểm duyệt nội dung tích hợp, tự động sàng lọc các prompt và output để phát hiện và chặn nội dung độc hại.
• Khả năng mở rộng và độ tin cậy: Thừa hưởng cơ sở hạ tầng đám mây mạnh mẽ của Azure, đảm bảo khả năng mở rộng linh hoạt và độ tin cậy cao cho các ứng dụng sản xuất.
• Triển khai và quản lý đơn giản:
• Dễ dàng triển khai và quản lý các mô hình thông qua Azure Portal và Azure CLI.
• Hỗ trợ MLOps thông qua tích hợp với các dịch vụ Azure liên quan. 
• Tích hợp hệ sinh thái Azure: Tích hợp sâu rộng với các dịch vụ Azure khác như Azure Cognitive Search (cho RAG), Azure Data Factory, Azure Machine Learning.

Các trường hợp phổ biến thích hợp nhất để sử dụng Azure OpenAI

Dưới đây là những use case phù hợp nhất để dùng Azure OpenAI:

Chatbot hỗ trợ khách hàng

Azure OpenAI giúp doanh nghiệp triển khai chatbot GPT-4 hoạt động 24/7 để trả lời các câu hỏi đơn giản, giải quyết các vấn đề thường gặp của khách hàng một cách nhanh chóng, bằng ngôn ngữ dễ hiểu, giảm thời gian chờ đợi của khách hàng, giúp cải thiện dịch vụ chăm sóc khách hàng. 

Tạo nội dung và tóm tắt văn bản

Với Azure OpenAI Service, bạn có thể tạo nội dung văn bản chỉ trong vài giây như viết blog, email marketing, tài liệu kỹ thuật, hoặc tóm tắt báo cáo dài thành các bullet quan trọng. Phù hợp với team marketing, vận hành và nhóm sản xuất nội dung tốc độ cao.

Tạo và review code

Codex và các mô hình GPT có thể đề xuất code, review code, sửa lỗi, viết test case hoặc tài liệu kỹ thuật. Đây là trợ lý lý tưởng cho developer, QA, DevOps để kiểm tra mã nhanh hơn, giúp giảm lỗi trước khi triển khai. 

Tìm kiếm ngữ nghĩa (Semantic Search)

Với Azure OpenAI Service, bạn có thể xây dựng các công cụ tìm kiếm hiểu ngữ cảnh thay vì match từ khóa, giúp người dùng tìm thấy những gì họ thực sự cần. Công cụ này mang lại kết quả thông minh hơn, nhận diện ý nghĩa của các câu đầy đủ, giúp người dùng hài lòng hơn. Nó cũng giúp tăng năng suất trong nghiên cứu và ứng dụng web.

Dịch thuật và bản địa hóa ngôn ngữ

GPT-4 trong Azure hỗ trợ dịch đa ngôn ngữ chất lượng cao, có thể dịch theo thời gian thực. Phù hợp cho team toàn cầu cần làm việc cùng nhau, hoặc giúp tiết kiệm thời gian khi localizing nội dung. 

Phân tích và diễn giải dữ liệu

Azure OpenAI giúp dịch dữ liệu thành insight dễ hiểu bằng ngôn ngữ tự nhiên, giúp đưa ra quyết định tốt hơn. Lý tưởng cho Analyst cần chia sẻ báo cáo với team, manager và lãnh đạo cần đọc hiểu báo cáo nhanh. 

Trợ lý kiến ​​thức nội bộ

Một số công ty có lượng kiến ​​thức nội bộ khổng lồ. AI có thể giúp quản lý và chia sẻ kiến ​​thức này. Trợ lý nội bộ trả lời các câu hỏi của nhân viên theo thời gian thực, giúp nhân viên mới làm quen với công việc, cải thiện giao tiếp nội bộ. 

Hướng dẫn tạo và triển khai Azure OpenAI

Điều kiện

• Đăng ký Azure – Tạo một đăng ký miễn phí.
• Quyền truy cập để tạo tài nguyên Azure OpenAI và triển khai mô hình.

Tạo một nguồn tài nguyên

• Đăng nhập bằng tài khoản Azure của bạn trên cổng thông tin Azure.
• Chọn Create a resource và tìm kiếm Azure OpenAI → chọn Create.
• Trên trang Create Azure OpenAI, hãy cung cấp thông tin sau cho các trường trên tab Basics:

Trường	Mô tả
Subscription	Gói đăng ký Azure mà ứng dụng của bạn sẽ sử dụng để tích hợp Azure OpenAI.
Resource group	Nhóm tài nguyên Azure chứa tài nguyên Azure OpenAI của bạn. Bạn có thể tạo nhóm mới hoặc sử dụng nhóm có sẵn.
Region	Khu vực triển khai dịch vụ. Region khác nhau có thể gây chênh lệch độ trễ, nhưng không ảnh hưởng đến khả dụng của tài nguyên.
Name	Tên mô tả cho tài nguyên Azure OpenAI của bạn, chẳng hạn như MyOpenAIResource .
Pricing Tier	Mức giá cho tài nguyên. Hiện tại, chỉ có mức giá Standard dành cho Azure OpenAI.

• Chọn Next.

Cấu hình bảo mật mạng

Tab Network hiển thị 3 option cho loại bảo mật:

• Option 1: Cho phép tất cả các mạng, bao gồm cả internet, đều có thể truy cập vào tài nguyên này.

Đây là cài đặt mặc định – không cần cài đặt bổ sung nào cho tùy chọn này.

• Option 2: Chỉ cho phép các mạng cụ thể

Option thứ hai cho phép bạn xác định các mạng cụ thể có thể truy cập tài nguyên của bạn. Khi bạn chọn tùy chọn này, trang sẽ cập nhật để bao gồm các trường bắt buộc sau:

Trường	Mô tả
Virtual network	Chỉ định các mạng ảo được phép truy cập vào tài nguyên của bạn. Bạn có thể chỉnh sửa tên mạng ảo mặc định trong cổng thông tin Azure.
Subnets	Chỉ định các mạng con được phép truy cập vào tài nguyên của bạn. Bạn có thể chỉnh sửa tên mạng con mặc định trong cổng thông tin Azure.

Phần Firewall cung cấp trường Address range tùy chọn mà bạn có thể sử dụng để cấu hình cài đặt firewall cho tài nguyên.

• Option 3: Vô hiệu hóa quyền truy cập mạng

Option thứ ba cho phép bạn vô hiệu hóa quyền truy cập mạng vào tài nguyên của mình. Khi bạn chọn tùy chọn này, trang sẽ cập nhật để bao gồm bảng Private endpoint.

Bạn có thể tùy chọn thêm private endpoint để truy cập tài nguyên của mình. Chọn Add private endpoint và hoàn tất cấu hình endpoint.

Xác nhận cấu hình và tạo tài nguyên

• Chọn Next và cấu hình bất kỳ Tags nào cho tài nguyên của bạn theo ý muốn.
• Chọn Next để chuyển đến giai đoạn cuối cùng trong quy trình: Review + submit.
• Xác nhận cài đặt cấu hình của bạn và chọn Create.
• Cổng thông tin Azure sẽ hiển thị thông báo khi có tài nguyên mới. Chọn Go to resource.

Triển khai một mô hình

Trước khi có thể tạo văn bản hoặc suy luận, bạn cần triển khai một mô hình. Bạn có thể chọn từ một trong nhiều mô hình có sẵn trong cổng thông tin Foundry.

Để triển khai một mô hình, hãy làm theo các bước sau (áp dụng cho Foundry classic):

• Đăng nhập vào Microsoft Foundry. Đảm bảo nút chuyển New Foundry đã tắt. 
• Trong phần Keep building with Foundry, chọn View all resources.
• Tìm và chọn tài nguyên của bạn.
• Ở thanh điều hướng bên trái, chọn:
  • Deployments trong phần Shared resources (nếu dùng Foundry classic),
  • Hoặc Models + endpoints trong phần My assets (nếu đã nâng cấp sang Foundry mới).
• Chọn + Deploy model > Deploy base model để mở cửa sổ triển khai.
• Chọn Model mong muốn, sau đó chọn Confirm. Để biết danh sách các Model khả dụng theo từng khu vực, hãy xem Bảng tóm tắt Model và tính khả dụng của từng khu vực.
• Trong cửa sổ tiếp theo, hãy cấu hình các trường sau:

Trường	Mô tả
Deployment name	Tên gọi triển khai được sử dụng trong code khi bạn gọi mô hình bằng API hoặc client libraries. Hãy đặt tên dễ phân biệt.
Deployment type	Các loại Standard, Global-Batch, Global-Standard, Provisioned-Managed tùy nhu cầu workload.
Deployment details (Optional)	Thiết lập các cài đặt nâng cao nếu cần, tùy theo nhu cầu tài nguyên của mình.Content Filter: chọn bộ lọc nội dung áp dụng cho deployment.Tokens per Minute Rate Limit: đặt giới hạn tốc độ hiệu lực cho lần triển khai của bạn. Bạn có thể sửa đổi giá trị này bất kỳ lúc nào bằng cách sử dụng menu Quotas. Dynamic Quota cho phép bạn tận dụng thêm quotas khi có thêm dung lượng.

• Chọn Deploy.
• Sau khi gửi triển khai, bạn sẽ thấy trang Deployment details hiển thị toàn bộ thông tin cấu hình. Khi triển khai hoàn tất, trạng thái model Provisioning sẽ thay đổi thành Succeeded.

Hướng dẫn cách sử dụng Azure OpenAI trong Applications

Sau khi tạo tài nguyên và triển khai mô hình, bước tiếp theo là kết nối và gọi mô hình từ ứng dụng của bạn thông qua mã lập trình. Phần dưới đây minh hoạ với Python.

Thiết lập môi trường phát triển 

– Cài đặt các thư viện cần thiết:

$ pip install openai

– Nếu bạn đang sử dụng notebook, hãy thực hiện lệnh sau:

!pip install openai

– Nhập các packages cần thiết vào shell Python hoặc vào notebook:

import osfrom openai import AzureOpenAI

Lưu ý: AzureOpenAI là module dành riêng cho dịch vụ OpenAI trên Azure. Nó khác với module openai dùng cho API OpenAI độc lập.

Thiết lập API Key và Endpoint

Trước khi sử dụng Azure OpenAI, hãy thiết lập khóa API và endpoint trong môi trường. Không thiết lập API key trực tiếp trong mã nguồn, đây là best practice về bảo mật.

Có 2 cách:

Cách 1: Set API keys bằng terminal – dành cho người chạy Python cục bộ trên máy:

• Chỉnh sửa tệp .bashrc trong trình soạn thảo văn bản. 
• Ở cuối tệp, thêm hai dòng này:

export AZURE_OPENAI_API_KEY=MY_API_KEY

export AZURE_OPENAI_ENDPOINT=MY_ENDPOINT

• Lưu và đóng tệp.
• Tải lại các thay đổi trong terminal bằng lệnh source ~/.bashrc. 
• Đối với các loại shells khác, như sh hoặc zsh, quá trình có thể hơi khác một chút. 
• Mở (hoặc mở lại) shell Python trong cùng một phiên terminal. 
• Nhập khóa API và giá trị endpoint vào Python terminal:

azure_openai_api_key = os.getenv["AZURE_OPENAI_API_KEY"]

azure_openai_endpoint = os.getenv["AZURE_OPENAI_ENDPOINT"]

Cách 2: Thiết lập khóa API bằng online notebooks (DataLab)

DataLab cho phép bạn trực tiếp thiết lập các biến môi trường cho notebook.

• Từ thanh menu trên cùng, chọn Environment và chọn Environment variables từ dropdown. 
• Chọn option để thêm biến môi trường. 
• Thêm hai biến AZURE_OPENAI_API_KEY và AZURE_OPENAI_ENDPOINT và các giá trị tương ứng của chúng. 
• Đặt tên cho tập hợp giá trị môi trường này và lưu các thay đổi. 

Trong notebook, hãy trích xuất các giá trị này như hiển thị bên dưới:

azure_openai_api_key = os.environ["AZURE_OPENAI_API_KEY"]azure_openai_endpoint = os.environ["AZURE_OPENAI_ENDPOINT"]

Thực hiện lệnh gọi API đầu tiên tới Azure OpenAI

Bây giờ bạn có thể sử dụng hàm AzureOpenAI() này để tạo một đối tượng client đại diện cho kết nối của bạn tới Azure OpenAI:

client = AzureOpenAI(    api_version="2024-06-01",    api_key=azure_openai_api_key,    azure_endpoint=azure_openai_endpoint)

Các tham số chính:

• api_version: Phiên bản API Azure OpenAI. Kiểm tra phiên bản mới nhất trong tài liệu Azure. 
• api_key: Khóa API Azure OpenAI. Lấy khóa này từ các biến môi trường bạn đã thiết lập trước đó. Không thiết lập thủ công ở đây. 
• azure_endpoint: URL của Azure OpenAI API endpoint (lấy giá trị này từ môi trường). 

​​Sau khi khởi tạo client, bạn có thể gọi mô hình thông qua hàm:

.chat.completions.create(). 

Các tham số:

model

Đây là tên mô hình. Trong các phiên bản cũ hơn của OpenAI API, đây từng là tham số engine. Lưu ý rằng tham số model này phải khớp với mô hình được chỉ định trong quá trình triển khai (trên cổng thông tin Azure AI Foundry). Nếu bạn cố gắng sử dụng một mô hình khác với mô hình đã triển khai, nó sẽ báo lỗi như bên dưới: 

NotFoundError: Error code: 404 - {'error': {'code': 'DeploymentNotFound', 'message': 'The API deployment for this resource does not exist. If you created the deployment within the last 5 minutes, please wait a moment and try again.'}}

messages

Tham số này chỉ định cuộc trò chuyện giữa người dùng và mô hình. Nó bao gồm một tập hợp các đối tượng tin nhắn. Các đối tượng tin nhắn này cung cấp ngữ cảnh cho tương tác và hướng dẫn phản hồi của mô hình. 

Mỗi đối tượng tin nhắn có một cặp key-value được biểu thị bằng role (system, user, hoặc assistant) và content (nội dung của tin nhắn):

• user: lời nhắc được người dùng cuối nhập vào. 

Ví dụ: {“role”: “user”, “content”: “explain the difference between rational and irrational numbers”}

• system: mô tả vai trò mà OpenAI dự kiến ​​sẽ đóng trong tương tác. 

Ví dụ: {“role”: “system”, “content”: “you are a helpful teacher to guide elementary mathematics students”}

• assistant: phản hồi mong đợi từ OpenAI. 

Ví dụ: {“role”: “assistant”, “content”: “the difference between rational and irrational numbers is … an example explanation …”}

Lưu ý:

• Khi gọi API thông thường, bạn chỉ cần user hoặc kết hợp user và system.
• Role assistant chỉ cần thiết khi chuẩn bị dữ liệu để fine-tune mô hình.

max_tokens

Tham số này quyết định số lượng token tối đa có thể được sử dụng để xử lý (cả input và output) lệnh gọi API. Bạn sẽ bị tính phí trực tiếp cho số token bạn sử dụng. Giá trị mặc định là 16. Giá trị này đủ cho các trường hợp sử dụng đơn giản (do đó, có thể bỏ qua tham số này). 

simple_completion = client.chat.completions.create(    model="gpt-35-turbo",      messages=[        {            "role": "user",            "content": "Explain the difference between OpenAI and Azure OpenAI in 20 words",        },    ],)

Print output của tác vụ hoàn thành trò chuyện:

print(simple_completion.to_json())

Output là một đối tượng JSON với nhiều cặp key-value khác nhau. Nó bao gồm đầu ra của mô hình, như được hiển thị trong ví dụ bên dưới. Lưu ý rằng đây là vai trò assistant mặc định được gán cho mô hình. 

"message": {   "content": "OpenAI is a research organization focused on advancing AI, while Azure OpenAI is a collaboration between Microsoft and OpenAI.",   "role": "assistant"},

Sau khi khởi tạo client và gọi được mô hình, bạn có thể sử dụng Azure OpenAI cho nhiều tác vụ khác nhau.

Các phương pháp tốt nhất để sử dụng Azure OpenAI

Giám sát và quản lý mức sử dụng API

Azure OpenAI là một trong những dịch vụ đắt đỏ nhất của Azure, và các khoản tín dụng miễn phí không áp dụng cho API này. Do đó, việc theo dõi mức sử dụng là rất cần thiết, ngay cả đối với người dùng mới, tránh phát sinh chi phí lớn ngoài dự kiến.

Phí OpenAI được tính dựa trên mức sử dụng và mức tiêu thụ token. Token đại diện cho các đơn vị văn bản được mô hình xử lý – cả cho input và output. Văn bản càng dài, bạn càng tốn nhiều token. Bạn càng sử dụng nhiều token, bạn càng phải trả nhiều tiền. 

Vì vậy:

• Hãy tiết kiệm thông tin bạn cung cấp cho mô hình hoặc yêu cầu nó tạo ra. 
• Sử dụng tham số max_tokens để giới hạn số lượng token được sử dụng trong yêu cầu đó. 
• Đối với mô hình sản xuất, hãy thử nghiệm để xác định số lượng token mà yêu cầu hoặc người dùng của bạn thường cần và giới hạn mức sử dụng cho phù hợp. Tăng giới hạn tùy từng trường hợp. 

Để theo dõi các số liệu cơ bản:

• Từ trang chủ Azure AI Services | Azure OpenAI, hãy chọn tài nguyên cần theo dõi. 
• Trên trang tài nguyên, chọn tab Monitor để xem nhiều số liệu khác nhau, chẳng hạn như số lượng yêu cầu HTTP và số lượng mã thông báo được xử lý trên mỗi mô hình và mỗi lần triển khai. 

Bạn cũng có thể xem số liệu chi tiết hơn:

• Từ tùy chọn Monitoring ở menu bên trái, chọn Metrics. 
• Trong pop-up Select a scope, hãy chọn phiên bản OpenAI (đánh dấu vào checkbox)
• Chọn Apply.

Trên trang Metrics:

• Chọn cửa sổ thời gian ở góc trên bên phải. 
• Từ thanh menu ở đầu biểu đồ (ban đầu trống), hãy chọn số liệu phù hợp từ danh sách thả xuống Metric. Chọn từ nhiều số liệu khác nhau như:

• Yêu cầu Azure OpenAI, 
• Thống kê về việc sử dụng mã thông báo (mã thông báo đang hoạt động, mã thông báo đã tạo, v.v.)
• Hiệu suất của các lệnh gọi API (thời gian đến byte đầu tiên, v.v.) và nhiều hơn nữa. 

Cuối cùng, hãy luôn thiết lập giới hạn ngân sách cho tài khoản API và cấu hình cài đặt để nhận cảnh báo qua email khi vượt quá ngưỡng ngân sách. 

Fine-tuning mô hình

Các mô hình cơ sở của OpenAI được đào tạo trên các tập dữ liệu khổng lồ bao gồm nhiều lĩnh vực khác nhau. Nhìn chung, có ba cách khác nhau để có được kết quả mong muốn từ các mô hình LLM: 

• Prompt engineering: Thêm hướng dẫn đủ rõ ràng vào prompt. Đối với hầu hết các trường hợp chỉ cần cách này.
• Few-shot learning: Trong trường hợp kỹ thuật gợi ý không đủ hiệu quả, hãy thêm một vài ví dụ vào gợi ý để giúp mô hình hiểu được phản hồi mong muốn của người dùng. 
• Fine-tuning: Huấn luyện lại một phần của mô hình cơ sở bằng dữ liệu nội bộ chất lượng cao. Dùng khi bạn cần mô hình hoạt động trong một miền kiến thức rất chuyên biệt (ví dụ hướng dẫn sửa chữa thiết bị chuyên dụng). Việc tạo văn bản về chủ đề này đòi hỏi phải sử dụng thuật ngữ chuyên ngành và các mẫu ngôn ngữ, vốn không có trong các tập dữ liệu công khai (mà các mô hình cơ sở được đào tạo dựa trên đó). 

Bạn có thể fine-tune mô hình cơ sở nếu việc Few-shot learning và Prompt engineering không giúp đưa ra được phản hồi đúng. 

Bảo mật khóa API

API key bị lộ có thể dẫn đến:

• Rò rỉ dữ liệu nhạy cảm
• Các hành vi độc hại/phi pháp
• Bị spam request dẫn tới chi phí tăng đột biến

Vì vậy, tuyệt đối không hard-code API key trong mã nguồn.

Các cách tốt nhất để bảo vệ API Key:

• Đối với các dịch vụ đám mây, hãy sử dụng các công cụ quản lý khóa như AWS Secrets Manager và Azure Key Vault.
• Sử dụng tệp .env để lưu trữ khóa theo định dạng key-value. Thêm tệp này vào danh sách .gitignore để đảm bảo nó không bị lưu vào kho lưu trữ mã. 
• Với notebook như Jupyter/DataLab, hãy sử dụng tùy chọn lưu trữ khóa như một phần của môi trường. 
• Hạn chế quyền của từng key (nguyên tắc least privilege).
• Luân chuyển hoặc tạo lại khóa định kỳ để tránh việc sử dụng sai khóa cũ trong trường hợp chúng bị rò rỉ.

Các câu hỏi thường gặp về Azure OpenAI

Azure OpenAI có cho phép fine-tune mô hình không?

Có. Azure OpenAI cho phép bạn fine-tune các mô hình cơ sở (base models) bằng tập dữ liệu huấn luyện và xác thực riêng.

• Base model: mô hình gốc, chưa được tùy chỉnh cho một use case cụ thể.
• Fine-tuned model: phiên bản đã được tùy chỉnh, trong đó một số trọng số của mô hình được huấn luyện lại thông qua các tập dữ liệu đào tạo và xác thực phù hợp với trường hợp sử dụng cụ thể. 

Fine-tuning giúp mô hình tạo ra kết quả chính xác hơn mà không cần nhiều ví dụ trong prompt. Tuy nhiên, cần lưu ý rằng hiệu suất của mô hình fine-tune phụ thuộc rất nhiều vào chất lượng dữ liệu huấn luyện. Dữ liệu chất lượng kém hoặc dữ liệu không liên quan sẽ dẫn đến hiệu suất giảm so với mô hình cơ sở.

Có thể sử dụng ngôn ngữ nào với Azure OpenAI API?

Azure OpenAI hỗ trợ nhiều ngôn ngữ khác nhau như C#, Go, Java, JavaScript, Python và cung cấp REST API cho các ngôn ngữ khác. Python là một trong những ngôn ngữ được sử dụng phổ biến nhất do tính phổ biến trong lĩnh vực khoa học dữ liệu và AI/ML. Quan trọng hơn, hệ sinh thái Python bao gồm nhiều công cụ để làm việc với các tập dữ liệu lớn. Để tích hợp với các ứng dụng phía máy chủ, hãy sử dụng cùng ngôn ngữ với phần còn lại của ứng dụng.

Mức giá sử dụng Azure OpenAI là bao nhiêu?

Azure OpenAI hỗ trợ 2 mô hình định giá:

• Pay-as-you-go (định giá theo mức sử dụng)
  • Tính phí theo số token tiêu thụ.
  • Linh hoạt cho workloads biến động.
  • Provisioned Throughput Units (PTU)
• Cho phép đặt trước lượng xử lý (throughput) ổn định.
• Phù hợp với workloads có nhịp sử dụng nhất quán, hoặc có thể dự đoán trước, giúp kiểm soát chi phí tốt hơn.

Những mô hình nào có sẵn thông qua Azure OpenAI?

Azure OpenAI cung cấp quyền truy cập vào nhiều mô hình tiên tiến bao gồm GPT-3.5-Turbo, GPT-4 và DALL-E, Whisper, Babbage và Davinci.

So sánh Azure OpenAI vs OpenAI

Azure OpenAI sử dụng chính các mô hình của OpenAI, nhưng được vận hành trong hạ tầng Azure với:

• Bảo mật doanh nghiệp theo chuẩn Microsoft
• Tuân thủ và quản trị tập trung
• Khả năng tích hợp sâu với ecosystem Azure

Azure OpenAI đồng phát triển các API với OpenAI, đảm bảo khả năng tương thích và chuyển đổi mượt mà giữa các API.

Tóm lại: Với Azure OpenAI, khách hàng có được khả năng bảo mật của Microsoft Azure trong khi chạy cùng các mô hình như OpenAI.

Tổng kết

Azure OpenAI kết hợp các mô hình tiên tiến của OpenAI với các công cụ fine-tuning mạnh mẽ, khả năng bảo mật và mở rộng vô hạn của Azure, đảm bảo toàn bộ chu trình phát triển sản phẩm AI diễn ra hiệu quả và an toàn. Khi hiểu rõ quy trình và best practices như ITviec đã hệ thống, bạn có thể xây dựng các ứng dụng AI hiệu quả, tối ưu chi phí và đảm bảo tuân thủ, sẵn sàng đưa AI vào sản xuất một cách bền vững.